«TAdviser SummIT. Лучшие ИТ-практики в России 2025»: секция «Искусственный интеллект»

Потенциал генеративного ИИ превышает ожидания

Когда ты работаешь в качестве технолога, айтишника, то тобой управляют бизнес-заказчики. В судьбе технического подразделения редко выпадает шанс по-настоящему перевернуть бизнес, проявить себя. Технологическая волна нового времени — это не просто тренд. Это наш с вами шанс быть инициаторами перемен и что-то возглавить в компании. Предыдущий шанс мы получили в тот момент, когда компании стали внедрять мобильные приложения. Внедрение искусственного интеллекта — это такая же крутая возможность, — говорит Кирилл Кибалко, независимый эксперт, который выступил по совместительству модератором этой сессии.

Кирилл Кибалко, независимый эксперт

Он прошелся по трендам и предложил рассмотреть, что сейчас происходит в мире. Генеративный искусственный интеллект все чаще используют в качестве корпоративного инструмента. «Я не знаю, какая еще отрасль в этом году имеет такой же объем инвестиций, как генеративный ИИ», — отмечает спикер. Он приводит цифры из отчета Accenture под названием Making Reinvention Real With GenAI, 2025, в котором сказано: 83% опрошенных руководителей полагают, что потенциал GenAI для достижения положительных бизнес-результатов превышает их первоначальные ожидания.

В три раза больше компаний, чем годом раньше, начинают инвестировать не просто в искусственный интеллект, но в ИИ-агентные архитектуры, способные переосмысливать целые рабочие процессы. ИИ-агенты на основе больших языковых моделей становятся новой основой автоматизации процессов. К внедрению ИИ бизнес теперь применяет стратегический подход. Организации, успешно масштабирующие решения GenAI, в 4,5 раза чаще стратегически инвестируют в агентную архитектуру, закладывая основу для непрерывной реинвенции. Это показатели все из того же отчета от Accenture.

На фоне радужных новостей есть и настораживающие цифры. Так, лишь 36% опрошенных руководителей заявляют, что им удалось масштабировать решения GenAI. Только 13% говорят о создании значительной ценности на уровне предприятия, а не на уровне отдельных пилотов. Почему? Кирилл Кибалко полагает, что причиной тому может быть следующее: только 35% руководителей имеют дорожную карту, то есть план того, как именно генеративный интеллект изменит их рабочую силу.

Я считаю, что эта отрасль, эта технология еще полностью не раскрыта. Чтобы ее раскрыть, необходим более взвешенный и системный подход. А ИИ-агенты, работающие по гибкой, подстраивающейся логике, способны реально заменить людей, — уверен спикер. — Поэтому теперь стоит смотреть на архитектуру предприятия под новым углом. И при создании дорожной карты внедрения генеративного ИИ важно думать не о том, что мы создадим какого-то еще интеллектуального помощника. Стоит подумать, как мы трансформируем нашу компанию, когда на месте 50 сотрудников вдруг появятся 50 тысяч, причем за те же деньги.

Цифры, приведенные модератором, понравились Александру Котельникову, руководителю департамента технологий «Индустрии 4.0» из компании «ЕвроХим»:

Там говорилось, что только 13% компаний имеет дорожную карту. Получается, мы вошли в эти проценты, потому что у нас есть карта внедрения ИИ в компании. Я расскажу, какой подход мы применяем, чтобы ее создать. Сейчас у нас реализовано 37 проектов, что означает работу 37 рекомендательных модели, которые трудятся на химическом производстве.

Александр Котельников, руководитель департамента технологий «Индустрии 4.0», «ЕвроХим»

Результаты такой работы говорят сами за себя: за два с половиной года компания заработала благодаря этому внедрению 2,75 млрд рублей. Цель на 2027 год — 9 млрд. Из внедренных моделей 25 оказывают прямой экономический эффект.

Что касается дорожной карты развития, то мы начали эту активность в 2022 году, когда пересобрали свою стратегию цифровизации производства. С самого начала было решено применять системный подход, — делится опытом спикер. — Мы смотрели на компанию с разных точек зрения: с точки зрения принятия решений, с точки зрения цепочки создания ценностей. Эта цепочка была разбита на элементы, а потом мы последовательно прорабатывали с каждой нашей бизнес-единицей те гипотезы, которые эту цепочку могут улучшить.

Для формирования портфелей гипотез тут применяется проблемно-ориентированный анализ по каждому элементу цепочки создания ценности.

LLM или агенты на их основе (ИИ-агенты), встроенные в корпоративные системы, могут улучшить принимаемые решения, предоставляя значимую информацию или вырабатывая оптимальный образ действий. За счет применения мультиагентных платформ (например, n8n) рутинные операции автоматизируются, причем ИИ-агент будет учитывать контекст.

Стратегические решения очень сложны, их тяжело готовить. Агенты помогают собирать информацию, потому что создать модель окружения компании уровня «Еврохим» означает описать весь мир, — говорит Александр Котельников. — Чтобы это было возможно, у нас есть OSINT-модули, которые парсят весь мировой новостной поток. Это 7 млн событий в год на почти всех языках мира, хотя больше всего нас интересует русский, английский, португальский и хинди — это наши основные рынки. На основании этих новостей мы строим событийную модель влияния на отрасль. Она предоставляется нашим руководителям, которые опираются при принятии решения и на нее в том числе.

Стратегия внедрения и развития LLM или агентских решений в «Еврохиме» строится на основе анализа состава решений, принимаемых в узловых точках бизнес-процессов компании.

Залог успешного внедрения заключается в том, чтобы найти экономический драйвер гипотезы, — считает докладчик. — Если ваше решение лежит в плоскости, где функция зарабатывает прямые деньги, то там нужно найти драйвер. В производстве, например, это, в первую очередь, простои и оптимальное ведение технологического режима. В закупках это конкурентность и проблема невовлеченных запасов.

Агентский ИИ выходит за рамки автоматизации задач: он действует на основе целей, а не правил, и способен к самообучению. Например, ИИ-агенты могут формировать заявки на потребности, открывать конкурсы на b2b-площадках, находить и квалифицировать поставщиков, обрабатывать результаты конкурсов. Агентам может быть выдана доверенность и на заключение договора. Они в состоянии автоматически обрабатывать заявки и в том случае, если запрос клиента находится в пределах агентских полномочий, могут заключать сделки. Такие помощники используются всюду.

Мы идем в мультиагентные системы. Это элемент нашей стратегии, поэтому активно изучаем эту тему и очень рассчитываем, что с помощью агентов мы сможем существенно ускорить «Еврохим», — подчеркивает выступающий.

В компании прогнозируют, что до 85% рутинных процессов к 2027 году будут выполняться без участия человека. При этом сотрудники не заменяются, но усиливаются, а ИИ становится частью ИТ-инфраструктуры.

Мы работаем в очень плотной связке с бизнесом. Они вовлечены во все. Именно это позволяет нам оставаться окупаемыми в этой истории, — подводит итог Александр Котельников.

ИИ посмотрит вашу меланому и посоветует, что делать с гипсом

Погрузить аудиторию в тему ИИ с медицинским привкусом пообещал Алексей Остроушко, руководитель ИТ, сеть клиник «Будь здоров». Он сразу признается в двух своих ошибках:

Еще три года назад я считал, что мобильные приложения никому не нужны. Есть мобильная верстка для сайтов. Потом я передумал и теперь всем рекомендую делать такие приложения, внедрять их. Такая же история и с искусственным интеллектом. Я считал, что это игрушка, а теперь поменял свое мнение и покажу, к чему это привело.

Алексей Остроушко, руководитель ИТ, сеть клиник «Будь здоров»

Что касается мобильного приложения, то тут прошли долгий путь и в итоге сменили двух подрядчиков, после чего стали разрабатывать продукт сами. Теперь месячная аудитория приложения «Будь здоров» составляет 78 000 человек. 77% клиентов, приходящих в сеть клиник, используют это приложение и для того, чтобы записаться на прием, и для того, чтобы проконсультироваться у искусственного интеллекта.

Мы встроили в наше бесплатное приложение искусственный интеллект, который по принципу светофора с довольно высокой точностью определяет, нужно ли эту родинку срочно показать дерматологу. Проанализировали за 3 месяца 3000 изображений кожи. При этом 12% тех, кто сфотографировал свою кожу, потом так или иначе оказываются у дерматолога. Вообще, стоит помнить, что меланома — один из самых агрессивных раков, ее стоит отлавливать вовремя, — напоминает докладчик.

ИИ общается с человеком в текстовом формате, собирает анамнез, подсказывает, что делать прямо сейчас, и, по необходимости, записывает к врачу на удобный день и время. GPT-ассистент посредством диалога с пользователем способен выявить симптоматику, на основе больших данных проанализировать жалобы и подсказать, к какому профильному специалисту лучше обратиться за очной консультацией. Используя алгоритмы машинного обучения и обширные базы данных, GPT-ассистент быстро и удобно для пользователя собирает информацию о симптомах и предполагает возможные причины заболеваний, что существенно упрощает диагностику и экономит время не только пациентов, но и врачей.Российский рынок ITSM: оценки, технологические тренды, крупнейшие поставщики. Обзор TAdviser 19.5 т

В этом году у клиники появляются новые сервисы для диагностики состояния зубов, для анализа когнитивных способностей и проведения работ по корректировке ситуации. Это что касается мобильного приложения. Однако трудится ИИ и в самой клинике. Сейчас тут их семь штук. Интересный случай произошел в радиологии. Стали отсматривать старые ковидные снимки и увидели, что там иногда встречаются области начала рака.

Врач-рентгенолог видел ковид, но не обращал внимания на другие области, тем более, что они маленькие.

Мы получили такие данные и созвонились с этими людьми из снимков, пригласили их на осмотр, — говорит Алексей Остроушко. — Мы посмотрели в прошлое с помощью ИИ. Хорошо, что все КТ- и МРТ-снимки накапливаются в системах. Поэтому у нас есть накопленные знания за 3-5 лет. Искусственный интеллект, примененный в правильном месте и правильными инструментами, порождает интересное.

Опыт разработки и использования бота технической поддержки с генеративным ИИ на базе RAG представил собравшимся Александр Симонов, руководитель проектов по digital-сервисам «Кнауф», «Кнауф Гипс».

Компания является лидером гипсовой промышленности ^[1] и основоположником современной практики отделочных работ. Российский бизнес «Кнауф» насчитывает 20 производственных предприятий, выпускающих широкий ассортимент продуктов для высокотехнологичного строительства: листовые материалы на основе гипса и цемента, элементы каркаса из металла, полный спектр продукции для штукатурных работ, в том числе механизированных.

Александр Симонов, руководитель проектов по digital-сервисам «Кнауф», «Кнауф Гипс»

Зачем тут понадобился чат-бот с искусственным интеллектом?

Мы предлагаем не только штукатурку и шпаклевку, но также технологию строительства. Рассказываем, как правильно собрать стену, пол, потолок из наших материалов. Поэтому с помощью бота мы решаем проблему правильного консультирования клиента. Даже продакт-менеджер не всегда может правильно сориентироваться в нюансах, — объясняет предпосылки докладчик.

Спектр продуктов компании широк, чего не скажешь о человеческом ресурсе. При этом есть большая потребность в медиаконтенте. Сначала компания привлекала большое количество подрядчиков, чтобы такой контент производить. Больше подрядчиков – больше документов и согласований. Длинная цепочка согласований ведет к чрезмерной бюрократизации документооборота. В общем, одно цепляется за другое и приводит к проблемам. Решать их начали с помощью искусственного интеллекта.

Разработку бота начали со сценариев. Было это в 2022 году. После двух лет использования сценарного бота оказалось, что пользователи уже услышали про ИИ и хотят общаться с ним.

Они задавали всякие вопросы, а потом видели, что это не искусственный интеллект, и сразу уходили. То есть до решения вопросов дело даже не доходило, — признается докладчик.

Были и другие сложности, например, поддерживать актуальность сценариев и информации трудозатратно по времени.

В конце 2024 в чат-бот KAI внедрен полноценный генеративный искусственный интеллект. Теперь бот поддерживает живое общение, а не говорит заготовленными фразами. Базу вопросов и ответов собирали во всех каналах целый год. Собранные вопросы пользователей и ответы технической поддержки придали настоящую живость ответам бота. Бот отвечает на вопросы по продуктам компании с учетом технических характеристик и технологических рекомендаций использования. Делает выводы на основе полученных данных. Если бот не находит точную нужную информацию, то он формулирует грамотный логичный ответ, как от технической поддержки. Дает общие рекомендации. Впрочем, и новым знаниям он обучается быстро, достаточно загрузить текстовые данные и визуалы в базу знаний. Экономия времени на корректировку данных бота составляет 80%.

Теперь, когда компания «Кнауф» распробовала искусственный интеллект, у нее начали образовываться новые планы. Тут хотят создать комбинированного бота (ИИ плюс сценарии), сделать закрытого бота в Telegram для быстрой выдачи информации по продуктам сотрудникам компании и дилерам. Поддерживать пользователей в телефонном канале с помощью бота. Создать админку для работы с базой знаний ИИ без помощи подрядчика, чтобы загружать туда документы и контролировать актуальность знаний самостоятельно.

Как ИИ помогает вести госпаблики Смоленской области, рассказала Александра Антропова, главный специалист отдела «Ситуационный центр губернатора Смоленской области», СОГАУ «Центр информационных технологий». Сейчас все государственные органы обязаны вести свои страницы в VK и OK. Причем показатели пабликов влияют на рейтинг губернатора и другие федеральные рейтинги.

Александра Антропова, главный специалист отдела «Ситуационный центр губернатора Смоленской области», СОГАУ «Центр информационных технологий»

Кроме того, с помощью таких страничек мы информируем граждан, решаем их проблемы и вообще оказываемся к ним ближе. Но при выполнении такого рода обязанностей мы и сами сталкиваемся с проблемами. Представьте, что сейчас в Смоленской области 2 427 госпабликов. Это действительно много. Даже у маленькой сельской библиотеки должен быть свой госпаблик. У них иногда нет интернета, но паблик должен быть, — обрисовывает ситуацию докладчица.

Сотрудники, которые должны вести эти соцсети, тоже не всегда квалифицированы и способны выполнять требуемые показатели, например, когда нужно публиковать 4 поста в неделю. Качество контента низкое.

Это связано с тем, что мы не можем найти 2500 опытных смм-щиков и копирайтеров. Чаще всего, берут просто кого-то из сотрудников организации. Меня и саму так взяли, я теперь тоже веду паблик. А показатели, к которым мы должны стремиться, постоянно растут, — говорит Александра Антропова.

И если 4 поста в неделю печатать не проблема, то вот собирать нужное количество реакций в виде не только лайков, но и комментариев действительно сложно. Любой, кто ведет собственную страницу в соцсети, точно знает, что иногда и один лайк — уже достижение. Заключительный аккорд в этой симфонии — реакции пользователей должны быть непременно позитивны! Это уж и вовсе из области фантастики.

В общем, область взмолилась к нейросети. Протестировали YandexGPT, GigaChat и даже ChatGPT.

В результате мы поняли, что не готовы отказаться ни от одной из этих моделей. Уже хотели купить доступы везде, но тут к нам обратились ребята из Just AI со своим продуктом Jay Copilot. И это оказался тот инструмент, что нам нужен, — делится подробностями выступающая.

Решение дает доступ к разным моделям нейросетей в одном интерфейсе. Позволяет извлекать готовые новости из отчетов. Тут есть разные приложения, например, «Копирайтер» и «Иллюстратор». Кроме того, приятно радует защита чувствительных данных с помощью JayGard.

Первым подопытным кроликом стала сотрудница пресс-службы Елена, которая до этого никогда не пользовалась нейросетями и даже о них не слышала. Ее впечатления выглядят так:

Удобство и скорость генерации контента стали настоящим спасением в условиях динамичного рабочего графика. Теперь я могу быстро создавать посты для соцсетей и сосредоточиться на других задачах. Современные алгоритмы системы помогают генерировать оригинальные идеи и форматы, что разнообразит контент и привлекает внимание подписчиков.

После внедрения Jay Copilot удалось увеличить показатель вовлеченности аудитории на 75%. Позитивность реакций увеличилась на 58%. Время подготовки одной единицы контента сократилось больше, чем в 2,5 раза. Инструмент используется и для других задач. Например, он пишет речь губернатора на основе его же отчета. Разумеется, сотрудники поначалу сопротивлялись и не хотели пользоваться продуктом. Однако их обучили, а решение продолжает масштабироваться.

Нейросети осудят себя сами

Проблемы, которые может решить ИИ, есть не только у государственных ведомств, но и у негосударственных пенсионных фондов, где сотрудники не умеют пользоваться фильтрами в СЭД и долго ищут нужные документы. Александр Житин, руководитель направления процессного анализа, НПФ «Будущее», лично предложил внедрить им в помощь генеративный искусственный интеллект.

Александр Житин, руководитель направления процессного анализа, НПФ «Будущее»

Я инициировал данный проект в августе 2024 года. К октябрю сформировали техническое задание, было проведено первое демо. В нем чат-бот выдавал совершенно безумные ответы. Мог создать калькулятор на Python, например. Конечно, мы эту функцию убрали, и теперь он отвечает только на вопросы по документам, — говорит спикер и приводит на слайдах интерфейс продукта.

Пользователь всегда может оценить ответ, который был получен. Такая кнопка прикручена к каждой реплике от бота.

Летом 2025 года решение вывели в промышленную эксплуатацию. В основе чат-бота лежит предобученная LLM открытого доступа и технология RAG. Теперь время поиска документа сократилось на 66%. «Считаю, это классный результат», — комментирует Александр Житин. В будущем этого чат-бота планируется растиражировать на хелп деск.

Как бизнесу понять, а хорошо ли вообще у него работает ИИ? Использовать для этой цели каскадное тестирование нейросетевых моделей предлагает Валентин Каськов, директор по ИТ. международный холдинг «Специальные системы и технологии». Разумеется, у нас есть ГОСТ Р59898-2021. Если прочитать все положения, то это хорошее подспорье, учащее разговаривать с айтишниками на языке технологий — так считает докладчик.

Валентин Каськов, директор по ИТ. международный холдинг «Специальные системы и технологии»

Еще один подход для оценки качества и работоспособности LLM разработал «Сбер». Метод основан на получении нового пользовательского опыта. Компания создает новый интерфейс на базе искусственного интеллекта и смотрит, насколько он нравится людям, повышает ли уровень их удовлетворенности. Проверяется среднее время выполнения клиентского пути, доля решений, принятых без участия человека, доля продуктов и услуг, параметры которых подобраны под пользователя, а также затраты на единицу продукции. Если все это выглядит неинтересно, то решение выбрасывается.

Каскадное же тестирование предполагает, что качество работы одних нейросетей можно испытывать с помощью других нейросетей.

Есть позитивный опыт зарубежных стартапов, разработавших нейросети для подобной оценки. Но в нашем методе есть отличие, заключающееся в том, что используются мультиагентные кластеры, где каждому агенту в отдельности назначается отдельная нейросеть, и они друг с другом взаимодействуют. Они сами определяют иерархическую структуру кластера, слои внутри этого кластера, и сами назначают нейросеть-арбитра, которая вынесет итоговое решение: справилась ли подопытная нейросеть с задачей или нет, — объясняет спикер. — По итогу мы получаем набор плохих и хороших ответов, позволяющих определить, насколько нейронка хорошо обучена. На основании подобного отчета также получается строить процесс дообучения.

В зависимости от набора вопросов для подопытной нейросети меняются каскады верификации. При необходимости, по решению участвующих нейросетей, арбитр может быть заменен. Однако полностью исключить людей из этого процесса все равно невозможно.

Но в целом метод применим, интересен. Пользуйтесь. Мы используем такой метод у себя, — предлагает Валентин Каськов.

Банки гадают на картах Таро

Генеративный ИИ в бизнесе применяют для обнаружения мошенничества, персонализации клиентского опыта, оптимизации ИТ, оценки рисков и так далее. Светлана Мумрина, руководитель по развитию автоматизированных каналов обслуживания, ПСБ, не только рассуждала об областях применения, но и рассказала, как именно используется искусственный интеллект у них в банке.

Светлана Мумрина, руководитель по развитию автоматизированных каналов обслуживания, ПСБ

Чат-банк для бизнеса по имени Катюша присутствует практически везде: в интернет-банке, мобильном банке, контакт-центре и трех сторонних мессенджерах, например, в VK. Именно на последнем случае докладчица остановилась подробнее, так как там есть дополнительный подпродукт.

Сейчас предприниматели, как правило, ведут всю коммуникацию с контрагентами, партнерами и своими сотрудниками в мессенджере. Наша цель заключалась в том, чтобы клиенты могли решить все свои вопросы без перехода в другой канал, — объясняет предпосылки создания этого подпродукта Светлана Мумрина.

Если контрагент пришлет платежное поручение, то клиент ПСБ теперь может оплатить его прямо в мессенджере. В данном случае, в VK. Оплатить можно по QR-коду, по фото, по вложенному документу. Есть возможность повторять платежи из истории и выставлять счета на оплату.

Уже несколько лет консалтинговое агентство Markswebb определяет наше решение как лучший чат-бот для бизнеса, — подчеркивает выступающая.

Катюша не только проводит платежи. Она также умеет проконсультировать по тарифам, помогает в работе с мобильным и интернет-банком, решает вопросы по торговому эквайрингу, облегчает рутинные задачи предпринимателя с помощью ИИ-ассистентов и мягко продает дополнительные банковские продукты. В чатах Катюша закрывает 55% обращений без переключения на оператора. В звонках этот процент меньше и составляет 37%. Катюша провела 70 тысяч платежей в VK в 2024 г, что на 20% больше, чем годом ранее.

Предприниматель может делегировать свои обязанности ИИ-ассистентам, нажав кнопку «GPT для бизнеса». «Селлер» сгенерирует описание карточки товара, ответы на отзывы, классифицирует отзывы от покупателей. «SMM-специалист» придумает рекламный текст и заголовок к нему, создаст контент-план или логотип. «HR-партнер» готовит вопросы для интервью или описание вакансии, делает выжимку из резюме.

Кроме того, тут начали тестировать RAG для помощи сотрудникам, чтобы облегчить работу по внутренним документам. Промежуточные результаты пилота с RAG — доля успешных ответов выросла с 40% до 75%, а вот доля ответов, вводящих в заблуждения, снизилась до 3%. «В последнее время она и вовсе упала до нуля», — отмечает Светлана Мумрина.

Какие бы ни были технологии — бизнес все время думает о поиске новых клиентов. Этот банк пошел на хитрость. Теперь здесь ловят новичков на удочку валентинок и карт Таро. Валентинки генерируют YandexART и YandexGPT. Сначала это был просто милый сервис для клиентов, а потом к нему прикрутили механику продаж. Получателю открытки предлагалось привести в банк друга и оформить счет.

На 8 марта ничего не получилось, признаюсь честно, — говорит докладчица. — Но мы не остановимся, потому что перед Новым годом мы предлагали погадать на картах Таро, и за счет этого привлекли 20 новых счетов, так что сработало.

ChatGPT как массовый триггер

Зачем нужна фабрика LLM-ассистентов, рассказал Владислав Балаев, руководитель практики центра компетенций больших данных и искусственного интеллекта, ЛАНИТ. Для начала он разобрал проблемы при внедрении генеративного ИИ, а помогал в этом спикеру сам ИИ в виде ассистента по имени Ландэвид. Этот товарищ для начала посчитал, что основная проблема заключается в людях, но потом все же уточнил — внедрение длится долго и стоит дорого.

Я проанализировал ваши сообщения в CRM-системе. Основная причина отказавшихся заказчиков — слишком высокие затраты на GPU-ресурсы, — считает Ландэвид.

Владислав Балаев, руководитель практики центра компетенций больших данных и искусственного интеллекта, ЛАНИТ

Еще одна причина — непрогнозируемость результатов в проектах по внедрению машинного обучения. «Из-за качества и количества данных в начале проекта мы часто вообще не знаем, решаема задача или нет», — комментирует Владислав Балаев. Gartner тоже дает не самый утешительный прогноз: к концу 2025 года 30% проектов с генеративным ИИ будут брошены на стадии проверки концепции.

В компании ЛАНИТ решили, что с этим нужно что-то делать. Проблему дороговизны предложили преодолеть своего рода централизацией. Сделать единые графические вычислительные ресурсы, которые будут доступны всем в компании. Чтобы это сработало, нужно также иметь средства мониторинга, трейсинга и масштабирования. Проблему под названием «долго» можно забороть, переключившись в режим самообслуживания, дав пользователям инструмент для создания своих собственных ИИ-помощников. Для этого нужно заиметь лоукод-редактор пайплайнов с LLM, OCR и ASR, а также умный поиск RAG. Стоит добавить возможность не только выбирать модели и менять промпты, но и делиться своими наработками, собирать обратную связь.

Все это ЛАНИТ объединил в единую платформу и назвал ее «Landev AI. Кремниевые помощники». Платформа включена в Реестр отечественного ПО. Кроме того, компания-владелец является резидентом «Сколково», а это значит более простое налогообложение.

ЛАНИТ использует свое решение и внутри, чтобы облегчить работу целой группы своих компаний, а также предлагает «Кремниевых помощников» широкому рынку. Ландэвид проанализировал основные запросы клиентов, обращавшихся сюда за последние два года. Бизнесу нужны API, сервисы умного поиска, речевой аналитики, решения для HR, для классификации документов и извлечения реквизитов. А главное, есть потребность в развертывании продукта внутри предприятия, чтобы не отдавать свои данные куда-то наружу. Все эти возможности можно найти, обратившись к «Landev AI. Кремниевые помощники».

Кстати, к платформе обратился и сам Владислав Балаев. Она помогла ему создать презентацию для выступления, транскрибировав и проанализировав 64 записи встречи, суммировав записи по 143 клиентам в CRM, интерпретировав 19 запросов в Jira и так далее. В итоге презентация обошлась спикеру (или компании) в 140 рублей.

После того, как на рынке в 2022 году прогремел ChatGPT, искусственным интеллектом стали интересоваться даже те, кто был далек от ИТ-сферы. Получается, что закрыта не только инфраструктурная часть, но и люди стали более подготовлены, во всяком случае, морально, к наступлению эры искусственного интеллекта. Формировать компетенции и применять их на практике в бизнесе предлагает Глеб Кузьмин, коммерческий директор, Giga B2B. В США и Европе уже 85% крупнейших компаний внедряют или пилотируют инициативы, связанные с генеративным ИИ. Появляются целые отделы, которые занимаются только этим видом искусственного интеллекта.

Глеб Кузьмин, коммерческий директор, Giga B2B

Первый российский сервис мультимодального GenAI — GigaChat 2 от «Сбера», обновившись до второй версии, смог сдать не только ЕГЭ по обществоведению, но и экзамен на врача общей практики.

Модель дополнительно развивается в конкретных доменах знаний. Сейчас у нас есть домены по юриспруденции, финансам и медицине, — подчеркивает Глеб Кузьмин.

Она может использоваться и на производстве для оптимизации производственных процессов путем анализа больших объемов данных или для создания инструкций и руководств по эксплуатации оборудования. GigaChat используется в логистике, коммерции, сфере безопасности — вариантов сценариев эксплуатации множество.

Спикер привел таблицу, в которой GigaChat сравнивается с другими LLM по ряду бенчмарков.

Где-то мы выигрываем, где-то проигрываем, а где-то на одном уровне, но, в принципе, такая таблица позволяет сказать, что решение соизмеримо с лучшими опенсорс-моделями, которые есть в мире, — говорит Глеб Кузьмин.

GigaB2B — это версия нейросети GigaChat, предназначенная для бизнес-заказчиков. Модель обучается на русском языке, под полным контролем процесса претрейна (от сбора данных до профильного обучения). Она легко интегрируется в в бизнес-процессы заказчика, особенно если сравнивать с опенсорсными моделями. GigaB2B представляет собой комплексное решение, которое начинается с инфраструктуры (серверное оборудование или Cloud/Public API), дает все возможности от пользования интегрированной нейросетью GigaChat 2.0 и лоукод-платформой по созданию цифровых помощников сотрудников, обладающих искусственным интеллектом, навыками и способностью самостоятельно работать в информационных системах клиента.

Заканчивается же этоn комплекс консалтингом, то есть набором работ по повышению качества ответов модели в различных сценариях применения. Тут помогут с проработкой и тестированием гипотез, поиском оптимальных пайплайнов обработки информации и реализацией целевых сценариев.

Если компания видит хайп на рынке, но не знает, как это применить у себя, как найти экономический эффект, то она может обратиться к нашей экспертизе, мы закроем этот вопрос, — предлагает докладчик.

Модель проприетарная, решение включено в Реестр отечественного ПО и поставляется в контур компании-заказчика. Кстати, российские заказчики смогут получить субсидии из федерального бюджета, которые выделяются на развитие ИИ, уменьшить выплаты по налогу на прибыль, а также поучаствовать в конкурсе «Лидеры AI» и тем самым улучшить свой имидж.

В рамках методологии RAG

Как построить свою RAG-платформу и что при этом получится, рассказал Александр Лутай, технический директор, «ЛАНИТ-Би Пи Эм». После релиза ChatGPT-4 в компании осознали, что LLM — это инструмент, с помощью которого можно решать практические задачи клиентов.

Мы очень аккуратно присматривались к искусственному интеллекту и тому, как его можно применить для бизнеса. Пробовали предиктивные модели в различных бизнес-процессах, использовали NLP-модели для построения диалоговых систем взаимодействия с пользователями, даже сделали себе чат-бота, который позволял сотруднику уйти в отпуск, просто початившись. А потом мы задумались: если LLM такие классные и так здорово формулируют, то если их поставить в рамки бизнес-знаний, может получиться удобно. Но для этого важно было построить нужную систему.

Александр Лутай, технический директор, «ЛАНИТ-Би Пи Эм»

Требования к вопросно-ответной системе были просты, но принципиальны. Отвечать нужно без собственных домыслов и общих соображений, по внутренней базе знаний, регламентам, показателям компании. Понадобится разграничение доступа к данным, быстрое обновление информации. И все это должно стоить дешево, а работать — в закрытом контуре.

Чтобы создать такую систему, можно дообучать LLM. Только для этого понадобится сбор дата-сета и дорогое железо. Результат будет недетерминированным, и с правами доступа тоже вопрос. Второй подход — взять LLM как готовый инструмент, в него не лезть, ничего не менять. Минусом тут будет ограничение по размеру контекста.

В конечном итоге здесь решили обратиться к RAG, то есть Retrieval Augmented Generation. «Берем исходную базу знаний, по которой хотим получить ответы, и бьем ее на кусочки, так называемые чанки», — объясняет докладчик. Для каждого чанка вычисляется вектор и складывается в отдельное хранилище (часто это будет векторная база данных). При поступлении запроса от пользователя находятся близкие по смыслу чанки. Формируется промпт к LLM, включающий и исходный запрос, и чанки, после чего модель возвращает ответ.

«Дальше мы пошли пробовать этот подход для разных случаев. Сначала внутри компании», — вспоминает Александр Лутай. Тут нужно было разгрузить менеджеров бэк-офиса, которые бесконечно отвечали на разные вопросы сотрудников. Нейропомощник на базе RAG обработал более 5 тысяч подобных запросов от персонала, при этом в 90% случаев люди остались довольны ответом ИИ. Хотя бы потому, что теперь сотрудник получает ответ на свой вопрос в течение 10 секунд.

Решение обошлось не слишком дорого. За 2 месяца были проведены работы на миллион, аренда железной части составила 6 тыс. рублей в месяц. «Конечно, нам было легче, ведь использовались наши внутренние нормативные документы, мы знаем, где они лежат. Этап аналитики поэтому отсутствовал».

Еще один кейс уже из области промышленности. Заказчиком выступил производитель труб, у которого технологический процесс описан в ГОСТах и ТУ. Инженерам на производстве необходимо сверяться с этими документами. Прием продукции тоже осуществляется по ГОСТам и инструкциям. Разумеется, это долго. «ЛАНИТ-Би Пи Эм» интегрировала в их корпоративного чат-бота соответствующего нейропомощника. Теперь отвечает он, причем скорость ответа равна 5-10 секундам. В ответе есть ссылка на исходный документ, чтобы можно было самостоятельно проверить помощника — не врет ли. Точность самих ответов составляет 95%.

От предыдущего примера этот случай отличается деталями, ведь пришлось работать не просто с текстовыми документами, но с таблицами и формулами. Не так-то просто эти данные сохранить так, чтобы использовать в дальнейшем. Также при работе с другими заказчиками пришлось столкнуться с тем, что векторная база данных «плоская» и не отображает связи между документами и чанками, что тоже может ухудшить точность ответов.

Несмотря на эти факторы, RAG-платформа успешно решает практические задачи. Тут планируется развиваться дальше, например, использовать графовые структуры знаний для построения семантических связей между чанками, улучшать алгоритмы извлечения информации из таблиц, формул, схем и диаграмм.

Мы тоже работаем в рамках методологии RAG плюс LLM — это позволяет контролировать качество, при этом у нас большой опыт внедрения такой истории, поэтому мы являемся экспертами не только по искусственному интеллекту, — говорит Владислав Беляев, исполнительный директор и сооснователь ИИ-платформы, AutoFAQ.

Платформа, которую он представил, является коробочным продуктом, поэтому легко интегрируется в самые разные каналы коммуникации.

Владислав Беляев, исполнительный директор и сооснователь ИИ-платформы, AutoFAQ

Но начал спикер с того, что предложил обсудить последние новости. Например, ему показалось необычным, что эксперты, комментирующие новый сервис генерации ИИ-подсказок от «Яндекса», называют такие разные цифры затрат. Кто-то думает, что «Яндекс» вложил не менее 2 млрд рублей, тогда как другие предлагают ориентироваться на сумму 150-300 млн.

Я никогда не видел, чтобы суперэксперты отличались друг от друга в оценках на целый порядок. Тут что-то не то. Я же расскажу про особенности реализации сложных проектов и про то, как производить подсчет экономической эффективности, — говорит Владислав Беляев.

Внутренняя разработка на основе LLM позволяет экономить на масштабе, может произвести проект быстро, но при этом есть риск заплатить дважды. Впрочем, если у вас сильная внутренняя ИИ-команда с успешным опытом запуска внутренних решений, а также стратегические бизнес-направления, которые страшно отдавать внешнему вендору, то вам этот подход понравится.

Мы же склоняемся к истории, когда считаешь стоимость конкретного железа и защищаешь ROI для каждого проекта. Это и просто, и выгодно. Меньше риск вложиться в устаревшие или неэффективные технологии, — подчеркивает спикер.

Именно таким образом тут развивают ИИ Xplain. Краткий девиз продукта такой: купи и пользуйся. Управляет и дообучает систему сам заказчик, но это не требует от него ИТ-знаний. Скорость внедрения — от одного дня до недели.

Наше глобальное преимущество в том, что мы позиционируем продукт как решение для бизнес-заказчика, — отмечает Владислав Беляев. — Ему предлагается минимальными ресурсами, коробочным продуктом закрывать свои задачи. При этом мы не являемся апологетами или фанатами какой-то технологии. Мы всегда предлагаем заказчику именно то, что ему поможет, а генеративный интеллект нужен не всегда. Обычный ИИ решает 60-70% обращений в наших кейсах. Генеративный ИИ стоит использовать осмысленно.

Что касается вопросов с оборудованием, то с ним проблема простая — дорого все. «Для заказчиков рекомендуем модели масштаба 22–30B параметров. Например, Gemma 27B или Qwen 3. Меньшие модели не рекомендуются из-за резкого падения качества на сложных задачах. Для работы эмбеддеров (например, E5) и самих моделей требуется не менее 80 GB видеопамяти (A100 80 GB, H100 80 GB или связка 2×RTX 4090)», — советует докладчик.

Он показывает конкретные конфигурации серверов, которые ставят у себя. Стоимость одного составляет 1,4-1,5 млн рублей.

Классическая проблема, с которой мы сталкиваемся, состоит в том, что железо не окупается. Поэтому надо подбирать оптимальные параметры или работать в гибридном режиме, когда данные в контуре, а процессинг идет в облаке, — советует Владислав Беляев.

Заодно отмечая, что заказчику важно получить свой личный, «чувственный» опыт, как он назвал его, на собственных данных. Компания предлагает загрузить данные на этапе демодоступа, потестировать Xplain целые две недели, оценить качество работы и при желании подготовиться к пилоту.

Организации боятся столкнуться с ошибками ИИ и потерять контроль

Некоторые интеграторы 1С, чей стек решений очень востребован в России последние годы, тоже имеют собственные лаборатории, в которых занимаются искусственным интеллектом. Только не с целью его исследования, а с целью изучения возможностей по внедрению.

У нас огромное количество подразделений занимается внедрением различного рода технологий, а также созданием продуктов, связанных с ИИ, — говорит Андрей Гершун, эксперт «Лаборатории Искусственного Интеллекта» компании «1С-Рарус».

Андрей Гершун, эксперт «Лаборатории Искусственного Интеллекта» компании «1С-Рарус»

Типичного пользователя 1С, по сути, не существует. Решения используются как в крупном бизнесе, так и в небольших компаниях. Однако что касается искусственного интеллекта, можно выделить общие мысли и опасения. Организации боятся столкнуться с ошибками ИИ и потерять контроль. Опасаются, что инфраструктура не вполне готова. Испытывают трудности с оценкой стоимости внедрения ИИ и возврата инвестиций. Конечные пользователи предвзяты в принципе. Кроме того, им не нравится высокая сложность системы, тот факт, что это «черный ящик», который невозможно понять, потому что сложно объяснить, почему он принял то или иное решение. Кроме того, ИИ галлюционирует.

А для нас как интегратора, который думает о работе с ИИ, важно учитывать такие требования, как поставка решений в контур заказчика или в виде сервиса. Для среднего и небольшого бизнеса сервис интереснее, а для крупного, понятно, лучшее решение — в контуре. Нельзя отправлять данные в публичные API — требуется локальное или защищенное размещение модели, — поясняет докладчик.

Искусственный интеллект может слышать, видеть, прогнозировать, упрощать, управлять и помогать. Андрей Гершун продемонстрировал, какие решения они внедряют по каждой из этих категорий. Например, ИИ видит, какая еда стоит на подносе в умной кассе для столовых, прогнозирует маржинальных доход компании, идеален для очистки и нормализации больших баз товаров, в которых устраняет хаос, и так далее. «1С-Рарус» внедряет разные решения с использованием ИИ, которые позволяют повысить эффективность бизнес-процессов.

Мы и сами используем ИИ для своей собственной разработки. Есть подразделения, которые находятся за границей, поэтому нам приходится локализовывать продукты, и большие языковые модели очень подошли для решения такого рода задач, — делится докладчик.

Большое количество предобученных моделей для видеокамер, которые не будут тратить серверные мощности заказчика, представил Иван Шамшурин, руководитель проекта zool.ai из компании Programming Store. Все эти модели заключены в систему интеллектуальной видеоаналитики zool.ai.

Иван Шамшурин, руководитель проекта zool.ai из компании Programming Store

Решение просматривает и анализирует в режиме реального времени все записи с камер видеонаблюдения. Повышает тем самым безопасность и сокращает расходы предприятия. Zool.ai распознает лица без использования аппаратных терминалов, применяет современные методы обработки изображений и может быть обучена под любые задачи. Среди ее плюсов интеграция с разными типами оборудования для видеонаблюдения. с системами контроля и управления доступом, а также с ПО для учета на платформе «1С:Предприятие», станками и системами безопасности.

Продукт производит контроль качества с помощью компьютерного зрения. Формирует отчеты на всех этапах производства для раннего выявления проблем и снижения доли дефектов. Выявляет он не только дефекты, но и количество произведенной продукции. Контролировать персонал системе тоже под силу. Она отслеживает маршруты передвижения людей, анализирует их рабочее время, следит, нет ли нежелательных действий и все ли надели нужные средства индивидуальной защиты.

Модули для систем безопасности отрисовывают допустимый периметр и настраивают пропускной контроль. Распознают номера машин, оружие и оставленные предметы. Zool.ai можно успешно применять и в маркетинговой видеоаналитике для увеличения продаж. Система подсчитает посетителей, проверит, не скапливаются ли очереди у касс, составит тепловую карту магазина и проанализирует пустые полки в нужных зонах. «Мы адаптируем систему под нужды предприятия и сопровождаем проект от тестирования до реализации», — подчеркивает спикер. Дополнительного обучения персонала не потребуется, а вот решение обучаться будет — чтобы лучше соответствовать конкретным задачам конкретного бизнеса.

Например, у клиента используются не обычные, оранжевые, а розовые каски. Мы приезжаем и делаем красивый фотосет по их тематике. Далее обучаем интеллект, чтобы он работал именно с этой задачей клиента, формируем модель и тестируем ее вместе с клиентом опытно-промышленным путем, — завершает выступление Иван Шамшурин.

В перерыве и по завершении конференции участники общались в неформальной обстановке, а также имели возможность ознакомиться с решениями и услугами ИТ- поставщиков на стендах, развернутых в холле мероприятия.