2020/05/07 14:49:35

ИИ в принятии решений: компьютер как интеллектуальный партнер человека

Системы искусственного интеллекта (ИИ), по определению, ориентированы на совершение некоторых «интеллектуальных» действий. В конечном итоге, все многообразие возможных их практических реализаций преследует две цели: помочь человеку в принятии решений или заменить его в определенных ситуациях. В каких задачах машииному интеллекту сегодня можно доверить принятие решений, и как далеко распространятся эти полномочия в ближайшем десятилетии? TAdviser ответы на эти вопросы вместе с экспертами.

Статья входит в обзор TAdviser "Технологии и решения искусственного интеллекта: точка перелома"

Содержание

Основная статья: Искусственный интеллект (ИИ, Artificial intelligence, AI)

Эволюция технологий

Принятие решений, с точки зрения обычного человека, нередко связано с наделением системы ИИ свойством субъектности, уходящим в демонизацию компьютерной программы. Противоположный полюс – причисление к разряду ИИ систем, выполняющих, по сути, расчетные задачи. Впрочем, чисто расчетные и интеллектуальные задачи разделяет достаточно зыбкая грань. Скажем, нейросети, по большому счету, не являются классическими проявлениями ИИ.

«
Действительно, многие понятия «смешались»: некоторые называют традиционные методы машинного обучения, в том числе использование нейронных сетей, искусственным интеллектом. Все эти задачи, так или иначе, объединяет одно: для их решения нужны накопленные данные,
замечает Алексей Выскребенцев, руководитель центра экспертизы решений компании «Форсайт».
»

Столь же нечеткой является граница, разделяющая классические решения бизнес-аналитики (BI, Business Intelligence), и передовые прикладные системы аналитики Big Data.

Реклама
Ультралегкие Fujitsu LIFEBOOK для вашего бизнеса

Производительные устройства с высокой степенью защиты данных для комфортной работы как в офисе, так и дома. Ваше рабочее место всегда с вами вместе с мобильными Fujitsu LIFEBOOK

Узнать больше

Эксперт предлагает следующий список популярных сегодня ИТ-средств, помогающих человеку в принятии решений:

  • Регрессионный анализ – прогнозирование на основе внешних факторов: прогнозирование спроса, прогнозирование срока «дожития» оборудования и т.д.
  • Кластерный анализ – разделение группы наблюдений на классы, схожие по своим характеристикам. Часто используется для сегментации клиентов с целью дифференциации стратегии продаж и обслуживания.
  • Классификация – отнесение наблюдения к определенному классу на основе не только численных, но и категориальных признаков. Применяют прогнозирования отклика на маркетинговую кампанию, прогнозирования оттока, прогнозирования выхода из строя, прогнозирования качества изделия и т.д.
  • Анализ ассоциаций – для традиционной чековой аналитики или анализа потребительской корзины (какие товары чаще всего покупают вместе). Исходя из этого, обычно разрабатывают разные стратегии, например, разнесение товаров по залу для обеспечения проходимости, раскладка товаров, планирование маркетинговых кампаний.
  • Последовательность «если А, то B»: как правило, используется для выбора лучшего решения или действия, а также формирования предложения для клиента.
  • Рекомендательные системы, которые используются для продвижения товаров, контента.
  • Методы оптимизации - используют для планирования производства, оптимизации бизнеса, оптимизации маркетинг-микса, а также для решения задач, связанных с оптимальным выбором режима работы, исходя из множества ограничивающих переменных (бюджет, логистика, сырьевой состав, каналы продаж и др.).

С точки зрения глубины проникновения интеллектуальных ИТ в процессы принятия решений проявляются три варианта замены человеческого ума компьютерным:

  • Заменить человека на рутинных операциях. Эту сферу занимают всякого рода цифровые помощники и средства роботизации бизнес-процессов (RPA), разгружающие человека от рутинных забот, а также системы автоматизации служб поддержки: программные роботы справляются с большей частью вопросов, и только в нетривиальных ситуациях происходит переключение на «живого» сотрудника.
  • Заменить человека там, где в реальной жизни он не сможет работать, например, на опасных производствах, во вредной среде или недоступных территориях.
  • Заменить человека в тех задачах, с которыми компьютерная программа справляется лучше человека. В первую очередь, речь идет о сборе и аналитике больших объемов данных.

По мнению специалистов Accenture, интеллектуальные инструменты превращают менеджеров по работе с клиентами в «супергероев»:

«
Банкам в любом случае очень нужны умные и изобретательные сотрудники, которые готовы повышать эффективность своей работы при помощи технологий. Знание отрасли, эмпатия и навыки ведения переговоров всегда будут важны, но они чаще будут усиливаться технологиями искусственного интеллекта, позволяя экономить дефицитное время персональных менеджеров, например, за счет встроенных в CRM-платформы скоринговых решений, персонализированных рекомендаций и подсказок, коммерческой аналитики».

»

Достижения сегодняшнего дня

Быстрая обработка больших объемов данных с оптимизацией

Agorafreight – логистический стартап, который с помощью специалистов «Рексофт» создал универсальный агрегатор логистических услуг всех видов транспорта, включая морские, автомобильные и авиаперевозки, глобального масштаба, который сегодня насчитывает миллионы тарифов на различные перевозки. В систему напрямую вносят свои предложения десятки компаний по всему миру, онлайн расчеты действуют для перевозок между Китаем, Вьетнамом, Южной Кореей, США, Индией, государствами Евросоюза и Россией. ИТ-система автоматически определяет возможные маршруты и стоимость перевозки различными видами транспорта, заказчику остается выбрать оптимальный вариант.

«
Транспорт – одна из тех областей экономики, где алгоритмы все больше и больше правят бал. Например, мы уже внедрили вместе с Siemens наше решение на основе периферийных вычислений в одной транспортной глобальной компании, которая занимается морскими перевозками. Экономия топлива для контейнеровозов составила от 2% до 19% в зависимости от длительности рейса,
уверен Роман Гоц, директор департамента больших данных и безопасности Atos в РФ.
»

«Умный» мониторинг

Российский бренд одежды Cloudburst вместе с компанией Verisium (Стартап бизнес-инкубатора «Лаборатории Касперского») начал встраивать NFC- метки в предметы одежды. Облачное решение включает веб-портал для бренда и мобильное приложение, с помощью которого можно реализовать самые разные фантазии маркетолога: от проверки подлинности бренда и информации о ткани и проч. до получения персональных скидок и бонусов типа билетов на закрытые вечеринки и премьеры или просмотра сопутствующего видео, вплоть до виртуальной примерочной в формате дополненной реальности на экране смартфона.

«Умная» одежда Cloudburst: каждое изделие снабжено NFC-меткой

Аналитика Big Data

С практической работой аналитических алгоритмов Big Data сталкивается сегодня практически каждый человек. ИТ-гиганты типа Facebook, Google, Яндекс в течение ряда лет накапливают данные о пользователях, паттерны поведения, поисковые запросы и т.д. Никого не удивляет, что разговор на домашней кухне в присутствии умной колонки или голосового помощника завершается появлением соответствующей рекламы в почтовой программе. Умные алгоритмы помогают переводить тексты и, надо сказать, справляются с этой задачей все лучше.

Корпоративный сектор, не имеющий доступа к таким объемам накопленных данных, сегодня только ищет наиболее эффективные подходы использования больших данных. Так, банки возлагают большие надежды на OpenAPI и возможности, открывающиеся с подключением баз данных партнеров.

Впрочем, как отмечает Никита Блинов, основатель и СЕО компании Rubbles, практическое существенное движение в этом направлении начнется только тогда, когда банки увидят реальную коммерческую перспективу.

«
Ключевой источник доходов банков – проценты по кредитам. Основной процесс, который обеспечивает этот источник, - скоринг, поэтому в скоринговых системах искусственный интеллект внедрен очень давно. Следующий по важности бизнес-процесс - персонализация кросс-продаж, там тоже работают умные ИТ-решения. Ну, а все остальное – гораздо менее важно, с точки зрения доходов банка, поэтому об этом много говорят, но реально заниматься такими системами не спешат,
поясняет Блинов.
»

Кроме того, решены еще далеко не все задачи, связанные с технологическим обеспечением аналитики больших данных.

«
На сегодняшний день создано множество разнообразных библиотек для разных языков программирования, которые упрощают разработку в области BigData. Но это лишь инструменты, а вот что касается данных, то тут не все так гладко. Зачастую надо потратить много времени, чтобы получить подходящий датасет для своих исследований,
отмечает Александр Спиридонов, руководитель лаборатории информационной и сетевой безопасности компании «Криптонит».
»

Многие датасеты являются закрытыми, другие не обладают достаточно качественной разметкой, продолжает эксперт.

«
Это является существенным сдерживающим фактором для развития Big Data в различных областях, так как для качественного или инновационного исследования зачастую приходится получать свой собственный датасет, что занимает немало времени и ресурсов. Разметка данных зачастую проводится в ручном режиме, если требуется высокое качество. При больших объемах данных это создает существенные проблемы для исследователей. Также не стоит забывать и о аппаратных ресурсах. Несмотря на хорошую оптимизацию инструментария, задачи Big Data требуют больших вычислительных мощностей, которые доступны далеко не всем,
резюмирует Александр Спиридонов.
»

По мнению Никиты Блинова, анализ данных – это обычно история про оптимизацию существующих процессов, поэтому для принятия решения о внедрении интеллектуального ПО критически важен ответ на вопрос: в чем измерять это улучшение? Это деньги? Или время сотрудников? Или что-то еще? Сколько дополнительной ценности для бизнеса можно получить в результате?

Исходя из такой постановки задачи, эксперт полагает, что современные решения анализа Big Data неплохо поддаются тиражированию:

«
Нужно только понимать, в рамках какого бизнес-процесса это происходит. Так, компании могут работать в разных отраслях, но если бизнес-процессы у них похожи, например, речь идет о диспетчеризации, тогда перенос прикладного аналитического решения будет достаточно простым.
»

В русле такого подхода компания создала программную платформу Rubbles, которая дает возможность разворачивать на предприятии интеллектуальное аналитическое решение в разы быстрее, чем создавать его с нуля, даже в тех отраслях деятельности, в которых компания еще не выполняла проектов.

Предиктивная аналитика для промышленных предприятий

Интеллектуальные системы, относящиеся к классу предиктивной аналитики, получили особую популярность в транспортной отрасли. На рынке представлено немало коммерческих решений, которые дают возможность на основе данных о прошлом и текущем состоянии транспортного объекта достаточно точно рассчитать его характеристики в будущем.

«Такие концерны, как Mercedes и BMW давно используют в своих автомобилях встроенные модемы с международной SIM-картой, чтобы на регулярной основе собирать диагностические данные с контроллеров и узлов автомобиля,- говорит Сергей Куликовский, генеральный директор компании «Полиматика».- Производитель получает колоссальную базу показаний и статистику отказов и может выявлять паттерны в показаниях, которые с большой степенью вероятности могут привести к отказу. Автомобиль сам подсказывает водителю, когда нужно менять масло или заменить тормозные колодки». Важно, отмечает эксперт, что он это делает не по заранее заданной программе технического обслуживания, а по предсказаниям постоянно развивающейся модели. Эта модель разрабатывается самим производителем автомобиля и непрерывно уточняется на основе растущей базе отказов и показаний.

«
С недавнего времени прогностика активно внедряется в железнодорожной отрасли, где предотвращает аварии подвижного состава и инфраструктурных объектов - Для этого используются методы эмпирического моделирования, статистического и параметрического анализа, машинное обучение, нейронные сети и ряд других технологий. Все эти технологии позволяют проводить интеллектуальную обработку данных, поступающих с бортовых измерительных систем, установленных на объектах,
рассказывает Нина Кварацхелия, ведущий бизнес-аналитик компании «Центр 2М».
»

Мероприятия по цифровизации оборудования – подключение цифровых датчиков, интерфейсов и систем сбора данных – дают возможность применять автоматизированные системы мониторинга технического состояния оборудования.

«
Несмотря на свою сложность, они работают в режиме «реального времени», сигнализируя об опасности или отключая оборудование «по факту - подчеркивает эксперт.
»

Компания «Центр 2М» спроектировала и разработала интеллектуальную систему предиктивной аналитики, предназначенную для решения задач мониторинга и прогноза технического состояния электродвигателей. Система успешно прошла предварительные испытания, показав достаточно высокую точность (более 85%) обнаружения предотказных состояний электродвигателей даже на сравнительно небольшом объеме данных. Высокую эффективность показывают и другие интеллектуальные системы, внедряемые в железнодорожной отрасли.

Умный железнодорожный состав на профильной выставке в Щербинке


Так, после внедрения решения «Умный локомотив» в «ЛокоТех», крупнейшем сервисном холдинг, отказы на линии снизились на 32%, а время на диагностику локомотива сократилось с 4 часов до 10 минут.

Структура решения «Умный локомотив» Clover Group

В компании Clover Group, которая разработала данную интеллектуальную систему диагностики и прогноза технического состояния оборудования локомотивов, рассказали, что за период опытной эксплуатации система обработала данные 2 млн. (!) часов эксплуатации локомотивов, автоматически обнаружено более 120 тыс. инцидентов в работе локомотивного оборудования.

Умный помощник профессионального аналитика

«
Системы искусственного интеллекта - невероятно мощный инструмент для решения аналитических задач определенного типа, но он эффективен в руках квалифицированного специалиста, имеющего не только теоретические знания, но и большой практический опыт в применении этого инструмента. Например, ошибка, заложенная на этапе проектирования нейронной сети, может привести к значительным временным задержкам в решении поставленной задачи, обусловленным долгим циклом обучения, предшествующим ее обнаружению,
рассказывает Сергей Германович, технический директор компании «Полиматика».
»

В сфере передовых инструментов, ориентированных на профессиональных аналитиков, - свои подходы к их созданию. Скажем, на глобальном уровне образцом могут служить инструменты аналитической платформы Palantir Technologies. Деятельность одноименной компании окружена облаком таинственности: они известна разработками, так называемого, двойного назначения, а к ее финансированию причастны различные фонды, в том числе, созданный в 1999 г. фонд In-Q-Tel, который выполняет в США посредническую функцию между ЦРУ США и научными организациями. Однако после того, как несколько лет назад инструментарий Palanti стал доступен для коммерческих клиентов, стали известны реальные подробности этого ПО.

В целом, этот программный комплекс занимается тем, что очень существенно облегчает, действительно, неподъемную задачу по просеиванию огромных массивов с плохо сопоставимыми данными. ПО Palantir способно быстро, в режиме параллельной обработки прочесывать все доступные базы данных и выявлять связанные друг с другом фрагменты информации. Все это программа систематизирует и предлагает аналитику в виде, удобном для просмотра и составления сложных аналитических запросов.

Стоит отметить, что в основу платформы Palantir заложена идея не чистой автоматизации прохода массивов данных, а умного синтеза, где объединены методы анализа, опирающиеся на аппроксимированную модель мышления человека, и мощный алгоритмический движок, способный сканировать одновременно несколько баз данных на очень тонком уровне гранулирования. Фактически движок способен брать информацию из гигантских баз данных и представлять ее таким образом, чтобы аналитик мог «нарезать слои» и просматривать результаты просеивания практически бесконечным числом способов.

Расширяемая архитектура аналитических систем на платформе Palantir Technologies использует объектный подход к описанию обрабатываемых данных, реализованный на базе семантического механизма онтологий. При этом динамические онтологии можно адаптировать к новой предметной области. В системе реализовано несколько поисковых механизмов, использующих онтологии для упрощения запросов и поиска слов, близких по значению, включая фонетические механизмы для эффективного поиска по речевым данным.

«
Звучит красиво. Но на деле для получения вменяемого результата специалист должен понимать, что под капотом у такой системы, и почему она обработала данные тем или иным образом. То есть, вручив такую систему обывателю, вы не получите стоящего результата, а специалисту такая система покажется слишком узкой и негибкой. Но сам подход - учиться объединять разнородные данные - вполне перспективен,
комментирует Александр Спиридонов.
»

Где в интеллектуальной работе машина заменит человека?

Александр Спиридонов призывает не упрощать сравнение «ума» человека-аналитика и соответствующих компьютерных систем:

«
Для масштабных задач нанимается целый штат экспертов, которые занимаются разработкой решения. Но и готовые умные решения тоже не обходятся без группы аналитиков, которые проходят обучение по использованию данного инструмента, в дальнейшем эксплуатируют его, хотя и погружаются в тематику не так глубоко как разработчики решения в первом случае.
»

Можно предположить, что умной компьютерной системе можно поручать узкоспециализированные задачи, и с ними она справится не хуже человека-аналитика? Да это так. В банках, ритейле, промышленности и на транспорте сегодня работают умные ИТ-решения, которые стали настоящими интеллектуальными помощниками человека-специалиста. Речь идет о таких решениях, которые относятся к классу систем поддержки принятия решений (СППР) на уровне среднего менеджмента, отмечает Никита Блинов и приводит примеры. Маркетолог банка, который реализует промо-программу, в один клик получает готовую выборку выбору клиентов с нужными параметрами. Менеджер магазина, который разрабатывает программу скидок для того или иного товара, получает прогноз спроса на этот товар.

«
Аналитическое ПО, конечно, не заменяет маркетолога, но экономит ему и его коллегам много времени. И к тому же качество решения, предложенного машиной, - на высоком экспертном уровне,
поясняет Никита Блинов.
»

Фактически речь идет о том, что сегодня компьютерные системы, ориентированные на поддержку принятия решений человеком, вполне успешно выполняют за человека интеллектуальные работы, которые имеют рутинный характер.

Умные инструменты человека-аналитика

В целом в сегменте аналитических решений, замечает Никита Блинов, интеллект ИТ-системы проявляется в том, какую долю интеллектуального труда способна взять на себя машина:

«
Аналитические решения предыдущего поколения умели хорошо делать расчеты, но только человек принимал решения на основе тех данных, которые ему предоставляло ПО. Системы, созданные на основе искусственного интеллекта, способны сформировать некоторое решение, предложение плана действий.
»

В этом человеку помогают передовые инструменты профессионала-аналитика, которые сегодня сочетают различные методы и модели обработки данных.

Так, Сергей Германович подчеркивает перспективность интегрирования в традиционные аналитические системы модулей машинного обучения:

«
Например, применение каскадов искусственных нейронных сетей (персептронов) для решения задач многомерной классификации в банковской сфере, страховом бизнесе и медицине (когда количество входных параметров чрезмерно велико) дает лучший результат, чем традиционные математические методы. А использование нейронных сетей Хопфилда дает отличный результат в задачах поиска аномалий и скрытых закономерностей в больших объемах данных.
»

Потенциальные заказчики, рассказывает технический директор «Полиматики», на волне нынешнего всеобщего хайпа регулярно запрашивают решение той или иной аналитической задачи с применением методов машинного обучения.

«
Но, как правило, все текущие клиентские задачи могут быть решены традиционными методами численной аналитики»,-
замечает Германович.
»

Решения завтрашнего дня

Сегодня мы находимся на этапе, так называемого, «слабого ИИ». Для него характерно бурное развитие методов машинного обучения, которые, как замечает Александр Спиридонов, вышли на новый виток развития лишь благодаря большим объемам накопленных данных и наличию соответствующих вычислительных мощностей, хотя сами по себе многие из этих алгоритмов были известны человечеству еще с середины прошлого века. В связи с этим самая актуальная задача на настоящий момент - это проблема постоянного дообучения моделей, уверен он:

«
Если модель в процессе своей работы сможет самостоятельно выбирать нужные данные, интерпретировать их и использовать для самоообучения, это станет серьезным подспорьем всем специалистам по анализу данных и, возможно, первым шагом к эре сильного ИИ. В долгосрочной перспективе можно предположить способность к творческому мышлению, перенос опыта из совершенно разных областей и создание новых знаний.
»

Принципиальный момент во всей этой истории – умение машины создавать новые знания.

Генерация умной системой новых полезных данных

В 2018 г. IBM Research вместе с Symrise, компанией, работающей на парфюмерном рынке, анонсировали ИИ-решения Philyra, который будет разрабатывать новые ароматы для духов. Что и говорить, красивый кейс, напрямую связанный с задачами цифрового моделирования химических технологий. В подобном направлении движется очень перспективный сегмент рынка, называемый цифровой фармакологией.

В феврале нынешнего года команда ученых из Сколтеха, МГУ и ИЭФБ РАН завершили проект цифрового моделирования нового лекарственного средства с помощью суперкомпьютерного молекулярное моделирование на технических ресурсах МГУ. Был разработан новый короткий нейроактивный пептид – вещество, которое поможет в лечении клинической депрессии по уникальной методике, разработанной в России.

Ученые-медики из российской компании Insilico Medicine ищут лекарство для борьбы со старением. В разработке новых лекарств им помогают технологии машинного обучения. В этой отрасли сегодня зачастую применяются технологии десятилетней давности, сетует Сергей Николенко, директор по науке компании Neuromation, ИТ-партнера медицинской компании, в то время как с помощью машинного обучения можно генерировать различные варианты и оперативно отбирать наиболее подходящие для дальнейшего тестирования в лаборатории.

«
На сегодняшний день известна ничтожно малая часть молекул. Для перебора вручную не хватит жизни всей нашей Вселенной, даже если мы привлечем всех людей, живущих на планете. Поэтому для решения этой очень важной задачи нам нужны и мощнейшие суперкомпьютеры, и новые методы ИИ, да и новая теория не помешала бы,
объясняет Максим Федоров, профессор и директор Центра CDISE Сколтеха.
»

Медицинская диагностика

Компании «ТехЛАБ» и «Нетрика» в феврале завершили в Ленобласти внедрение подсистемы «Онкопомощь». Главное ее предназначение - эффективная маршрутизация онкопациентов, а также контроль сроков, объемов и результатов оказанной им медпомощи. В переводе на обычный русский язык это означает, что умная компьютерная система, которая располагает обширной базой клинических данных и историй болезни пациентов со злокачественными новообразованиями или подозрениями на них, будет предоставлять рекомендации по их лечению с учетом индивидуальной клинической картины, обеспечивать преемственность лечения, а также контролировать соблюдение предписанного маршрута лечения.

Так выглядит цифровой онкопаспорт пациента


«Онкопомощь» работает в связке с другими региональными подсистемами, и врач-онколог имеет доступ ко всей истории болезни пациента: лабораторным, инструментальным исследованиям, данным интегрированной электронной медицинской карты.

«
В онкологии крайне важно начать лечение как можно раньше: от этого зависит прогноз заболевания и результативность лечения,
поясняет Игорь Башков, руководитель отдела развития направления «Здравоохранение» ГК «Нетрика».
»

Распознавание новых угроз информационной безопасности

Накал страстей на фронте ИБ нарастает: количество кибер-атак год от года стремительно растет. По данным Positive Technologies, в 2019 г. компания зафиксировала более полутора тысяч атак, что на 19% больше, чем в прошлом году.

Категории жертв кибер-атак в 2019 г. среди юридических лиц. Источник: Актуальные кибер-угрозы: итоги 2019 года, Positive Technologies, март 2020 г.


Важная особенность нынешнего состояния ИБ-угроз заключается в том, что события, происходящие с компаниями и организациями, можно к двум сильно различающимся классам.

Первый – ошибки персонала.

«
Клерк, прогулявший тренинг по ИБ, открыл письмо якобы от клиента его фирмы и активировал макросы в Word или Excel. Конфиденциальные сведения были выложены в базу данных, доступ к которой неправильно настроили. Забыли организовать резервное копирование, и деятельность организации парализована шифровальщиком. Такие «атаки» не всегда даже можно называть атаками, потому что они происходят случайным образом, а рассылка вредоносных программ - давно автоматизирована,
рассказывает Георгий Лагода, заместитель генерального директора ГК «Программный Продукт».
»

Второй – гораздо более опасный. Согласно данным исследования Positive Technologies, целевых (APT) атак в 2019 г. было существенно больше, чем массовых - их доля составила 60%. При этом сами злоумышленники стали активно использовать методы машинного обучения и искусственного интеллекта, что дает им возможность осуществлять целевые APT с относительно невысокой себестоимостью.

«
Зачастую злоумышленники используют недекларированные возможности ПО, закладки, открытые служебные интерфейсы, уязвимости zero day, применяют нестандартную логику работы устройств и программ, когда, например, источник подозрительного трафика может маскироваться под стационарные телефоны с использованием соответствующих диапазонов MAC- и IP-адресов компании разработчика данных телефонов. От таких атак крайне сложно защититься, и без навыков экспертов, своевременного реагирования, даже чутья и интуиции, здесь не обойтись,
поясняет Александр Спиридонов из компании «Криптонит».
»

Очевидно, что в этих условиях способность аналитической системы генерировать плодотворные гипотезы на основе имеющихся данных должна находить широкое применение в сфере информационной безопасности (ИБ). Участники ИБ-рынка говорят о том, что повестку российского рынка ИБ стали в существенной части формировать те игроки отечественного рынка, которые живут и действуют в парадигме 2.0, то есть ориентируются не только на отражение атак, но и на проактивное выявление угроз.

Пример продвинутого решения такого рода – системы SIEM, предназначенные для выявления подозрительных инцидентов ИБ. Их задача - выявлять из сотен миллионов событий, происходящих ежесекундно, подозрительные паттерны, и определять, какие комбинации требуют незамедлительного вмешательства человека.

«
При этом данные комбинации могут иметь совсем неочевидную природу, быть растянутыми во времени, казаться не связанными между собой, по крайней мере, до успешной кибератаки. С подобным анализом может справиться только машина, просто потому что речь идет о быстрой обработке колоссального объема данных. От того, насколько продвинутыми являются используемые алгоритмы, зависит эффективность таких систем,
рассказывает Георгий Лагода.
»

Например, интеллектуальная система мониторинга событий безопасности в цифровой инфраструктуре RuSIEM позволяет сформировать единый центр сбора информации о происходящем в сети, собирая сведения с различных систем и устройств: сетевого оборудования, серверов, рабочих станций, средств защиты информации и до бизнес-приложений и сервисов.

Структура SIEM-системы


Александр Спиридонов отмечает ограничения таких систем:

«
SIEM-системы могут обобщать данные. Они работают по заранее созданным правилам, опираясь на многочисленные источники данных. Но если злоумышленнику удастся обойти эти правила, считайте, что атака прошла успешно. Почему? Это второй вопрос. Возможно, отсутствует нужное правило срабатывания, или к системе подключено недостаточное количество источников данных, или где-то случайно оно оказалось отключено, выведено из строя, своевременно не обновлено.
»

Причиной успешной атаки может даже послужить излишнее промедление служб компании: неотлаженная коммуникация между отделами безопасности, сетевиками, администраторами. Зачастую в случае нештатной ситуации, замечает эксперт, на организацию конференции, ожидание профильных специалистов может уходить в разы больше времени, чем на само реагирование на инцидент безопасности.

«
SIEM-системы важны и защищают от рядовых атак, но надеяться, что они с таким же успехом защитят от APT, было бы наивно. Продвинутых решений сейчас не существует из-за специфики обрабатываемых данных, инфраструктуры и настроек SIEM в разных организациях,
говорит Александр Спиридонов.
»

В качестве примера весьма продвинутых ИБ-решений можно назвать, например, продукт IoT Inspector, разработанный компанией SEC Consult Services. Он призван выявлять уязвимые устройства Интернета вещей в цифровой инфраструктуре компаний.

«
В силу весьма невысокого уровня разработки программных оболочек, IoT-устройства зачастую оказываются одним из самых слабых мест, а то и прямой угрозой. К тому же, если сеть велика, то найти в ней какой-нибудь давно забытый роутер, который до сих пор работает, может оказаться нетривиальной задачей,
поясняет Георгий Лагода.
»

IoT Inspector создан как раз для решения подобных проблем.

Еще один весьма продвинутый продукт - Cybertrap, передовое решение для обмана кибер-злоумышленников: их заманивают в контролируемую среду и там мониторят все их действия, невзирая на самые изощренные их попытки скрытно.

Управление сложными системами: умный город

С 2019 г. в рамках национальных проектов «Цифровая экономика» и «Жилье и городская среда» в нашей стране реализуется программа «Умный город». Уже можно видеть первые результаты первых пилотных проектов. В частности, появились необычные версии привычных элементов городской среды.

Основные направления применении ИКТ для городского развития. Источник: исследование «Индикаторы умных городов НИИТС 2017»


Например, в небольшом городе Сатка в Челябинской области, который стал одним из пилотных регионов «Умного города», на одной из улиц установлены датчики состояния дорожного полотна, которые позволяют оценить качество покрытия в режиме реального времени. Датчики анализируют, например, уровень влаги и льда, а также содержание противогололедных смесей. Собираемые данные позволяют контролировать работу дорожных служб и своевременно принимать решения о ремонте.

Холдинг «Швабе» разработал умный светофор, оснащенный лазерным блоком, который проецирует в воздух визуальный заградительный сигнал для водителей. Со стороны визуально это выглядит как ряды параллельных линий, которые с расстояния 100 - 200 метров предупреждают о местоположении дорожной «зебры». Сигнал хорошо виден в темноте и тумане.

В некоторых городах появились высокотехнологичные мусорные баки: они снабжены датчиками, отображающими уровень наполнения. Мусоровозы будут экономить топливо, подъезжая только к заполненным бакам.

Буквально в последние дни расширился функционал столичной системы видеонаблюдения, которая развивается в рамках проекта «Безопасный город Москва». Начальник Главного управления МВД по Москве Олег Баранов говорит, что система успешно помогает сотрудникам МВД обнаруживать граждан, нарушающих карантинный режим в Москве.

Вызовы, стоящие перед отраслью. Что мешает умным программам взять на себя больше интеллектуальной работы?

Ограничения систем предиктивной производственной аналитики

Современные технологии промышленного интернета вещей (IIoT, Industrial Internet of Things) дают возможность подключить к системам мониторинга большое число транспортных объектов. Это способствует лучшему обучению нейронных сетей, что повышает глубину и точность прогнозов. Системы предиктивной аналитики, интегрированные с интернетом вещей, повышают эффективность работы оборудования, снижают эксплуатационные затраты и предотвращают аварии на транспорте.

Однако при внедрении таких систем компании сталкиваются с достаточно сложными технологическими проблемами. В первую очередь, к ним относится слабое оснащение технических объектов цифровой измерительной аппаратурой. Наблюдаются также проблемы при передаче данных в центры обработки в режиме реального времени.

Кроме того, как отмечает Нина Кварацхелия, основой всей интеллектуальной системы мониторинга является математическое ядро, которое содержит «цифровые образы» исправного оборудования при работе в различных режимах.

«
Создание таких цифровых портретов само по себе является сложной научной задачей и требует значительного времени для моделирования технологических процессов и накопления статистических данных,
подчеркивает Кварацхелия.
»

Впрочем, выгоды от использования интеллектуальных систем мониторинга технического состояния оборудования перекрывают сложности их создания, полагает эксперт, в силу того, что системы заранее обращают внимание экспертов на «подозрительные» отклонения, позволяют избежать аварии и связанного с ними серьезного материального ущерба».

Вызовы мира информационной безопасности

Вызов настоящего момента заключается в том, что, несмотря на наличие на нашем рынке систем ИБ, соответствующих самым высоким современным требованиям, все равно ощущается дефицит решений.

«
Дело не в том, что существующие решения, продукты и услуги не способны удовлетворить растущие потребности. Просто не бывает универсальных решений «из коробки», которые разом покроют все текущие и будущие потребности. То, что в ИБ-среде принято называть «ландшафтом угроз», то есть общая обстановка в сфере кибербезопасности, - вещь крайне переменчивая. Если угодно, это «предсказуемо непредсказуемая» среда,
поясняет Георгий Лагода.
»

Результат такой перманентной непредсказуемости - постоянная «гонка вооружений» киберпреступников и киберзащитников, которая не закончится никогда.

«
За примерами особо далеко ходить не надо - все помнят историю с эксплойтами, «имплантами» и прочим вредоносным ПО, разработанными Equation Group, и «утекшими» стараниями безвестных Shadow Brokers. Самые опасные из этих эксплойтов впоследствии проявились в глобальной эпидемии шифровальщика WannaCry. Вряд ли кто-то может предугадать, когда выплывет очередной «чёрный лебедь» подобного толка, и какие последствия он будет иметь,
рассказывает Лагода.
»

Но очевидно одно: «светлые силы» должны обладать не менее интеллектуальными и мощными инструментами, чем их противники.

«
Необходимость в появлении новых разработок не связана напрямую с качеством и уровнем развития существующих. Просто вызовы меняются. Никто не отменяет базовый антивирус, например, но им одним сейчас обойтись невозможно,
описывает текущую ситуацию Георгий Лагода.
»

Александр Спиридонов уточняет:

«
Если говорить о будущем, то хотелось бы видеть постепенное уменьшение доли участия экспертов в поддержании соответствующего уровня безопасности и расследовании инцидентов.
»

Барьеры для внедрения масштабных ИИ-систем в медицине

Михаил Кауфман, директор проектов здравоохранения в компании «ТехЛАБ», говорит о том, что, на его взгляд, является наибольшим вызовом в сфере реализации подобных проектов:

«
Это сочетание двух факторов: скорость движения мира вокруг нас, и вызывающее тоску направление этого движения в сторону полной зарегулированности.
»

Он приводит примера негативной зарегулированности: приказ МЗ РФ №203-н «Об утверждении критериев оценки качества медицинской помощи». Приказ регулятора медики нарушать не будут и, следовательно, будут назначать пациенту исследования, указанные в инструкции, даже если очевидна бессмысленность того или иного назначения в конкретном случае.

Кроме того, подчеркивает Михаил Кауфман, эти критерии основаны на принципах доказательной медицины и статистики, но сегодня им могут не соответствовать некоторые результаты исследований, полученные, например, с помощью технологий распознавания образов.

«
Если ИИ-программа утверждает, что на медицинском снимке с вероятностью 82,646% нет новообразования, но кто будет нести ответственность за то, что оно там все же было? Ведь даже если разработчики обучили нейросеть на датасете размером в миллион снимков, можем ли мы быть уверены, что этого достаточно?
-задает вопрос Михаил Кауфман.
»

«
Пока в законе нет обязательств сдавать все снимки в работу ИИ (я слышал, что так это работает в некоторых клиниках за рубежом), это будет работа не в интересах нашего здоровья, науки и отрасли, а, скорее, на экспорт, – уверен эксперт.
»

Аналогичная история - с рекомендациями лекарственных средств, например, на основе показателей давления или сердечного ритма.

«
Если результат, полученный с помощью ИИ, не ложится в канву доказательной медицины, то побеждает последняя, даже если ИИ, действительно, обнаружит в исследуемых данных что-то нетривиальное,
комментирует Кауфман.
»

По его оценке, главная проблема, тормозящая внедрение передовых методов ИИ в медицинской диагностике, заключается в том, что «интересы пациента давно ушли из рассмотрения, всех интересует максимальное выполнение нормативов, без оглядки на осмысленность и уместность их положений:

«
Если вы придумали чудо-продукт, который что-то хорошее делает пациенту, но нормативы от этого не выполнятся больше, чем без этого, будут ли главврачи больниц и чиновники здравоохранения вашим чудом интересоваться? Не будут. А врачей рядовых или пациентов не спросят, ведь не им решать, на что государственные ресурсы расходовать.

»

Вызовы «умного города»

Ключевым свойством, определяющим уровень «интеллекта» городской среды следует считать возможности и эффективность интеграции отдельных подсистем.

«
автор- говорит Георгий Лагода.
В этом смысле модульная архитектура во многих смыслах надежнее и эффективнее целостной. Масштабируемые решения, позволяющие интегрироваться с другими, в конечном счете, могут обеспечить лучшую защиту, чем «коробочные» продукты с фиксированным набором функций, вне зависимости от того, насколько широк этот набор,
»

При этом, уверен эксперт, абсолютно универсальных решений, которые будут оставаться таковыми на протяжении многих лет, не существует.

Денис Сереченко, директор цифровой трансформации Huawei Enterprise в регионе Евразия, также полагает, что каждый проект умного города уникален, и его опыт практически не поддается тиражированию.

«
Думаю, сегодня вообще нельзя говорить о том, что тот или иной город достиг состояния «умного». Все они: Барселона, Амстердам, Нью-Йорк, Шеньжень, Пекин, Москва и т.д.,- имеют определенные элементы своего «городского ума». Однако бизнес-кейсов, которые дают возможность тиражировать наилучший опыт, нет.
полагает Денис Сереченко.
»

Похоже, в обозримом будущем каждый умный город будет уникальным проектом, который невозможно тиражировать?

«
На сегодняшний момент это так. Для видеоаналитики и применения умных алгоритмов или применения сетей 5G для видеоаналитики нужен некоторый базовый уровень. Все это возможно тогда, когда в городе уже есть видеонаблюдение хотя бы в каком-то виде. Если мы говорим про Россию, то пока обеспечение городов видеонаблюдением оставляет желать лучшего,
- соглашается Роман Гоц.
»

Георгий Лагода считает, что в нынешних условиях оптимальной стратегией будет выбор комплекса современных ИТ-решений, реализованных на базе новейших технологий, таких как BigData и IoT, причем, таких, которые наилучшим образом подходят для решения задач конкретного региона, например, умные парковки, мониторинг пассажиропотока, билетные системы и т.д.

Денис Сереченко, в свою очередь, уверен, что создание умного города базируется на двух основаниях: объем госфинансирования и необходимая ИКТ-инфраструктура. Фактор источника финансирования в этом случае, действительно, необычайно важен: ИТ-решение сложное, интеллектуально емкое, а значит, дорогое, но соинвесторы из среды частного бизнеса в очередь за такими проектами не выстраиваются – социальная сфера не представляется слишком прибыльным делом.

Основные барьеры или проблемы, препятствующие внедрению систем ИИ сегодня. Источник: «Рынок в России», IDC, 2019 г.


Суммируя все выявленные барьеры и ограничения, сдерживающие сегодня более широкое использование систем ИИ для принятия решений в комплексных практических проектах, эксперты выделили три ключевых фактора:

1. Финансовый.

«
Главной движущей силой являются инвесторы, готовые не только спонсировать разработку, но и создавать междисциплинарные группы, предоставлять ресурс «технарей» и «предметников» в стартапы, аккумулирующие такого рода идеи и наработки в своих проектных пулах,
подчеркивает Михаил Кауфман.
»

.

2. Правовой. Правовое регулирование технологий ИИ в части возможности принятия решения машиной без участия человека. Дискуссия по горячей теме ответственности за принятое решение пока очень далека от завершения.
3. Организационный. Развитие технологий принятия решений с помощью интеллектуальных систем и их массовых практических внедрений ставит вопрос подготовки соответствующих кадров: для разработки, эксплуатации и развития умных систем.

Смотрите также