Проект

Сотрудники Google увольняются из-за заказа Пентагона

Заказчики: Министерство обороны США (Пентагон)

Вашингтон; Государственные и социальные структуры

Подрядчики: Google
Продукт: TensorFlow
На базе: Искусственный интеллект (ИИ, Artificial intelligence, AI)

Дата проекта: 2018/03

Содержание

2018

Сотрудники Google увольняются из-за сотрудничества с Пентагоном

В мае 2018 года стало известно об уходе из Google сотрудников из-за недовольства сотрудничеством компании с американским министерством обороны в области разработки искусственного интеллекта для военных беспилотных летательных аппаратов (БПЛА).

Работающие в Google люди утверждают, что анализом изображений в военных операциях должны заниматься люди, а не алгоритмы, поскольку ошибка компьютера может стать смертельно опасной. Компания парирует тем, что соответствующее программное обеспечение, которое используется в проекте Пентагона, является открытым, то есть военные могут использовать его и без участия Google. 

Работники бегут из Google в знак протеста против сотрудничества с минобороны США

Как пишет Gizmodo со ссылкой на свои источники в Google, около 10 работников из различных подразделений компании подали заявления об увольнении. Их решение обусловлено этическими причинами — персонал против использования ИИ в беспилотной войне и опасается, что контракт с Пентагоном подорвет доверие пользователей к Google.

Ряд сотрудников Google рассказали изданию, что их также беспокоило руководство, которое стало менее прозрачным при принятии спорных решений в бизнесе и меньше прислушиваться к возражениям сотрудников.

«
Я пытался напоминать себе, что решения Google — это не мои решения. Я не несу личной ответственности за все, что они делают. Но я чувствую ответственность, когда вижу что-то, что я должен развивать, — рассказал один из уволившихся служащих Google.
»

«
В какой-то момент я понял, что не могу искренне рекомендовать кому-либо работать в Google, зная то, что знаю я. Я понял, что если не могу рекомендовать людям присоединиться к компании, то почему я все еще здесь? — задался вопросом другой сотрудник компании, который также уволился.
»

Издание называет первым этот массовый уход работников Google, когда причиной увольнений по собственному желанию является решение руководства компании. Представители Google воздержались от комментариев.[1]

Протест сотрудников Google

В начале апреля 2018 года сотрудники Google выразили протест против выполнения компанией заказа Пентагона на разработке технологии искусственного интеллекта (ИИ) для беспилотных летательных аппаратов (БПЛА).

В распоряжение газеты The New York Times (NYT) попало коллективное письмо, подписанное персоналом Google в знак протеста против участия компании в проекте американского министерства обороны США. Послание руководству подписали более 3100 работников Google, среди которых — ведущие инженеры.

Сотрудники Google протестуют против ИИ-проекта с Пентагоном
«
Мы считаем, что Google не следует заниматься военным бизнесом. Поэтому мы просим аннулировать Project Maven, а также подготовить, опубликовать и обеспечить выполнение ясной и точной политики, согласно которой, Google и его подрядчики никогда не будут создавать боевые технологии, — говорится в петиции.
»

Издание отмечает, что возмущение сотрудников Google отражает культурологический конфликт между компаниями и федеральным правительством США по вопросу целесообразности применения ИИ в военных целях. Речь идет о программном обеспечении с ИИ-алгоритмами, которое повысит точность наведения дронов боевого назначения.

Google входит в холдинг Alphabet, в котором к началу апреля 2018 года работает около 70 тыс. человек. По поводу протеста служащих в Google сделали следующее заявление:

«
Мы знаем, что есть много открытых вопросов, связанных с использованием новых технологий, поэтому эти разговоры с сотрудниками и внешними экспертами чрезвычайно важны и полезны.
»

В Google также отмечают, что создаваемая для Пентагона технология имеет «неагрессивную» природу и не приведет к разработке каких-либо автономных боевых систем. Компания давно работает под девизом «Не будь злым», а участие в оборонном подряде создало что-то вроде внутреннего раскола в Google, отмечает NYT.[2]

Начало проекта

В марте 2018 года стало известно о том, что американское министерство обороны привлекло Google к разработке программного обеспечения с искусственным интеллектом для анализа данных с беспилотных летательных аппаратов.

Как сообщает Bloomberg со ссылкой на представителя Google, для проекта с Пентагоном компания предоставила библиотеку API машинного обучения с открытым исходным кодом TensorFlow, чтобы обеспечить автоматическое определение объектов на основе неклассифицированных данных.

Пентагон нанял Google для разработки ИИ-программы для анализа данных с беспилотников
«
Технология маркирует изображения для просмотра человеком и предназначена только для оборонительных целей. Использование машинного обучения в военных целях вызывает логичные опасения. Мы активно обсуждаем эту важную тему как внутри компании, так и с другими, поскольку мы продолжаем развивать стратегии и меры безопасности вокруг разработки и использования наших технологий машинного обучения, — отметили в Google.
»

По данным издания Gizmodo, пилотный проект Google и минобороны США называется Maven. В его задачи входит распознавание 38 категорий объектов, заснятых военными дронами. Разработка должна в том числе следить за перемещением людей, когда они заходят или выходят из разных помещений.

Gizmodo пишет, что причиной обращения американского военного ведомства к технологическим компаниям стало то, что Пентагон не справляется с массивом данных, поступающих от дронов — в Пентагоне физически не успевают отсматривать материал. Министерство обороны Минобороны потратило значительные ресурсы на передовые технологии для сбора информации, но отстало в создании инструментов для ее анализа.

Bloomberg отмечает, что Google изменила своим принципам, поскольку прежде сильно ограничивала работу с военными. Некоторые сотрудники Google были возмущены предоставлением военным ресурсов компании для создания технологии наблюдения в операциях с участием дронов, добавляет Gizmodo.[3]

Примечания