Эксперты предупреждают о начале гонки вооружений в сфере искусственного интеллекта
6 ноября на площадке Российского совета по международным делам (РСМД) пройдет конференция, посвященная искусственному интеллекту (ИИ). К мероприятию эксперты совета и привлеченные специалисты подготовили доклад о возможном влиянии искусственного интеллекта и смежных с ним технологий (машинное обучение, автономные аппараты) на международные отношения и различные сферы общественной жизни (есть в распоряжении “Ъ”). Составители документа, в частности, предупреждают об опасности возникновения новой гонки вооружений в сфере технологий ИИ.
Как отмечается в обзоре, искусственный интеллект, еще недавно существовавший лишь в научной фантастике, сегодня является одной из наиболее перспективных и быстро развивающихся технологий. Технологии ограниченного, или «слабого», ИИ уже активно используются в самых разных областях: от мобильных телефонов и бытовой электроники до военной продукции. В то же время найдется мало сфер научного знания, настолько мифологизированных, как искусственный интеллект.
«Благодаря образам из популярной культуры искусственный интеллект часто предстает в СМИ едва ли не ящиком Пандоры, открыв который человечество неизбежно окажется на грани апокалипсиса,— сказано в докладе.— Хотя подобный алармизм представляется беспочвенным, на повестке дня уже сегодня состоит разработка ”сильного” искусственного интеллекта, способного к самостоятельному принятию осознанных управленческих решений».
По мнению экспертов, перспектива создания подобной технологии в значительной степени ставит под вопрос не только нынешнюю систему глобального разделения труда, но и существующий мировой порядок и архитектуру международной безопасности. «В условиях обострения противоречий и кризиса доверия между великими державами существует реальная опасность возникновения новой гонки вооружения в сфере технологий искусственного интеллекта,— предупреждают составители документа.— При этом если контроль за оружием массового уничтожения — ядерным, химическим и биологическим — регулируется соответствующими международными договорами и конвенциями, то разработка военных технологий искусственного интеллекта на сегодняшний день остается в серой зоне международного права».
Напомним, в конце августа государствам—сторонникам запрета смертоносных автономных систем вооружений (созданных на основе технологий искусственного интеллекта) не удалось добиться мандата ООН на выработку юридически обязывающего международного договора в этой сфере. Таковы результаты состоявшихся в Женеве переговоров на площадке Конвенции по негуманному оружию. Среди тех, кто выступил против радикальных ограничительных мер, оказалась и Россия.
С инициативой запретить и полностью автономных роботов-убийц (речь идет о самых разных видах вооружений: от беспилотников до танков и систем ПВО) выступили несколько государств, в частности Австрия, Аргентина, Бразилия, Боливия, Ватикан. Всего на текущий момент идею запрета поддерживают 26 стран. При этом, по данным аналитиков американской исследовательской компании MarketsandMarkets, мировой рынок технологий ИИ военного назначения в 2017 году составил $6,26 млрд. Эксперты полагают, что к 2025 году этот показатель поднимется до $18,82 млрд.
«На сегодняшний день очевидно, что искусственный интеллект будет все активнее использоваться в военной и гражданской сферах, в том числе в вопросах обеспечения стратегической стабильности. Соблазн получить новое, более совершенное оружие и вырваться вперед в технологической гонке слишком велик, чтобы страны могли всерьез учитывать соображения общегуманитарного характера»,— считают и эксперты РСМД.
По их прогнозу, поменяются геополитические и военные доктрины большинства развитых стран. Китай, США, Индия, Великобритания и Франция уже объявили о разработке национальных военных программ на базе ИИ.
По мнению составителей доклада, не менее сильно скажется изменение модели сосуществования государства и бизнеса. «Интеграция целей и ресурсов государства и частного бизнеса для достижения военного превосходства, скорее всего, приведет к всемирному торжеству авторитарно-демократической модели интеграции интересов частного бизнеса и государства, уже взятой на вооружение (в прямом и переносном смысле) Китаем»,— отмечает один из авторов обзора, Сергей Карелов, основатель компании Witology, председатель Лиги независимых IT-экспертов.
Авторы обзора называют США и Китай безусловными лидерами технологий искусственного интеллекта. «Министерство обороны США, чтобы сохранить и расширить свое военное преимущество в будущем, поставило на технологии ИИ, потенциальное применение которых в военной области весьма разнообразно: от повышения эффективности логистических систем к более чувствительным задачам, таким как автоматическое управление и контроль в современных системах вооружения»,— напоминают эксперты.
Новая Стратегия национальной обороны США предполагает, что искусственный интеллект, скорее всего, изменит характер войны.
И потому, по словам замминистра обороны Патрика Шэнахэна, Соединенные Штаты «должны стремиться к применению ИИ с дерзновением и готовностью».
В Summary of the 2018 White House Summit on Artificial Intelligence for American Industry заявлено, что администрация Дональда Трампа «уделяет приоритетное внимание финансированию фундаментальной исследовательской и вычислительной инфраструктуры ИИ, машинного обучения и автономных систем». А 31 июля Белый дом выпустил меморандум для глав департаментов и агентств №M-18–22 о бюджетных приоритетах R&D на 2019–2020 годы, в котором назвал ИИ первым среди трех высших национальных технологических приоритетов (второй — квантовая информатика, а третий — суперкомпьютинг) и обязал Административно-бюджетное управление совместно с Управлением науки и технологической политики обеспечить высший бюджетный приоритет этих направлений для всех федеральных агентств в 2019–2020 годах.
«Реальное положение таково, что в аутсайдерах гонки за ИИ-технологии оказались все, кроме ее лидеров — США и Китая,— констатирует Сергей Карелов.— И хотя технологически развитые страны типа Франции и Германии или Индии и Южной Кореи, казалось бы, несопоставимы со странами третьего мира по уровню развития ИИ-технологий, и тем и другим уготована участь превратиться в ИИ-колонии стран лидеров».
Россия в документе названа «особым аутсайдером», потенциально способным составить конкуренцию в борьбе за лидерство.
При этом в докладе отмечается, что сочетание традиционной российской асимметричности ответов на геополитические вызовы со все еще существующим немалым научно-технологическим наследием СССР могут иметь вполне серьезные последствия на стыках технологий ИИ с новыми классами вооружений (от гиперзвука до систем электронного подавления сигналов).
Напомним, президент России Владимир Путин в сентябре прошлого года заявил, что страна, добившаяся лидерства в создании искусственного интеллекта, «будет властелином мира».
Елена Черненко
По материалам: “Коммерсантъ”
