Летальные автономные системы вооружений (Lethal Autonomous Weapons Systems — LAWS) «способны идентифицировать, выбирать и поражать цель без вмешательства оператора-человека в процесс выполнения этих задач», объяснил агентству Жан-Марк Рикли, руководитель направления возникающих глобальных рисков и рисков в Женевском центре политики безопасности.
В статье отмечается, что автономное оружие, такое как противопехотные мины, существовало и раньше, однако с распространением беспилотников, оснащенных искусственным интеллектом, оно теперь «способно выбирать и поражать цели, которые не были определены заранее, адаптируясь к окружающей среде без участия человека», говорит Рикли.
Ключевым вопросом для потенциальных регуляторов стало определение уровня контроля со стороны человека над решением о применении такого оружия. США заявляют о необходимости «должного уровня человеческого суждения» при использовании автономного оружия, в то время как Франция настаивает на том, что человек должен участвовать и в принятии решений. Эта страна запрещает «смертоносные автономные системы вооружений» (LAWS), но разрешает использование «частично автономных» систем (PLAWS).
«Роль человека всегда обеспечивается через так называемый должный контроль со стороны командира — понятие, объем которого варьируется в зависимости от критичности системы и оперативного контекста», — объяснил контр-адмирал Венсан Себастьен, заместитель директора Агентства по искусственному интеллекту в оборонной сфере (AMIAD) при Министерстве обороны Франции.
«Мы сейчас находимся на опасно близком расстоянии от пересечения моральной „красной линии“ — автономного выбора целей (людей) машинами», — говорилось в совместном заявлении генсека ООН Антониу Гутерриша и президента Международного комитета Красного Креста Мирьяны Сполярич, которое они распространили в августе.
Рикли отметил, что круг вопросов, вынесенных на обсуждение в Женеве, «очень узок». Он не охватывает всего спектра проблем, связанных с применением ИИ на поле боя — сфере, где его использование постоянно расширяется, в частности в процессе формирования перечня целей, объяснил эксперт. По его словам, это проявилось во время американо-израильских действий против Ирана в этом году, когда американцы обрабатывали до 1000 целей в день на территории Ирана.
«Существует целый ряд проблем и неприемлемых рисков, связанных с системами определения целей и поддержки принятия решений. Часть дискуссии касается систем, уже широко применяемых на поле боя», — отметила Лор де Русси-Рошонгонд из Центра геополитики технологий при Французском институте международных отношений (IFRI).
«Какой именно уровень человеческого контроля необходим, чтобы гарантировать, что оператор действительно руководствуется собственным суждением, а не просто формально утверждает рекомендации машины?» — спросила она.
Автономное оружие, которое будут обсуждать в Женеве, пока не получило массового распространения, хотя аналитики отмечают, что Россия уже применяла его во время вторжения в Украину, а США — во время операций против Ирана. AFP констатирует, что его распространение неизбежно.
«Автономные системы вооружений — это не далекое будущее, гонка за расширение автономности в системах вооружений уже в самом разгаре», — заявили Гутерриш и Сполярич.
По словам Рикли, рои автономных дронов, выполняющие миссию нейтрализовать противника путем перенасыщения его обороны, были бы чрезвычайно эффективными, и некоторые государства рассматривают их как решающее стратегическое преимущество.
В январе Министерство обороны Китая назвало рои автономных дронов «новым лицом войны».
«В эпоху острого военного соперничества государство, которое первым нанесет полностью автономные удары на поражение привычной практикой, изменит представление о нормах для всех остальных», — отметил Джеральд Мако, научный сотрудник Кембриджского университета, в комментарии изданию Small Wars Journal.
Между тем Дарио Амодеи, руководитель компании Anthropic, одного из лидеров в сфере ИИ, заявлял в этом году, что остаются серьезные сомнения и риски: «Сегодня передовые системы ИИ просто недостаточно надежны, чтобы управлять полностью автономным оружием».
