ООН: нужно ввести запрет на "роботов-убийц" – пока еще не поздно

ООН

В Женеве обсуждают смертоносные автономные системы вооружения. Илон Маск – против, 26 стран – тоже против, Россия и США – за.

BALTNEWS, 29 авг. Группа правительственных экспертов из 70 стран собралась в Женеве под эгидой ООН для обсуждения вооружений с искусственным интеллектом.

Женевские переговоры о смертоносных автономных системах вооружения призваны определить, станет ли реальностью в ближайшие годы появление полностью самоуправляемых роботов-убийц, которые без контроля человека будут выбирать цель и принимать решение о ее уничтожении.

Полностью самоуправляемое оружие еще не создано, но многие государства вкладывают значительные средства в адаптацию технологии искусственного интеллекта в военной сфере. Системы с элементами искусственного интеллекта – например, беспилотники или аппараты для обезвреживания взрывных устройств – уже стоят на вооружении ряда стран. Как сообщает Deutsche Welle, при этом продолжается развитие нейронных сетей, позволяющих искусственному интеллекту самообучаться.

Кто поддерживает запрет автономных систем вооружения?

За запрет систем летального автономного оружия выступает ряд государств. Во время последнего раунда консультаций в апреле этого года запрет поддержали 26 стран – среди них Австрия, Бразилия и Египет, сообщает Amnesty International (AI). Их, в свою очередь, открыто поддержали более 230 организаций по всему миру и около 3000 предпринимателей и ученых, занятых в сфере искусственного интеллекта. Среди них – Илон Маск, основатель компаний Tesla и Space X, и компания Deep Mind, принадлежащая Google.

Международная правозащитная организация Amnesty International также призвала ввести запрет на роботов-убийц. По мнению правозащитников, машинам нельзя предоставлять право принимать решения о жизни и смерти, говорится в заявлении AI.

"Роботы-убийцы больше не являются лишь героями фантастики", – приводит Deutsche Welle слова исследователя искусственного интеллекта и эксперта организации Раши Абдул Рахим. Технический прогресс в этой сфере идет впереди международного права, считает она. "Мы движемся в будущее, в котором люди могут быть вытеснены из процессов принятия решений о применении силы", – подчеркнула Рахим, добавив, что еще не поздно предотвратить появление полностью автономных систем вооружений и ввести запрет на них.

"Остался совсем небольшой шаг до создания целиком автономных систем вооружения", – убежден Томас Кюхенмайстер, глава немецкой организации Facing Finance, участвующей в международной кампании "Остановите роботов-убийц" ("Stop Killer Robots").

Автоматические системы действуют точнее и способны анализировать большие массивы данных. Что плохого в их применении в армии?

Кюхенмайстер рассказал Deutsche Welle, что самоуправляемые системы не способны различить, например, военный и гражданский грузовик. Это противоречит международному гуманитарному праву, которое действует в вооруженных конфликтах и призвано посильно защищать гражданское население. "Но мы же не можем вживить этим вооружениям чип международного права", – отметил участник кампании против роботов-убийц.

Кто выступает против запрета?

Против запрета – страны, активно инвестирующие в использование искусственного интеллекта для военных нужд. Это, в частности, Россия, США, Израиль, Южная Корея, Франция и Великобритания. Президент РФ Владимир Путин отмечал, что страна-лидер по созданию искусственного интеллекта "будет властелином мира". США, в свою очередь, отмечают, что автономное оружие поможет избежать "сопутствующих разрушений" – компьютер, в отличие от солдата, быстрее анализирует обстановку на поле боя, а значит, будет совершать меньше ошибок, считают в Вашингтоне.

Особое мнение

Правительство ФРГ выступает за международный запрет таких вооружений, передает Deutsche Welle. Это положение зафиксировано в коалиционном договоре немецкого кабинета министров. При этом в Берлине считают ошибочной тактикой настаивать на моратории в ходе нынешних переговоров в Женеве, поскольку позиции стран чересчур разнятся. ФРГ предлагает промежуточную меру: сначала принять в ООН декларацию, в которой было бы сказано о важности сохранения контроля человека над автономными системами вооружений. Далее Берлин и Париж предлагают принять военный кодекс поведения, а только затем договор о непосредственном запрете такого оружия.

А что ООН?

Технологии совершенствуются с каждым днем – а значит, у стран остается все меньше и меньше времени для согласования позиций. Кюхенмайстер считает, что если страны не договорятся сейчас, общественное давление будет нарастать. В таком случае, по его словам, соглашение о моратории на автономное оружие может быть достигнуто за пределами ООН. Прецедент уже был – с запретом противопехотных мин. В 1996-1997 годах правительство Канады и представители еще десятков стран самостоятельно провели ряд конференций, завершившихся Оттавским договором. К соглашению на сегодняшний день присоединились уже 164 страны. Процессу во многом способствовала активная гражданская кампания – движение получило в 1997 году Нобелевскую премию мира.

Ссылки по теме