Депутаты Европейского парламента надеются убедить национальные правительства и генералов отказаться от разработки полностью автономных боевых систем, способных самостоятельно принимать решения о нанесении летальных для людей ударов.

"Искусственный интеллект должен находиться под контролем человека, позволяя людям менять или отменять его решения в случае его непредвиденного поведения", – говорится в руководстве по военному и гражданскому применению искусственного интеллекта, одобренном в январе незначительным большинством голосов в Европейском парламенте.

Сам факт этого голосования говорит о серьезной обеспокоенности депутатов возможностью "восстания машин", а незначительный перевес в голосах свидетельствует о сомнениях как насчет появления "роботов убийц", так и насчет того, что такие руководства могут остановить разработки военного искусственного интеллекта (ИИ).

Использование летальных автономных комплексов вооружений (LAWS) и так называемых роботов-убийц должно быть запрещено в Евросоюзе, считают депутаты Европарламента.

Эстония покупает себе немного суперкомпьютера >>>

"Решение о выборе цели и совершении летальных действий с применением автономных систем всегда должны приниматься человеком, осуществляющим целенаправленный контроль и оценку правомерности таких действий в соответствии с принципами пропорциональности и необходимости", – говорится в утвержденной парламентариями резолюции.

Иными словами, решение об убийстве человека должен иметь право принять лишь другой человек, а не сложная компьютерная программа на основе заложенных в нее алгоритмов. Дело даже не в том, что депутаты Европарламента так глубоко верят в способность человека отказаться от убийства себе подобных при малейшей на то возможности.

Не стоит думать, что депутатские кресла в Брюсселе занимают исключительно наивные гуманисты и пацифисты. Дело в том, что робота нельзя будет в случае чего отдать под суд за военное преступление, а его оператора – можно.

Военным нужны разумные боевые роботы

Европейские страны, как отмечают эксперты, все больше отстают от США и Китая в гонке за лидерство в области создания искусственного интеллекта. Причем Китай ускоренными темпами сокращает отставание от американцев, несмотря на то, что те инвестируют в разработки намного больше средств.

Американский, неправительственный "Фонд информационных технологий и инноваций" (ITIF) не так давно опубликовал свою оценку позиций лидеров гонки за ИИ, основанную на сравнении нескольких ключевых косвенных показателей. Например, количества научных публикаций на эту тему, размеров инвестируемых средств и количества занятых в этой сфере компаний, институтов и лабораторий, количества наиболее мощных суперкомпьютеров.

Угроза ядерной войны: виноват искусственный интеллект?

Лидером пока остаются США, а Евросоюз все больше отстает по некоторым показателям и от них, и от китайцев. Отстает и в "софте", и в "железе", но, несомненно, опережает "конкурентов" по части философского осмысления факта появления ИИ, оценки возникающих этико-моральных и правовых проблем, а также по части недопущения гипотетически возможного "восстания машин".

Но если упорный труд европейских умов на этих направлениях выглядит как бы преждевременным по причине отсутствия разумного компьютера, который можно было бы счесть равным человеку по способности, например, фантазировать, абстрактно и образно мыслить, то в области военного применения ИИ европейцы явно опоздали.

Наиболее продвинувшиеся в области совершенствования средств уничтожения державы не первый год имеют на вооружении, например, ракеты, оснащенные своеобразными "мозгами", которые могут самостоятельно выбрать наиболее ценную или наиболее доступную для удара цель.

То есть, иными словами, блок управления такой ракеты сам, без прямого участия человека, принимает решение о том, где и кого ему убить. Армии не откажутся от разработок еще более продвинутого оружия, то есть тех самых автономных боевых систем, оснащаемых все более совершенными программами управления, не откажутся от создания "роботов-убийц".

Количество и качество публикаций ученых, гражданских разработчиков программ ИИ, оцененное ITIF, дают возможность примерно оценить и уровень, достигнутый военными, которые работы о своих достижениях, естественно, не публикуют. С учетом того значения, которое в мировых столицах придают разработке "разумных компьютеров", ожидать полной открытости исследований, конечно, не приходится.

Но можно не сомневаться, что военные в чем-то опережают своих гражданских коллег.

Генералам проще определять приоритеты – самолеты, пушки и ракеты должны наводиться на цель как можно быстрее и как можно точнее, время реакции на атаку должно быть сведено к миллисекундам, а фактор человеческой ошибки или, тем паче колебания и сомнения должны быть исключены.

Усилия депутатов Европарламента останутся тщетными, если Брюсселю или ООН не удастся склонить все вовлеченные в гонку за ИИ стороны за стол переговоров, за которым можно будет договориться о запрете автономных боевых систем, запрете на производство "роботов убийц".

Мнение автора может не совпадать с позицией редакции.