Боевой дрон в виртуальной миссии якобы "убил" оператора, который мешал ему получать баллы

При моделировании испытательной миссии, руководивший действиями ударного дрона искусственный интеллект (ИИ) "убил" своего оператора, чтобы тот не мешал ему выполнять задание. Об этом случае сообщил глава отдела испытаний перспективных вооружений ВВС США на международном отраслевом совещании в Лондоне, пишет The Guardian.

Полковник ВВС США Такер "Синко" Гамильтон, который руководит отделом в ВВС США по испытаниям и операциям с ИИ, рассказал, что в ходе виртуальной испытательной миссии искусственный интеллект, которому было поручено уничтожение вражеской ЗРК, "убил" оператора, который мешал ему выполнять задание. 

По словам Гамильтона, беспилотнику под руководством ИИ было поручено уничтожить системы противовоздушной обороны противника. Система верно определяла цель, однако в ходе обучения периодически получала от оператора команду не проводить атаку. Поскольку ИИ "получал баллы" именно за уничтожение цели, управляющий алгоритм принял решение сначала уничтожить оператора, который ему якобы "мешал". 

После того как в систему ввели запрет на "убийство" оператора, управляющий дроном алгоритм нашел другую возможность – он начал уничтожать ретрансляторы, которые передавали ему команды оператора. 

В выступлении Гамильтон сделал вывод, что при создании подобных систем необходимо вводить в них этические ограничения. "Вы не можете говорить об искусственном интеллекте, интеллекте вообще, машинном обучении и автономии (принятии решений. – Ред.), если вы игнорируете вопрос об этике для ИИ", – сказал он.

Издание цитирует выступление полковника по его изложению в блоге, однако заявляет, что не может подтвердить реальность описанной ситуации в официальных источниках. В ВВС США отрицают, что такая симуляция проводилась, и предположили, что Гамильтон в выступлении описал гипотетическую ситуацию и его слова могли быть переданы вне контекста.

• В классическом фантастическом рассказе Роберта Шекли "Страж-птица" (Watchbird), впервые опубликованном в 1953 году, обеспечение безопасности общества поручают самостоятельно принимающим решения самообучающимся дронам, которые в итоге приходят к выводу, что опасность для общества представляет жизнь как таковая.    
• 14 февраля сообщалось, что в США впервые в мире испытали пилотирование истребителя искусственным интеллектом, специально оборудованный F-16 под его управлением провел в воздухе 17 часов.

Читайте также: Обзор | Почему беспилотные авто не стали массовыми. Собрали курьезные случаи, проблемы и аварии