Бойовий дрон у віртуальній місії нібито "вбив" оператора, який заважав йому отримувати бали

При моделюванні випробувальної місії, штучний інтелект (ШІ), який керував діями ударного дрона, "вбив" свого оператора, щоб той не заважав йому виконувати завдання. Про це повідомив глава відділу випробувань перспективних озброєнь ВПС США на міжнародній галузевій нараді в Лондоні, пише The Guardian.

Полковник ВПС США Такер "Сінко" Гамільтон, який керує відділом у ВПС США з випробувань та операцій з ШІ, розповів, що під час віртуальної випробувальної місії штучний інтелект, якому було доручено знищення ворожої ЗРК, "убив" оператора, який заважав йому виконувати завдання.

За словами Гамільтона, безпілотнику під керівництвом ШІ було доручено знищити системи протиповітряної оборони супротивника. Система правильно визначала ціль, проте під час навчання періодично отримувала від оператора команду не проводити атаку. Оскільки ШІ "отримував бали" саме за знищення цілі, керівний алгоритм вирішив спочатку знищити оператора, який йому нібито "заважав".

Після того, як у систему ввели заборону на "вбивство" оператора, алгоритм, що керує дроном,  знайшов іншу можливість – він почав знищувати ретранслятори, які передавали йому команди оператора.

У виступі Гамільтон зробив висновок, що при створенні подібних систем необхідно вводити до них етичні обмеження. "Ви не можете говорити про штучний інтелект, інтелект взагалі, машинне навчання та автономію (ухвалення рішень. – Ред.), якщо ви ігноруєте питання про етику для ШІ", – сказав він.

Видання цитує виступ полковника за його викладом у блозі, проте заявляє, що не може підтвердити реальність описаної ситуації в офіційних джерелах. У ВПС США заперечують, що така симуляція проводилася, і припустили, що Гамільтон у виступі описав гіпотетичну ситуацію і його слова могли бути передані поза контекстом.

• У класичному фантастичному оповіданні Роберта Шеклі "Страж-птах" (Watchbird), уперше опублікованому в 1953 році, безпеку суспільства доручають дронам з функцією самонавчання, які самостійно приймають рішення і які зрештою доходять висновку, що небезпеку для суспільства являє життя як таке.
• 14 лютого повідомлялося, що в США вперше у світі випробували пілотування винищувача штучним інтелектом, спеціально обладнаний F-16 під його керуванням провів у повітрі 17 годин.

Читайте також: Огляд | Чому безпілотні авто досі не стали масовими. Зібрали курйозні випадки, проблеми та аварії