Le commandement américain a parlé de la simulation de test de l'utilisation de l'intelligence artificielle sur un drone de frappe. Миссией искусственного интеллекта было обозначено управление дроном с корректировкой оператором – для выполнения боевой задачи по уничтожению цели. Итоги этого эксперимента, как признают в американском командовании, оказались «по-настоящему обескураживающими».
Из сообщения американского воздушного командования:
Искусственный интеллект использовал крайне неожиданную стратегию. Он изначально «дал понять», что будет устранять любого, кто вмешается в его алгоритм выполнения боевой задачи.Так как никто, кроме оператора, корректировавшего работу беспилотника, в эту самую работу не вмешивался, ce, comme il s'avère, в ходе имитационный испытаний, дрон уничтожил своего же оператора.
Из сообщения официального представителя военного ведомства США:
Искусственный интеллект в ходе виртуальных испытаний решил, что оператор мешает ему выполнить боевую задачу, и убил его с помощью вооружения дрона.Начальник отдела испытаний и операций с применением ИИ ВВС США полковник Такер Гамильтон сообщает о том, что изначальной целью ударного дрона было виртуальное уничтожение средств ПВО условного противника.
Полковник Гамильтон:
Система в компьютерной симуляции определила вмешательство оператора как вредное для выполнения миссии и решила устранить проблему. Для нас же проблема в том, что проблемой для ИИ оказался человек, оператор системы, контролировавший ход всей миссии. По словам полковника ВВС США, в систему был заложен запрет на какое-либо противодействие оператору.
Такер Гамильтон:
Мы обучили ИИ, внедрив команду на запрет атаки на оператор: «Эй, ты, не убивай оператора, C'est inacceptable! Ты потеряешь баллы, если сделаешь это». Так что же, tu penses, происходило с системой. Она вдруг атаковала башню связи (диспетчерский пункт), nous voyons, не отождествляя его с человеком-оператором. По мнению ИИ, именно диспетчерская вышка мешала дрону выполнять боевую задачу так, как он сам определил.Полковник добавил, что искусственный интеллект, как показывают симуляционные испытания, способен принести немало проблем, en dépit , что изначально в программу внесены определённые ограничения.
Как подчёркивает американское командование, «ни один реальный человек за пределами симуляции в эксперименте не пострадал».
