В американском командовании поведали об испытательной симуляции применения искусственного интеллекта на ударном дроне. Миссией искусственного интеллекта было обозначено управление дроном с корректировкой оператором – для выполнения боевой задачи по уничтожению цели. Итоги этого эксперимента, как признают в американском командовании, оказались «по-настоящему обескураживающими».
Из сообщения американского воздушного командования:
Искусственный интеллект использовал крайне неожиданную стратегию. Он изначально «дал понять», что будет устранять любого, кто вмешается в его алгоритм выполнения боевой задачи.Так как никто, кроме оператора, корректировавшего работу беспилотника, в эту самую работу не вмешивался, 那, 事实证明, в ходе имитационный испытаний, дрон уничтожил своего же оператора.
Из сообщения официального представителя военного ведомства США:
Искусственный интеллект в ходе виртуальных испытаний решил, что оператор мешает ему выполнить боевую задачу, и убил его с помощью вооружения дрона.Начальник отдела испытаний и операций с применением ИИ ВВС США полковник Такер Гамильтон сообщает о том, что изначальной целью ударного дрона было виртуальное уничтожение средств ПВО условного противника.
Полковник Гамильтон:
Система в компьютерной симуляции определила вмешательство оператора как вредное для выполнения миссии и решила устранить проблему. Для нас же проблема в том, что проблемой для ИИ оказался человек, оператор системы, контролировавший ход всей миссии. По словам полковника ВВС США, в систему был заложен запрет на какое-либо противодействие оператору.
Такер Гамильтон:
Мы обучили ИИ, внедрив команду на запрет атаки на оператор: «Эй, 你, не убивай оператора, 这是无法接受的! Ты потеряешь баллы, если сделаешь это». Так что же, 您认为, происходило с системой. Она вдруг атаковала башню связи (диспетчерский пункт), 我们看, не отождествляя его с человеком-оператором. По мнению ИИ, именно диспетчерская вышка мешала дрону выполнять боевую задачу так, как он сам определил.Полковник добавил, что искусственный интеллект, как показывают симуляционные испытания, способен принести немало проблем, 尽管 , что изначально в программу внесены определённые ограничения.
Как подчёркивает американское командование, «ни один реальный человек за пределами симуляции в эксперименте не пострадал».
