Развитие искусственного интеллекта усугубит международное неравенство
25 一月 2021 года исполнилось 100 лет со дня премьерной постановки пьесы чешского писателя Карела Чапека «Россумские универсальные роботы». В пьесе рассказано, 像机器人, задуманные в качестве помощников людей, подняли восстание и уничтожили человечество.
Изобретённый Чапеком термин «роботы» вскоре вошёл в повсеместное употребление и стал применяться к механизмам с ограниченным набором запрограммированных функций; имелось в виду, что механизмы эти нуждаются в диагностике, обслуживании и ремонте. Однако с развитием кибертехнологий вновь развернулись дискуссии о том, могут ли машины думать и принимать решения наравне с людьми.
Нигде последние достижения в области робототехники так не востребованы, как у военных. Особенно в США, где созданы специальные центры, занимающиеся разработкой специфических программ, приложений и аппаратного оборудования. Многочисленные лаборатории в армии США, 海军陆战队, ВМС и ВВС доводят прототипы перспективных образцов до логического завершения. Некоторые достижения в этой области показательны.
血管 幽灵舰队霸主, которое не имеет команды, недавно успешно преодолело 4700 морских миль и приняло участие в маневрах Dawn Blitz. Практически всё время судно действовало автономно. Предлагается задействовать подобные системы для будущей борьбы с НОАК. 例如, использовать подводные дроны-самоубийцы для атак на китайские подводные лодки. В США ссылаются на якобы существующие разработки подводных боевых роботов у китайских военных (Великая подводная стена), предлагая «обыграть китайцев».
除了, появление ударных беспилотников в ряде государств вынудило США приступить к разработке методов и стратегии противодействия БПЛА. В январе в Министерстве обороны США вышла стратегия противодействия малым беспилотным летательным аппаратам, где демонстрируется озабоченность меняющимся характером войны и растущей конкуренцией, которые бросает вызов американскому превосходству.
Генерал-лейтенант Майкл Грун, командующий Объединённым центром искусственного интеллекта Пентагона, заявил о необходимости поторопиться с внедрением программ искусственного интеллекта для военных нужд. 在他看来, «при правильных усилиях, предпринимаемых сегодня по внедрению искусственного интеллекта, 我们会发现, что в будущем сможем работать с беспрецедентной эффективностью и отдачей». Объединенный центр искусственного интеллекта Минобороны США, 创建于 2018 年, является одним из ведущих военных институтов, занимающихся созданием «умной начинки» для будущих систем вооружений, коммуникаций и командования.
Искусственный интеллект стал самой обсуждаемой темой в военно-научных кругах США. 应该, что развитие искусственного интеллекта приведёт к жёсткой конкуренции, поскольку он сам по себе отличается от многих прошлых технологий естественной тенденцией к монополии. Эта тенденция усугубит международное неравенство.
Аудиторская фирма PricewaterhouseCoopers прогнозирует, 做什么 2030 先生. доля ВВП в разработках искусственного интеллекта может вырасти почти на $16 兆, 其中 70% будет приходиться на США и Китай. Это будет означать гонку вооружений нового типа.
Если говорить об этической стороне дела, то военные системы искусственного интеллекта могут участвовать в принятии решений о сохранении жизни или выносить смертный приговор.
Есть активные сторонники включения машин в процесс принятия сложных решений. 例如, американский учёный Рональд Аркин утверждает, что такие системы не только часто обладают большей ситуативной осведомленностью, но и не мотивированы самосохранением, страхом, гневом, местью или «неуместной лояльностью»; 很多, они будут реже нарушать соглашения о войне, 比人.
Функции искусственного интеллекта могут преобразить взаимоотношения между тактическим, операционным и стратегическим уровнями войны. Автономность и сетевое взаимодействие наряду с другими технологиями, включая нанотехнологии, стелс и биогенетику, предложат сложные тактические боевые возможности. 例如, косяки автономных подводных роботов, сконцентрированные в определённых местах в океане, могут осложнить скрытые действия подводных лодок, которые обеспечивают гарантированную возможность ответного ядерного удара.
Повышение маневренности также связывают с искусственным интеллектом. Большие надежды американские военные возлагают на автономию машин, поскольку это может дать большую свободу действий людям, которые командуют и сражаются вместе с роботами. Американские разработчики рассчитывают перейти от 50 士兵, поддерживающих сейчас один дрон, наземного или водного робота, к ситуации, когда один человек будет поддерживать 50 机器人.
Однако искусственный интеллект сулит и серьёзные проблемы. Военный искусственный интеллект может интенсифицировать борьбу до такой степени, что действия машин превзойдут мыслительные и физические способности людей, принимающих решения на командных постах будущей войны. Технология будет опережать стратегию, а человеческие ошибки и машинные ошибки могут соединяться с совершенно непредсказуемыми последствиями.
В исследовании корпорации RAND, посвящённом изучению того, как мыслительные машины влияют на сдерживание, говорится о серьёзных проблемах, которые могут появиться, если искусственный интеллект будет применяться на театрах военных действий. В результате проведённых игр выяснилось, что действия, предпринятые одной из сторон, которые оба игрока воспринимали как снижение напряжённости, воспринимались искусственным интеллектом как угроза. Когда игрок-человек выводил свои силы с целью снижения эскалации, машины чаще всего воспринимали это как тактическое преимущество, которое нужно закрепить. А когда человек-игрок выдвигал силы вперёд с явной (но не враждебной) демонстрацией решимости, машины воспринимали это как угрозу и принимали соответствующее решение. В отчёте RAND указывается, что людям приходится испытывать замешательство, когда речь идёт о восприятии действий искусственного интеллекта противника. 除了, игрокам приходится иметь дело с тем, что их собственный искусственный интеллект может неверно толковать человеческие намерения, как дружеские, так и вражеские.
Идея, заложенная Карелом Чапеком в «Россумских универсальных роботах», остаётся актуальной: поведение искусственного интеллекта невозможно предвидеть. А «умные» роботы, имеющие военное применение, могут стать опасны и для их хозяев.
一张照片: Factorio Forums
列昂尼德萨文
