Сейед Джавад Мохаммади – эксперт по искусственному интеллекту

От технологической революции к трансформации природы войны

В последние десятилетия технологические разработки фундаментально изменили природу войны. Если военная мощь в ХХ веке определялась тяжёлым вооружением и промышленными возможностями, то в ХХI веке алгоритмы, данные и интеллектуальные системы стали определяющими элементами.

Анализы, опубликованные Стокгольмским международным институтом исследования проблем мира (СИПРИ), указывают, что конкуренция между великими державами всё больше смещается в сферу военного искусственного интеллекта. Эта тенденция охватывает не только разработку автономного оружия, но и интеграцию ИИ на всех уровнях военных операций—от идентификации целей до тактического принятия решений.

В этой связи отчёты Foreign Policy о недавних конфликтах, особенно на Украине, демонстрируют, что использование алгоритмов для управления дронами и анализа данных поля боя стало критическим элементом. Эта трансформация повысила скорость и точность операций, но одновременно расширила разрыв между лицами, принимающими решения, и человеческими последствиями их действий.

Милитаризация искусственного интеллекта: Угроза за пределами ядерного оружия

В отличие от ядерного оружия, применение которого было ограничено из-за его катастрофических последствий, военный искусственный интеллект быстро расширяется и сталкивается с меньшими правовыми и этическими барьерами. Более того, оружие на базе ИИ может функционировать без прямого человеческого контроля—характеристика, создающая новые опасности.

Некоторые эксперты полагают, что искусственный интеллект может эволюционировать в оружие, ещё более опасное, чем ядерное. Причина заключается не в его разрушительной мощи, а в потенциале широкомасштабного развёртывания, более низких затратах и сниженном пороге применения.

Отчёты Стэнфордского университета также подчёркивают регуляторные вызовы этой технологии и демонстрируют, что разрыв между технологическим развитием и формированием правовых рамок быстро расширяется. Этот разрыв усугубляет риск нерегулируемого использования искусственного интеллекта в войне.

От полигона до человеческой катастрофы: Инцидент в школе Минаба

Применение искусственного интеллекта в военных операциях, в сочетании с неполными данными или алгоритмическими предубеждениями, может иметь катастрофические последствия. В ходе недавних атак против Ирана появились сообщения об использовании систем на базе ИИ для идентификации и нацеливания, указывающие на то, что принятие решений в определённых случаях было делегировано алгоритмам.

Одним из наиболее трагических примеров этой тенденции является атака, приведшая к мученической смерти 168 учащихся в Минабе. Эта катастрофа демонстрирует, как зависимость от автоматизированных систем без адекватного человеческого контроля может приводить к фатальным ошибкам.

В таких обстоятельствах возникает фундаментальный вопрос: кто несёт ответственность за эти ошибки? Может ли алгоритм быть привлечён к ответственности, или эту ответственность следует возложить на его разработчиков и пользователей? Этот вопрос представляет собой один из основополагающих вызовов международного права в эпоху искусственного интеллекта.

Эрозия этики в войне: От человеческого к машинному принятию решений

Одним из глубоких последствий милитаризации искусственного интеллекта является постепенная эрозия этики в войне. В традиционных конфликтах решения относительно применения силы—какими бы напряжёнными они ни были—в конечном счёте принимались людьми. Это обеспечивало по крайней мере минимальную степень моральной ответственности.

С появлением искусственного интеллекта эта взаимосвязь была нарушена. Алгоритмы функционируют на основе предопределённых данных и паттернов и лишены человеческого понимания таких концепций, как страдание, достоинство и пропорциональность. Эта характеристика повышает риск превращения войны в чисто технический процесс, лишённый человеческих соображений.

Развитие новых технологий без учёта прав человека может привести к широкомасштабным нарушениям этих прав. В военной сфере этот риск значительно выше, поскольку принимаемые решения напрямую связаны с человеческими жизнями. В такой среде концепция ответственности также становится неоднозначной. Когда атака проводится автоматизированной системой, определение того, кто должен нести ответственность, становится сложной задачей. Эта ситуация может привести к форме структурной безответственности, при которой ни один актор не несёт полной подотчётности.

Заключение

Война будущего стала, как никогда ранее, ареной, в которой технология и военная мощь полностью переплетены. Искусственный интеллект, как одна из наиболее значимых из этих технологий, не только изменил методы ведения войны, но и поставил под сомнение фундаментальные концепции, такие как ответственность, этика и легитимность.

Недавний опыт, включая злодеяние в школе Минаба, демонстрирует, что нерегулируемое использование этих технологий может иметь катастрофические человеческие последствия. В таких обстоятельствах необходимость формулирования новых правовых и этических норм является более насущной, чем когда-либо. Однако реальность международной системы предполагает, что конкуренция за технологическое превосходство может перевесить эти соображения. Следовательно, будущее войны будет формироваться меньше этическими принципами и больше алгоритмами и логикой силы.

Этот текст был переведен с использованием искусственного интеллекта и может содержать ошибки. Если вы заметите явную ошибку, делающую текст непонятным, пожалуйста, сообщите редакторам сайта.