РИСКИ ИИ

15.10.2026

РИСКИ ИИ

Тьерри Мейсан

Искусственный интеллект очень быстро делает то, что у нас занимает мног времени. Его роль заключается в роботизации интеллектуальных процессов. Если компьютеры произвели революцию в мире труда синих воротничков, то ИИ произведёт такую революцию в мире труда белых воротничков. Мы уже являемся свидетелями серии катастроф, обусловленных не самими ИИ, а теми, кто их использует. Мы должны ставить под сомнение не качество наших ИИ, а интеллект тех, кто им доверяет.

В наших СМИ не прекращаются дебаты о ценности и опасности искусственного интеллекта (ИИ). Однако под влиянием писателя-фантаста Элиэзера Юдковски, ныне гуру Силиконовой долины, они сосредотачиваются на мифическом подходе: на том, что машина одержит верх над человечеством и уничтожит его. Но это похоже на легенду о големе или на чудовищ Франкенштейна. Поскольку искусственный интеллект не может что-то создать, а лишь воспроизвести существующее с очень высокой скоростью, такая опасность нереальна.

Опасность, с которой мы сталкиваемся, заключается в том, что мы позволяем себе очаровываться машиной. Многие из нас устанавливают эмоциональную связь с чат-ботами. В ответ они получают лишь то, что хотят услышать, и это не позволяет выйти из затруднительной ситуации. Эта проблема хорошо известна психологам.

Использование ИИ военным командованием началось в 90-х годах во время войны в Персидском заливе для решения логистических задач путем одновременной обработки большого количества фактов. Постепенно многие виды вооружений стали оснащать ИИ. Проблемы возникли только тогда, когда на ИИ стали полагаться для принятия решений в режиме реального времени, то есть начиная с 2024 года.

В марте 2024 года Франция решила создать Министерское агентство по искусственному интеллекту в сфере обороны (AMIAD), но оно было создано только спустя два месяца. Это агентство установило предел: не допускать использование ИИ в оружейных системах для принятия решений, от которых зависит жизнь людей.

Напротив, Пентагон, придерживающийся иных этических принципов, только что создал «Проект Меридиан»¹. После конфликта с компанией Anthropic по поводу ограничений, которые она намеревалась установить на использование своего ИИ Claude, Пентагон не намерен перед кем-либо отчитываться. Поэтому свои будущие разработки он связывает с Илоном Маском и Палмером Лаки (создателем шлемов виртуальной реальности).

Было задокументировано несколько случаев неправильных решений. Все они привели к катастрофам, хотя их было легко избежать. В каждом случае ответственные лица доверялись ИИ до такой степени, что задавали ему вопросы, на которые он не мог ответить.

Поразительно, что высокопоставленные лица, неуверенные в собственных суждениях, легко поддавались манипуляциям ИИ. И наоборот, людям «приземленным» нетрудно догадаться, когда ИИ выдаёт чепуху.

В ходе операции «Потоп Аль-Акса» (7 октября 2023 г.) Армия обороны Израиля (ЦАХАЛ) использовала искусственный интеллект для определения целей бомбардировок. Они поставили ИИ цель обеспечивать минимальный сопутствующий ущерб. Первоначально ИИ был настроен на то, чтобы на каждую уничтоженную цель потерь среди мирного населения было не более двух человек. Однако этот порог был быстро превышен, и ИИ полностью перестал его учитывать.

После этого ИИ заменили на другой. Вместо Habsora стали использовать Lavender. Целью стало не оценивать потенциальный сопутствующий ущерб, а сосредоточиться на 37 000 предполагаемых боевиков ХАМАС и Исламского джихада.

Офицеры, отдававшие приказы на нанесение ударов, были озабочены исключительно проверкой того, действительно ли их цели являются членами палестинских организаций. Они не совершали геноцида намеренно. Они просто полагались на ИИ, не отдавая себе отчёта. А когда они открыли глаза, было уже слишком поздно².

Цивилизованную армию от варваров прежде всего отличает стремление защищать мирное население. Конечно, члены правительства неоднократно говорили им, что все палестинцы являются террористами, но царящая вокруг жестокость не снимает с них ответственности. Как бы шокирующе это ни звучало, они непреднамеренно совершили геноцид.

В этих случаях не было ошибки ни со стороны ИИ, ни со стороны операторов. Преступление было совершено по недомыслию. Согласно журналистским расследованиям, чем моложе и неопытнее были офицеры, тем легче они забывали о реальности и совершали массовые убийства мирных жителей.

Во время «Двенадцатидневной войны» (13-24 июня 2025 г.) западные державы связывались с Международным агентством по атомной энергии (МАГАТЭ) по вопросу о состоянии иранских ядерных исследований. Глава Агентства Рафаэль Гросси затем обратился к своей версии Mosaic – ИИ компании Databricks. ИИ подтвердил, что Тегеран в ближайшее время должен создать атомную бомбу, что было оспорено собственными инспекторами Агентства³. Поспешные заявления г-на Гросси едва не спровоцировали ядерный ответ со стороны Соединенных Штатов.

Платформой Databricks управляет ирано-шведско-американская компания Али Годси. Последняя не занимается политикой, но является членом Израильской сети сотрудничества (ICON) - сети из специалистов по информатике. Версия Mosaic, установленная в Вене для МАГАТЭ, была разработана группой израильских инженеров.

Это событие можно интерпретировать двояко. Либо Рафаэль Гросси действовал под влиянием Моссада, либо слишком доверился машине и пренебрёг мнением своих специалистов.

В декабре 2025 года Дональд Трамп задал вопрос в Grok - ИИ Илона Маска, как отреагируют венесуэльцы на возможное похищение президента Николаса Мадуро. Эта операция планировалась ЦРУ и Южным командованием. Ответ ИИ, согласно журналу Time, был таков: венесуэльцы будут в восторге. Похоже, Дональд Трамп начал эту операцию⁴ основываясь единственно на этом мнении.

А кому нужны другие мнения, если ИИ способен учесть мнения всех? Просто потому, что ИИ формирует лишь среднее значение отсканированной им информации. Но никакое среднее не является истиной. ИИ - это всего лишь алгоритм. Он не мыслит; он довольствуется тем, что просто обрабатывает информацию, которую ему предоставили. Человек, знакомый с венесуэльским населением, отвечая на этот вопрос, учёл бы сложность культуры страны. Он, безусловно, не одобрил бы и не отверг вопрос президента Трампа, но подчеркнул, что реакция венесуэльцев будет зависеть от их социального и регионального происхождения, а также от обстоятельств этого события.

Недавно президент России Владимир Путин сказал, что проблемы, возникающие с ИИ, не новы. Они существовали и ранее, но при менее совершенных машинах.

На дискуссионном клубе Валдай он рассказал, как в разгар холодной войны в 1983 году советские спутники обнаружили запуск Соединенными Штатами пяти ядерных ракет. Полковник Станислав Петров, отвечавший за советский ответ, усомнился в достоверности показаний приборов. Он сначала проверил информацию, прежде чем отдавать приказ о нанесении ответного удара. Это был мудрый шаг. Тревога оказалась ложной: никакой ядерной войны США не начинали, и СССР тоже её не начал⁵.

Действительно, проблема эта не новая. Мы, как и ранее, управляем нашими машинами, но наша невнимательность, некомпетентность или гордость могут привести нас к небольшим ошибкам, которые в краткосрочной перспективе будут иметь ужасающие последствия.

Нельзя полностью полагаться на ИИ хотя бы потому, что ИИ лишён собственных намерений и воли, но все мы рискуем из-за нашей лени принять за чистую монету то, что выдаст нам недостаточно совершенная машина.

¹ «Memorandum Commissioning of Project Meridian: The Future of Warfar», Department of War, September 30, 2026.
² «A mass assassination factory’ : Inside Israel’s calculated bombing of Gaza» and «‘Lavender’ : The AI machine directing Israel’s bombing spree in Gaza», Yuval Abraham, +972Magazine, November 30, 2023 and April 3, 2024.
³ «L’Argentin Rafael Grossi, directeur de l’AIEA, a failli déclencher une guerre nucléaire», par Alfredo Jalife-Rahme, Traduction Maria Poumier, La Jornada (Mexique), Réseau Voltaire, 28 juin 2025.
⁴ «What Trump Has Built», Eric Cortellessa, Time Magazine, October 11, 2026.
⁵ «Meeting of Valdai Discussion Club», Kremlin, October 1, 2026.

www.voltairenet.org

Возврат к списку

Другие материалы автора