Пентагон и алгоритмические жертвы / Как искусственный интеллект нанёс удар по «школе "Шоджаре-йе Тайебе" в Минабе»?

Тегеран, 7 мая. Defapress- Мохсен Мохаммади: Использование армией США систем искусственного интеллекта в недавних атаках на Иран, несмотря на заявления о повышении скорости и точности, привело по меньшей мере к одной человеческой катастрофе: попаданию ракеты «Томагавк» в школу в Минабе, в результате чего погибли по меньшей мере 175 человек. Перекрёстные отчёты показывают, что «сжатие» цикла принятия решений системой «Maven», а также опора на данные десятилетней давности окутали границу между системной ошибкой и военным преступлением туманной неопределённостью.

1. «Цепочка поражения» в масштабе секунд

Ядро военной трансформации США — система «Maven Smart System» компании Palantir. Эта система, использующая языковую модель «Claude» (Anthropic) в качестве координатора, сжимает классический цикл «наблюдение-ориентация-решение-действие» (OODA) с нескольких часов до нескольких секунд. По словам адмирала Чарльза Купера из CENTCOM: «Искусственный интеллект сжимает работу нескольких дней или часов до нескольких секунд — быстрее, чем противник может среагировать».

На практике эта система стандартизирует сырые спутниковые данные (NGA), данные с беспилотников, наземных радаров и данные из открытых источников (OSINT) в слое «онтологии» Palantir, затем модели машинного зрения и логистика ранжируют угрозы, и в итоге «операционные варианты» предоставляются командирам. Однако тот же отчёт Пентагона признаёт, что «формальное подтверждение» (то есть утверждение предложений системы без детальной проверки) является одной из трёх основных структурных уязвимостей этого процесса.

2. Ошибка в Минабе: когда данные 2010-х годов становятся «целью»

В первой волне атак, известной как «Эпический гнев», ракета «Томагавк» поразила женскую школу «Шоджаре-йе Тайебе» в Минабе. Иран объявил о гибели 168 детей в возрасте от 7 до 12 лет, а всего 175 человек. Издание Week in Worcester напрямую связало этот инцидент с «применением искусственного интеллекта» и «ускорением системы на основе Claude».

Однако предварительное расследование Министерства обороны США (DoD) представило иную картину: причиной ошибки стало использование устаревших данных Разведывательного управления (DIA), в которых здание школы всё ещё числилось частью военной базы, в то время как анализ геопространственных данных показывает, что это здание было отделено от базы и огорожено в период с 2013 по 2016 год. То есть в систему ИИ были загружены данные примерно десятилетней давности без обновления.

3. Уязвимость на пике скорости: три ахиллесовы пяты

Этот отчёт перечисляет три ключевых уязвимости:

1. Неоднородность сенсоров: получение противоречивых данных из разных источников на этапе слияния.
2. Дрейф данных: столкновение модели ИИ с условиями, отсутствовавшими в обучающих данных (например, смена назначения здания на учебное).
3. Формальное подтверждение: операторы-люди из-за высокой скорости утверждают предложения системы без детальной проверки.

В случае Минаба, похоже, высокая скорость генерации целей ликвидировала возможность сопоставления данных DIA с актуальными данными Национального агентства геопространственной разведки (NGA).

4. «Этическая красная линия» против «оперативной необходимости»
Любопытно, что сама компания Anthropic (создатель модели Claude) требовала не использовать свою модель для полностью автоматических атак или отслеживания американских граждан — ограничение, с которым Пентагон не согласился, и сотрудничество находится на грани прекращения. Ранее, в 2018 году, Google после протестов более 3000 сотрудников отказалась от дальнейшего участия в проекте Maven и опубликовала принципы, запрещающие участие в системах вооружения. Но позднее Google сняла эти ограничения и теперь рассматривается как альтернатива Claude.
Алекс Карп, генеральный директор Palantir, откровенно заявил: «Система, сокращающая цепочку поражения с нескольких часов до нескольких секунд, уничтожит врага». Однако, похоже, при этом «уничтожении» граница между комбатантом и гражданским лицом становится жертвой «алгоритмической скорости».
5. Заключение: ответственность — жертва спешки

«Искусственный интеллект обеспечивает возможность более быстрого отслеживания целей, но эта же сложная цепочка порождает уязвимости, при которых малейшая системная ошибка может за доли секунды превратиться в стратегический кризис».

Инцидент в Минабе показывает, что этот кризис является прежде всего человеческим, а не «стратегическим». Опора на устаревшие данные, отсутствие эффективного механизма межведомственного сопоставления и давление с целью «формального утверждения» предложений ИИ поставили Пентагон в положение, где скорость принесена в жертву точности и подотчётности.

Остаётся без ответа вопрос: когда алгоритм — с разрешения человека — принимает школу за военную базу, кто несёт ответственность за гибель 168 детей? Искусственный интеллект? Данные 2010-х годов? Или командир, который в комнате, полной светящихся экранов, нажал кнопку подтверждения менее чем за несколько секунд?

Конец сообщения /