Февральский ракетный удар по иранской школе в Минабе, унесший жизни 120 детей, стал болезненным напоминанием: вера в «магию» ИИ без нормальной архитектуры данных убивает в буквальном смысле. В этом инциденте Пентагон задействовал связку модели Claude от Anthropic и платформы Maven Smart System от Palantir. В первый же день операции система «нащелкала» около тысячи целей, продемонстрировав ту самую скорость, о которой грезят в Кремниевой долине. Но за глянцевым интерфейсом скрывались костыли из 80-х: база данных, на которой обучались алгоритмы, оказалась безнадежно оторвана от реальности.
Технический провал произошел не в математике весов модели, а в десинхронизации данных. Еще в 2019 году аналитик пометил объект в Минабе как начальную школу, но эта критическая правка осталась в локальном цифровом инструменте, который так и не «подружили» с официальной базой целей MIDB. В итоге командиры раз за разом одобряли удар, опираясь на спутниковые снимки семилетней давности. Пока Claude генерировала приоритеты со скоростью света, фундамент разведданных оставался в эпохе дискет.
Архитектура системного сбоя
Корень катастрофы — в фрагментации разведывательных хранилищ. Как сообщает Los Angeles Times, как минимум две базы данных до сих пор полностью изолированы от основного репозитория целей. Магистральная система MIDB держится на ручном вводе, а ее современная замена — проект MARS — безнадежно буксует и отстает от графика на годы. Получилось, что передовые агенты Anthropic работали в вакууме, игнорируя неструктурированные примечания живых экспертов. Это классический пример того, как автоматизация без единого источника истины превращается в ускоритель для дезинформации.
По оценке Wall Street Journal, механизмы человеческого контроля (Human-in-the-loop) были банально недофинансированы. При масштабе в тысячу целей в сутки качественная верификация превратилась в «бутылочное горлышко».
В пылу кампании проверка точности из обязательного этапа стала опциональным, что и привело к удару по гражданскому объекту.
Иллюзия контекста и уроки для бизнеса
Инцидент в Минабе доказывает: никакой «умный» интерфейс не исправит гнилой бэкенд. Несмотря на возможности Claude по обработке естественного языка, система проигнорировала текстовые заметки аналитиков. Иронично, что эксперты, опрошенные LA Times, теперь предлагают проверять военные цели через Google Maps — когда государственные базы данных отстают от реальности на 10–20 лет, гражданские сервисы кажутся верхом надежности. Счетная палата США (GAO) предупреждала об этих дырах еще в 2020 году, но бюрократия оказалась сильнее здравого смысла.
Для бизнеса этот кейс — жесткий урок по управлению рисками. Рост юридической ответственности Anthropic и Palantir за ошибки в критической инфраструктуре — это лишь начало. Если вы внедряете ИИ-агентов, помните:
Риск катастрофической ошибки масштабируется быстрее, чем эффективность модели. Без аудита «осиротевших» баз данных и жесткой синхронизации всех слоев информации ваш ИИ будет просто очень быстро и уверенно принимать неверные решения. Автоматизация хаоса приводит лишь к автоматизированному хаосу.
Проведите технический аудит своих пайплайнов и найдите те самые «забытые» заметки сотрудников и легаси-записи, которые сейчас не попадают в контур обучения ваших моделей. Иначе вы рискуете оказаться в ситуации, где сверхоптимизированный алгоритм идеально выполнит задачу, опираясь на данные десятилетней давности.