Департамент эффективности государственного управления (DOGE) под руководством Илона Маска и Вивека Рамасвами начал масштабную «оптимизацию» жилищной политики США. В качестве главного инструмента выбраны системы искусственного интеллекта, логика работы которых полностью скрыта от общественности. По данным некоммерческой организации Democracy Forward, Министерство жилищного строительства и городского развития (HUD) заблокировало более ста документов по запросам на основании закона о свободе информации (FOIA). Чиновники ссылаются на сомнительные юридические конструкции вроде «привилегии ИИ» и защиты совещательного процесса. На практике это означает, что ведомство отказывается раскрывать, на каком основании алгоритмы вычеркивают социальные программы.
Мы наблюдаем опасный прецедент: ИИ используют не для помощи, а как щит, за которым можно спрятать непопулярные решения, избегая любой ответственности за ошибки.
Студенты и промпты против бюрократии
Архитекторами этой автоматизированной системы стали люди с весьма специфическим бэкграундом. Ключевые фигуры в процессе — выходец из проптех-стартапа Kukun Скотт Лангмак и студент третьего курса Чикагского университета Кристофер Суит. Как сообщает издание WIRED со ссылкой на сотрудников HUD, вчерашний студент Суит занимался тем, что натравливал ИИ на внутренние правила ведомства для их последующей отмены или разрыва действующих контрактов. Лангмак же теперь курирует вопросы «ИИ-дерегуляции» в Административно-бюджетном управлении (OMB). Судя по названиям внутренних файлов, таким как «GPT defined Econ Analysis», судьба американского рынка жилья теперь напрямую зависит от системных промптов.
Главные риски «черного ящика»:
Принятие решений без возможности внешнего аудита. Риск галлюцинаций и предвзятости моделей в вопросах распределения социальных ресурсов. Отсутствие прозрачности в использовании бюджетных средств при автоматическом разрыве контрактов. Формирование государственной стратегии на базе данных сомнительного качества.
Проблема заключается не в самой автоматизации, а в том, что критически важные решения принимаются закрытой системой. Как отмечает Тори Ноубл из Electronic Frontier Foundation, ошибки моделей в таких чувствительных вопросах — это не просто технический баг, а прямая социальная угроза. Если государственное управление превращается в результат работы GPT-модели, понятие подотчетности властей в Вашингтоне можно считать официально ликвидированным.