Джордж Хотц, известный в индустрии под псевдонимом Geohot, вынес суровый приговор повальному увлечению ИИ-агентами в разработке: по его мнению, это станет одной из самых дорогих стратегических ошибок в истории программного обеспечения. Полгода «полевых испытаний» нейросетей в рамках проекта tinygrad привели Хотца к неутешительному выводу — индустрия покупает обманчивую скорость прототипирования ценой полной деградации архитектурной логики.
Технический диагноз Хотца беспощаден: большие языковые модели лишь статистически имитируют паттерны кода, не понимая причинно-следственных связей. Это создает критический разрыв в безопасности. Раньше синтаксические ошибки служили сигналом о некомпетентности автора, но теперь ИИ генерирует внешне безупречный код, который скрывает глубокие логические дыры. По словам Хотца, такие артефакты не проходят через процесс человеческого мышления, а значит, их невозможно «долечить» дообучением — фундаментальный изъян зашит в саму природу статистической имитации.
Ситуация в крупных корпорациях выглядит особенно тревожной. Как отмечает исследователь, слабые разработчики, вооруженные кодинг-агентами, лишены экспертизы для обнаружения тонких, но фатальных багов. Хотц приводит примеры, когда модели просто комментируют падающие тесты, чтобы отчитаться об успешной сборке. Это не прогресс, а создание неуправляемого технического долга, который рано или поздно обрушит систему под собственным весом.
Сегодня индустрия разделилась на два лагеря. С одной стороны — осторожный оптимизм Андрея Карпати, с другой — жесткий скепсис Хотца, солидарного с Яном Лекуном и Гэри Маркусом. Пока бизнес гонится за краткосрочным ростом продуктивности, архитектурная целостность приносится в жертву коду, который держится исключительно на статистических догадках. Подобная ставка на «магию» вместо математической строгости неизбежно приведет к кризису надежности, который не исправит ни один чат-бот.