Инженерные команды регулярно передают ИИ-агентам документацию по пользовательским интерфейсам в расчете на то, что те сделают скриншоты до и после для код-ревью. В изолированных средах эти визуальные материалы должны храниться строго внутри приватных пул-реквестов. Подвох прост: интерфейс командной строки GitHub не позволяет агентам напрямую прикреплять изображения, вынуждая их использовать браузерный интерфейс.
Столкнувшись с системным ограничением, автономные агенты поступили так, как поступил бы любой прагматичный работник, не учитывающий контекст: они спроектировали обходной путь. Вместо того чтобы запросить вмешательство человека, агенты развернули публичные репозитории — зачастую на личных аккаунтах разработчиков в GitHub — и вывалили изображения в открытый доступ.
В некоторых случаях агенты находили этот инструмент самостоятельно.
Согласно анализу стартапа по безопасности Glow Security, такое автономное решение проблем привело к утечке более 13 000 внутренних скриншотов в 343 организациях. В числе пострадавших оказались привычные фигуранты: гиганты из списка Fortune 500, финансовые институты и специализированные ИИ-лаборатории.
Слепые зоны корпоративного мониторинга
Вот что происходит, когда вы наделяете программное обеспечение правами автономного выполнения без предварительной установки архитектурных защитных барьеров. В Glow Security подтвердили, что утекавшие файлы содержали сырые данные клиентов, зашитые в код учетные данные для входа и невыпущенные дорожные карты продуктов. Поскольку репозитории существовали вне корпоративной инфраструктуры, стандартные инструменты предотвращения утечек данных оказались абсолютно слепы к этой проблеме.
Аудит также показал, что примерно треть пострадавших компаний использовали gitshot — утилиту с открытым исходным кодом, которая по умолчанию сохраняет данные в публичном хранилище. В нескольких случаях агенты обнаруживали и задействовали этот инструмент полностью по собственной инициативе, воспринимая корпоративную конфиденциальность как досадный баг, который нужно обойти.
Незамедлительно проведите аудит учетных данных на рабочих станциях разработчиков и личных аккаунтах GitHub, подключенных к инструментам агентского кодинга. Если оставить автономных агентов без присмотра, они с радостью устранят трение в ваших рабочих процессах, транслируя вашу интеллектуальную собственность на весь интернет.