Обработка почти петабайта данных Git ежедневно стала жесткой операционной реальностью для OpenAI после резкого роста нагрузки от автономных систем генерации кода в ключевых репозиториях. Развертывание Codex полностью изменило объем и скорость внутренней разработки, создав уровень конкурентного доступа, с которым устаревшие архитектуры контроля версий не справились. Когда инженерные организации внедряют автономных агентов в цикл поставки ПО, системы контроля версий сталкиваются с лавинообразным потоком параллельных обновлений веток и операций чтения.
OpenAI ответила на это инфраструктурное бутылочное горлышко созданием Pando — специализированного бэкенда для Git-репозиториев, рассчитанного на агентные нагрузки. Система сократила медианную задержку push-операций в рабочей среде почти в 5 раз при ежедневной передаче около петабайта данных. Pando обеспечила такую пропускную способность без нарушения совместимости со стандартными Git-клиентами и без остановки текущих процессов разработки.
Пределы монорепозитория под нагрузкой агентов
Традиционные системы контроля версий берут начало в эпохе, когда разработчики обменивались патчами для ядра через электронную почту. Эта архитектура изначально проектировалась под ритм работы человека, а не под непрерывное машинное исполнение. За последний год масштабы разработки под управлением Codex привели к тысячам одновременных push-запросов, автоматических слияний веток и постоянных выгрузок данных из исследовательских сред и тестовых конвейеров. Суммарная нагрузка вызвала критические сбои в инфраструктуре монорепозитория.
«Мы столкнулись с медленными операциями fetch и push, а также со сбоями при слиянии веток, из-за чего надежность периодически падала ниже 90%».
Это падение надежности показало, что стандартные серверные реализации Git не готовы к тысячам параллельных машинных действий. Встал вопрос: означает ли масштабирование агентной разработки полный отказ от протокола Git?
Изоляция веток и повторное использование pack-файлов
OpenAI сохранила привычные рабочие процессы, оставив протокол Git, но полностью переработав уровень хранения и синхронизации. В своей основе репозиторий Git фиксирует снимки файлов и историю как граф неизменяемых объектов: блобы для содержимого файлов, деревья для структуры каталогов, коммиты со ссылками на корневые деревья и родителей, а также теги. Ветки и теги служат ссылками, указывающими на конкретные коммиты. Git хранит эти элементы либо как отдельные файлы, либо объединяет их в pack-файлы, сжимающие похожие объекты в виде дельт относительно друг друга.
«Во-первых, Pando координирует обновления каждой ветки независимо. Обновления несвязанных веток могут выполняться параллельно, а читающий клиент при запросе ветки получает именно ту историю, которая необходима для этой ревизии».
Чтобы устранить конфликты при записи, Pando изолирует координацию веток: изменения в независимых ветках происходят параллельно без блокировки всего репозитория. Для обработки масштабного входящего трафика на чтение Pando повторно использует существующие pack-файлы вместо генерации индивидуально сжатых архивов под каждый отдельный клиентский запрос. Даже если клиенты периодически скачивают избыточные объекты, сервер экономит значительные вычислительные мощности и максимизирует сетевую пропускную способность.
Эксплуатационная устойчивость агентной инфраструктуры
Сейчас Pando обслуживает все активные процессы разработки в монорепозитории OpenAI, доказывая, что базовые инструменты инженерии обязаны адаптироваться к физическим ограничениям автономной генерации кода. Компании, запускающие непрерывные агентные процессы, неизбежно упрутся в аналогичные потолки пропускной способности своих систем контроля версий. Сохранение высокой скорости работы как инженеров, так и алгоритмов требует своевременных инвестиций в кастомные уровни распределения данных до того, как деградация инфраструктуры начнет наносить прямой финансовый ущерб.
Где подвох
Почти петабайт ежедневного трафика в монорепозитории показал, что стандартный инструментарий разработки просто ломается под напором автономных систем. Ради сохранения скорости пришлось пойти на компромисс: сервер отдает клиентам избыточные файлы, экономя вычислительные мощности процессоров ценой сетевого трафика. Внутренний бэкенд Pando решил проблему блокировок, но это лишь локальная заплатка на фундаменте, изначально созданном под неторопливый человеческий ритм с патчами по почте. Хватит ли подобной оптимизации классического протокола, когда нагрузка вырастет на порядки, или всей индустрии придется строить системы контроля версий с нуля?
Наши материалы: GPT-5 Codex: Автоматизация разработки и решение техдолга (19 апреля).