Пока индустрия соревнуется в бессмысленном раздувании контекстных окон, инженеры Baidu решили пойти по пути биологической целесообразности. Представленная система Unlimited OCR решает главную проблему оцифровки — линейный рост аппетитов KV-кеша. Если обычные сквозные модели начинают «захлебываться» и замедляться уже после десятой страницы, то решение от Baidu сохраняет константную скорость и потребление памяти независимо от объема документа.
Секрет кроется в механизме Reference Sliding Window Attention (R-SWA). Вместо того чтобы тащить за собой весь груз ранее обработанных токенов, модель ограничивает окно внимания последними 128 единицами, фиксируя при этом визуальные данные. По словам разработчиков, это имитирует человеческое чтение: мы фокусируемся на текущей строке, пока старые пассажи плавно стираются из оперативной памяти, оставляя лишь общий смысл и визуальный якорь источника.
Технологическое превосходство и архитектура
Архитектурно система опирается на наработки Deepseek OCR и использует схему Mixture-of-Experts (MoE) на 3 миллиарда параметров, из которых в моменте работают лишь 500 миллионов. На практике это означает радикальное снижение совокупной стоимости владения (TCO) для бизнеса.
Если раньше обработка пухлого юридического дела или корпоративного архива превращалась в итерационную пытку с постоянными перезапусками, то теперь OCR становится по-настоящему потоковым процессом.
Для СТО и владельцев бизнеса это четкий сигнал: эпоха «грубой силы» и бесконечного наращивания железа уступает место умному управлению вниманием. Baidu фактически отвязала производительность от длины документа, превратив оцифровку из дорогостоящего проекта в предсказуемую операционную задачу с фиксированной стоимостью инференса.
Главное для бизнеса:
Победа над линейной сложностью KV-кеша — это не просто технический курьез, а новый бенчмарк для корпоративного софта.
Умение вовремя «забывать» лишнее становится ключевым фактором масштабирования AI-процессов.
Технология позволяет перерабатывать тонны бумажной документации в структурированные данные без экспоненциального роста счетов за облачные вычисления.