Корпоративная гонка за фильтрацией синтетического текста породила еще более опасную угрозу: алгоритмический арбитраж. Стремясь защитить репутацию брендов и избежать юридических споров об интеллектуальной собственности, издательства, юристы и цифровые платформы передают проверку подлинности автоматизированным сервисам. Бутиковый стартап Pangram с командой из 24 человек, работающий над рестораном Popeyes в Бруклине, привлек 13 миллионов долларов, объявив себя главным арбитром человеческого текста. Эта скромная капитализация составляет едва ли 0,0072% от баланса OpenAI, однако стартап получил непропорционально огромное право вето на рынке креативного контента.
Pangram опирается на вероятностную оценку: непрозрачные эвристики машинного обучения определяют гипотетический процент участия искусственного интеллекта в стороннем тексте. Когда в сети начались споры о том, использовала ли писательница Миа Баллард генеративные инструменты для своего романа *Shy Girl*, сооснователь и генеральный директор Pangram Макс Сперо публично заявил в X, что рукопись на 78% создана машиной. Этой непроверенной цифры оказалось достаточно, чтобы традиционное издательство Hachette полностью отменило запланированный релиз книги, проигнорировав прямые опровержения автора.
Дорогая цена автоматических оценок
Слепое доверие вероятностным оценкам привело к серьезной операционной и финансовой нестабильности в редакционных процессах. Позже Pangram выдал вердикт «100% ИИ» на подлинный текст колонки Modern Love в *The New York Times*, продублировал стопроцентную синтетическую оценку на рассказ-победитель Премии Содружества и присвоил 60% роману *Daggermouth*. Самым вопиющим случаем стал триллер *Call Me, I’ll Hide the Body*, за который автор получил аванс в 2,4 миллиона долларов: детектор оценил рукопись как на 97% сгенерированную нейросетью.
Несмотря на очевидное обилие ложноположительных срабатываний, дистрибьюторы встраивают эти метрики прямо в корпоративную инфраструктуру. В конце июля Substack объявил об интеграции движка Pangram в инструменты платформы для автоматической пометки синтетических черновиков. Однако спешка в механизации редакционного контроля вызвала жесткое сопротивление в творческой и юридической среде.
«К программам для обнаружения ИИ относятся с огромным отвращением и злостью. Возникает ощущение, что они несут не меньшее, если не большее зло, чем сами разработчики ИИ».
Как отмечает издательский аналитик Джейн Фридман, враждебность индустрии к автоматическим детекторам сегодня соперничает со скепсисом к самим генеративным моделям. Для топ-менеджеров медиа и директоров по маркетингу главный вывод носит операционный характер: использование вероятностных оценок в качестве стандартов комплаенса создает колоссальные риски. Сторонние разработчики детекторов не несут юридической ответственности, когда их галлюцинации срывают семизначные контракты или разрушают репутацию бренда. Надежный контроль контента требует внутренних аудиторских следов, истории версий и экспертной ручной проверки, а не передачи фидуциарных решений статистическим догадкам.