Anthropic наконец-таки занялась решением наболевшей проблемы в сфере R&D: избыточными защитными фильтрами в области биологии, которые фактически лоботомизировали модель Claude Fable 5 для пользователей из сферы медицинских технологий. Компания сообщила о важном обновлении, сокращающем количество ложных срабатываний, связанных с биологической тематикой, примерно на 85%. Для разработчиков это не просто техническая правка, а попытка исправить неудачный пользовательский опыт, когда легитимные медицинские запросы систематически отправлялись в механизм отката.
До сих пор система понижала уровень модели до Opus 5 — версии предыдущего поколения — каждый раз, когда обнаруживала ключевое слово, связанное с биологией. Это мгновенно рушило и экономику проекта, и производительность.
Снижение налога на соответствие требованиям
Техническая доработка классификаторов безопасности направлена на решение дилеммы двойного назначения. В Anthropic признают, что Fable 5 может превосходить экспертов-людей в сложных биологических задачах, но эта мощь превратила модель в параноидального стража. Поскольку разработка вакцины требует понимания тех же патогенов, которые она призвана нейтрализовать, модель ранее с трудом отличала спасительные исследования от злого умысла. Сузив критерии для срабатывания отката, Anthropic наконец позволила Fable 5 обрабатывать клинические задачи — такие как интерпретация результатов анализов или анализ симптомов — без отступления к более слабой и медленной модели.
Это обновление сократило количество откатов в биологической тематике примерно на 85% во всех наших продуктах.
Для фаундеров HealthTech-стартапов и руководителей R&D такое снижение числа ложных срабатываний означает прямое сокращение налога на комплаенс. Использование передовой модели, которая могла внезапно подменить мозг на версию 2023 года прямо посреди выполнения задачи, делало медицинские приложения непредсказуемыми. Это обновление свидетельствует о том, что Anthropic отходит от тотальных запретов в пользу более точной настройки, которая видит разницу между врачом и биотеррористом.
Сдвиг в сторону доверенного доступа
Тем не менее позиция безопасность превыше всего остается палкой о двух концах. Несмотря на 85-процентное улучшение точности, Anthropic сохраняет жесткие границы. Fable 5 по-прежнему по умолчанию переключается на устаревшую Opus 5 при запросах, касающихся вирусологии, токсикологии и молекулярного дизайна. Это делает флагманскую модель практически непригодной для профессиональной разработки лекарств или глубоких геномных исследований. Anthropic оправдывает это тем, что Fable 5 может дать значительное преимущество злоумышленникам, по сути, держа самые мощные инструменты под замком.
На сегодняшний день Fable всё еще откатывается к Opus 5 при запросах, которые мы относим к технологиям двойного назначения, включая вирусологию, токсикологию и молекулярный дизайн.
Чтобы преодолеть этот разрыв, компания анонсирует пути доверенного доступа — своего рода регуляторную VIP-ложу, которая обещает биологам доступ к передовым возможностям под строгим надзором. Это расчетливый шаг по сохранению доли рынка в борьбе с опенсорс-конкурентами, которые не навязывают столь жестких ограничений. Anthropic делает ставку на то, что индустрия будет ждать уровня допуска, которого еще не существует, даже при том, что компания верно определяет биологию и медицину как главные точки роста для ИИ. Пока же наиболее критические научные запросы остаются заложниками предыдущего поколения технологий в ожидании доверенного будущего.