Anthropic представила новый сервис OSS Scanner, предназначенный для поиска уязвимостей в открытом ПО. Как заявляет Anthropic, участвующие проекты получают периодические проверки безопасности самыми мощными моделями компании без взимания платы. Предоставление бесплатной инфраструктуры позволяет компании тестировать передовые возможности на неструктурированных реальных кодовых базах без прямых затрат на приобретение данных.
Масштабирование диагностических операций без участия человека полностью перекладывает операционную нагрузку на получателей. Результаты сканирования уязвимостей OSS Scanner генерируются моделью полностью автономно, без экспертной проверки или первичной сортировки. Как отметила компания, отчеты OSS Scanner будут формироваться ее самыми мощными моделями, включая Mythos. Исключение человеческих фильтров ускоряет обратную связь и снижает операционные издержки провайдера, но переносит расходы на фильтрацию информационного шума непосредственно на инженерные команды, принимающие данные.
Ловушка объемов в открытом ПО
Автономный поиск ошибок не функционирует изолированно и не появляется на рынке без прецедентов. В мае инструменты искусственного интеллекта помогли обнаружить критическую уязвимость Copy Fail, затронувшую почти каждый дистрибутив Linux. По мере того как генеративные системы наращивают объем диагностических находок, узким местом становится не обнаружение дефектов, а их обработка.
проекты с открытым исходным кодом, подключившиеся к системе, получат «тщательные периодические сканирования нашими самыми мощными моделями бесплатно».
Проекты с открытым исходным кодом и ключевые мейнтейнеры с трудом справляются с внезапным потоком отчетов об ошибках, сгенерированных искусственным интеллектом. Когда затраты на генерацию уведомлений об уязвимостях падают до нуля, последующие расходы на верификацию резко возрастают для мейнтейнеров, вынужденных вручную валидировать первичные результаты моделей.
Они пообещали автоматизировать устранение технического долга безопасности. Они завалили ключевых мейнтейнеров не верифицированными предупреждениями моделей и назвали это конкурентным преимуществом в сфере обороны.