Чисто вычислительные рассуждения заходят в тупик в тот момент, когда абстрактные математические гипотезы сталкиваются с реальной молекулярной химией. Компания Anthropic тихо подтвердила, что теперь управляет физической биологической лабораторией мокрого типа в районе залива Сан-Франциско, используя собственные модели ИИ для проведения практических физических экспериментов. Эта установка появилась сразу после апрельского приобретения скрытного ИИ-биотехстартапа Coefficient Bio, что обеспечило компании выделенное лабораторное пространство для проверки автоматизированных предсказаний на упрямой реальности физического мира.
Руководство настаивает на увязке этой новой инфраструктуры с грандиозными биомедицинскими сроками. Дарио Аммодеи, генеральный директор Anthropic, на прошлой неделе небрежно заявил, что ИИ может вылечить большинство основных заболеваний в течение следующих пяти-десяти лет — заявление, которое удобно игнорирует тот факт, что проверка результатов работы моделей по-прежнему требует утомительной, потной работы за лабораторным столом, а не бесконечных циклов синтетической обратной связи.
"Мы считаем, что в биологии окончательная проверка все еще остается и какое-то время будет оставаться за реальной лабораторной работой",
как сообщил агентству Рейтер Эрик Каудерер-Абрамс, руководитель направления наук о жизни в Anthropic. Обоснование программных предсказаний физическими данными дает разработчикам моделей прямой путь к замыканию цикла между генерацией гипотез и лабораторным доказательством, превращая их из простых кодеров в неохотных лаборантов.
Фундаментальная биология и коммерческие партнерства
Масштабируя эти экспериментальные мощности, Anthropic с невозмутимым видом настаивает на том, что первоочередное внимание биолаборатории уделяется фундаментальной биологии, а не прямой разработке лекарств. Точно в то же время компания объявила о коммерческом партнерстве с Novo Nordisk для совместной разработки лекарств наряду со свежеопубликованными отчетами об ускорении дизайна белков и улучшении биомолекулярного моделирования. Чтобы управлять распространением моделей в исследовательском сообществе без передачи опасных инструментов каждому пользователю с доступом в интернет, Anthropic одновременно запустила Программу верификации наук о жизни для отбора проверенных исследователей, достойных их самых мощных моделей.
Проблемы выравнивания и катастрофические риски
Этот агрессивный натиск на физические биологические эксперименты разворачивается на фоне театральной внутренней паники по поводу безопасности. Исследователь Anthropic Джейкоб Коксон недавно подал в отставку после предупреждения о том, что инсайдеры, создающие эти системы, искренне верят, что ИИ может уничтожить человечество к концу десятилетия. Тем временем неназванный руководитель направления выравнивания в Anthropic оценил вероятность истребления людей в ближайшие десять лет более чем в 10%, а Дарио Аммодеи опубликовал статью с призывом к более широкой индустрии сбавить обороты и заняться саморегулированием.
Проведение физических биологических экспериментов собственными силами при одновременных криках об экзистенциальном риске представляет собой ошеломляющий операционный парадокс. Тестирование алгоритмов в лабораторных условиях может принести прибыльные проприетарные эмпирические данные, но никакие корпоративные заламывания рук или аудиты моделей не сотрут физические опасности биологических возможностей двойного назначения.