Эпоха добровольной биобезопасности подходит к концу: архитекторы фронтирных моделей ИИ переходят к лоббированию жесткого регулирования. В открытом письме к Конгрессу США Демис Хассабис (Google DeepMind), Сэм Альтман (OpenAI), Дарио Амодеи (Anthropic) и Мустафа Сулейман (Microsoft AI) вместе с экспертами по нацбезопасности потребовали ввести обязательный скрининг заказов на синтетическую ДНК и РНК. Коалиция, собранная при участии Institute for Progress, утверждает: стремительное развитие больших языковых моделей (LLM) методично разрушает «барьеры знаний», которые раньше мешали злоумышленникам проектировать биологическое оружие.
Логика ИТ-гигантов проста — сдерживание на уровне инфраструктуры. Пока компании вроде Twist Bioscience или Ansa Biotechnologies добровольно проверяют клиентов через консорциум IGSC, рынок остается фрагментированным. Современные нейросети уже способны не только составить протокол создания патогена, но и подсказать, какие поставщики игнорируют проверки или как модифицировать последовательность генов, чтобы обмануть алгоритмы детекции.
Главные риски биосинтеза
Нейросети эффективно находят лазейки в существующих протоколах безопасности лабораторий. Стоимость воссоздания опасных вирусов (например, лошадиной оспы) упала до 100 тысяч долларов. Отсутствие единого законодательного стандарта позволяет обходить добровольный скрининг.
В 2017 году исследователи воссоздали вирус лошадиной оспы, потратив на почтовый заказ ДНК всего 100 тысяч долларов. Сегодня тот же путь может привести к воскрешению натуральной оспы или созданию новых патогенов.
За этой внезапной заботой о человечестве просматривается прагматичный расчет. Бигтех пытается превентивно переложить ответственность за потенциальные катастрофы с создателей моделей на физическую цепочку поставок. На наш взгляд, это классическая попытка избежать прямого государственного надзора над самими алгоритмами: если правила игры будут диктовать «мокрым» лабораториям и производителям синтезаторов, у регуляторов будет меньше поводов закручивать гайки разработчикам ИИ. По сути, Альтман и компания строят санитарный кордон вокруг своих продуктов, чтобы не отвечать за то, что их модели могут случайно — или намеренно — спроектировать в руках «не того» пользователя.