Калифорния регулирует ИИ для госконтрактов

Губернатор Калифорнии Гэвин Ньюсом подписал исполнительный указ в понедельник, требующий от компаний, имеющих государственные контракты, внедрить меры безопасности против злоупотребления ИИ. В частности, компании должны гарантировать, что их ИИ-системы не генерируют незаконный контент, не усиливают вредоносные предубеждения и не нарушают гражданские права. Для предотвращения дезинформации государственные учреждения также должны будут ставить водяные знаки на изображения и видео, сгенерированные ИИ. Порядок включает отдельное положение об обращении с федеральными директивами: если федеральное правительство США признает компанию риском для цепочки поставок, Калифорния проведет собственный обзор и потенциально продолжит работу с этим поставщиком. Это происходит на фоне того, как Пентагон признал Anthropic риском для цепочки поставок, что запрещает государственным подрядчикам использовать технологии Anthropic для военных нужд США. В течение 120 дней от закупочных и технологических агентств Калифорнии ожидается разработка рекомендаций по новым сертификациям ИИ. Это позволит компаниям продемонстрировать соответствие практикам ответственного ИИ и мерам общественной безопасности. Исполнительный указ подкрепляет стремление Калифорнии самостоятельно регулировать ИИ, независимо от администрации Трампа, которая неоднократно пыталась блокировать независимые законы штатов в области ИИ.