Politico узнало о «тихом» законопроекте Anthropic против ограничений ИИ
Anthropic непублично предложил конгрессменам проект закона о безопасности ИИ. Он ограничил бы основания для запрета моделей со стороны властей США, узнало Politico. Ранее компании уже приходилось ограничивать доступ к передовым ИИ
Фото: Dado Ruvic / Reuters
Компания Anthropic, разработчик ИИ-моделей Claude, непублично предложила американским конгрессменам собственный проект закона о безопасности передовых систем ИИ. Об этом пишет Politico со ссылкой на трех человек, знакомых с обсуждениями, и конфиденциальный документ, оказавшийся в распоряжении издания.
Проект ограничивает обстоятельства, при которых власти смогут заблокировать выпуск или использование модели. Для этого она должна создавать предсказуемый и непосредственный риск ущерба более чем на $1 млрд либо гибели или тяжелых травм более 50 человек. Угроза должна быть связана с созданием или применением биологического оружия, выходом модели из-под контроля разработчика либо кибератакой.
Как отмечает Politico, похожие формулировки уже используются в калифорнийском законодательстве об ИИ, включая принятый в прошлом году закон SB 53.
По предложенной схеме Минторг США сможет обратиться в суд с требованием остановить выпуск модели, если установит наличие соответствующей угрозы. Решение о приостановке сможет вынести федеральный судья окружного суда округа Колумбия. При этом другим американским ведомствам и должностным лицам проект прямо запрещает приостанавливать разработку, развертывание или внутреннее использование модели.
Представитель Anthropic заявил Politico, что документ отражает положения концепции Advanced AI Framework, которую компания продвигает среди федеральных законодателей и властей штатов с июня. «Это разумные меры, которые, по нашему мнению, конгрессу следует принять», — сказал он. Ранее Anthropic поддерживала отдельные законы штатов о безопасности ИИ, в том числе два калифорнийских.
Летом компания уже столкнулась с ограничениями на распространение своих моделей. 13 июня Anthropic сообщила о вынужденном отключении Fable 5 и Mythos 5 после требования американских властей закрыть доступ к ним для иностранцев, включая зарубежных сотрудников самой компании. Anthropic связала решение с обнаружением узкого способа обхода защитных механизмов Fable 5, но выразила несогласие с тем, что это должно становиться основанием для отключения коммерческой модели.
1 июля компания объявила о снятии ограничений и восстановлении доступа. Как передавала Financial Times, министр торговли Говард Лютник объяснил решение тем, что Anthropic согласилась «активно выявлять и устранять риски безопасности, связанные с моделями».
Споры о государственном контроле над ИИ затрагивали и общую политику администрации. В мае The Washington Post со ссылкой на три источника сообщила, что президент США Дональд Трамп отказался от указа о новой системе проверки ИИ после обсуждения с Дэвидом Саксом, Илоном Маском и Марком Цукербергом.
Оставайтесь на связи с РБК в «Максе».
