Советник Трампа Сакс объяснил, почему Anthropic закрыла доступ к ИИ
Дэвид Сакс: Anthropic закрыла доступ к мощным ИИ-моделям из-за джейлбрейков
Решение правительства США ограничить доступ к ИИ-моделям Anthropic за рубежом было связано с выявлением возможности обхода защитных механизмов и последующими обсуждениями между властями и представителями технологических компаний
Ограничения на распространение новой ИИ-модели Anthropic Fable 5 связаны с обнаружением возможности обхода встроенных механизмов безопасности, заявил американский инвестор и сопредседатель совета советников президента США по науке и технологиям Дэвид Сакс.
«Очень надежный и доверенный партнер как Anthropic, так и правительства США, который тестировал Fable, сообщил о джейлбрейке (программный взлом. — РБК) этих защитных механизмов. Администрация попросила [гендиректора Anthropic] Дарио [Амодеи] устранить или прекратить распространение модели. Дарио отказался», — написал Сакс в соцсети X.
Бизнесмен отметил, что компания Anthropic назвала выявленную уязвимость несерьезной, однако с этим не согласны правительство США и организация, проводившая тестирование. По его мнению, именно отказ компании устранить проблему безопасности стал причиной введения экспортных ограничений.
Сакс добавил, что версия о том, что ситуация связана с предыдущими разногласиями между Anthropic и государственными структурами США, является ошибочной.
Решение администрации президента США Дональда Трампа приостановить использование за рубежом наиболее мощных моделей Anthropic было принято после контактов между гендиректором Amazon Энди Джасси и американскими официальными лицами, включая министра финансов Скотта Бессента, сообщили источники WSJ.
По их данным, Джасси сообщил властям, что исследователи Amazon с помощью серии запросов смогли получить от модели Fable 5 компании Anthropic информацию, которая могла бы быть использована для подготовки кибератак и должна была быть недоступна.
Накануне правительство США обязало Anthropic ограничить доступ к своим наиболее передовым моделям ИИ Fable 5 и Mythos 5 для всех иностранных пользователей, не являющихся гражданами США. Компания сообщила, что выполнила требование и отключила доступ для соответствующих категорий пользователей.
Согласно заявлению Anthropic, ограничение распространяется на иностранных пользователей как за пределами США, так и внутри страны, включая зарубежных сотрудников самой Anthropic. Доступ к другим моделям компании при этом сохраняется.
Компания указала, что соблюдает требования регулятора, но не согласна с тем, что выявление «узкого потенциального джейлбрейка» может служить основанием для отзыва коммерческой модели, доступной широкому кругу пользователей, отмечая возможные последствия для всей индустрии разработки ИИ.
Fable 5 позиционируется как наиболее мощная публичная модель Anthropic, предназначенная для сложных задач рассуждения и агентной работы, а Mythos 5 доступна в ограниченном режиме через Project Glasswing. По данным компании, новые модели демонстрируют улучшения в программировании, анализе данных, работе с изображениями и выполнении многоэтапных задач с длительным сохранением контекста.
Ранее WSJ сообщала об обсуждениях в Белом доме рисков, связанных с моделью Mythos, а также о рассмотрении возможного усиления надзора за развитием передовых ИИ-систем.
Оставайтесь на связи с РБК в «Максе».