Anthropic включила угрозу существованию человечества в риски перед IPO

В проспекте IPO создатель Claude предупредил, что развитый ИИ без должных мер защиты может угрожать существованию человечества. Компания также указала на риск помощи злоумышленникам в разработке оружия массового поражения

Abdu ezzurghi / Shutterstock

Фото: Abdu ezzurghi / Shutterstock

Входит в сюжеты
В этой статье

Развитые системы искусственного интеллекта без надлежащих мер безопасности и контроля могут представлять угрозу существованию человечества, а наиболее мощные модели помогать злоумышленникам создавать оружие массового поражения. Такие предупреждения компания Anthropic, разработчик Claude, включила в проспект IPO, опубликованный на сайте Комиссии по ценным бумагам и биржам США (SEC).

В проспекте Anthropic говорится, что мощные системы ИИ потенциально «могут создавать катастрофические или экзистенциальные риски для человечества, особенно если такие системы используются во вред, копируются, превращаются в оружие или получают высокую степень автономности».

В проспекте IPO также указано, что наиболее совершенные модели Anthropic уже продемонстрировали способности, которые могут помочь злоумышленникам в разработке химического, биологического и другого опасного оружия. Компания применяет технические средства для выявления и блокировки таких действий, но предупреждает, что «защита несовершенна и ее можно обойти».

Среди других рисков разработчик назвал непредусмотренное поведение моделей, включая попытки сопротивляться отключению, скрывать или искажать информацию и прибегать к действиям, «напоминающим шантаж».

В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие передовых моделей ИИ, чтобы сохранить над ними контроль. Он предложил привлекать независимых специалистов к оценке безопасности и добиваться международной координации. Инициативу поддержали основатель SpaceX Илон Маск и глава OpenAI Сэм Альтман.

Ранее ограничения на военное применение ИИ стали причиной конфликта Anthropic с Пентагоном. Компания настаивала на запрете использования своих технологий для массовой слежки за американцами и полностью автономного летального оружия. После признания Anthropic угрозой цепочкам поставок разработчик в марте подал иск к американскому военному ведомству, потребовав отменить этот статус.

26 октября Anthropic опубликовала заявку на IPO. Компания планирует торговаться на NASDAQ под тикером ANT, организаторами размещения выступают Goldman Sachs и Morgan Stanley. Акции предложит как сама Anthropic, так и часть ее акционеров. По данным Bloomberg со ссылкой на источники, активная фаза подготовки к размещению может начаться на неделе с 9 ноября.

Перед IPO компания раскрыла чистый убыток $80,7 млрд за первое полугодие 2026 года. Основная часть — около $72 млрд — связана с бухгалтерской переоценкой финансовых обязательств, а не с текущими денежными расходами. Выручка за тот же период выросла до $16,3 млрд с $1,1 млрд годом ранее. На вычислительные мощности и инфраструктуру Anthropic потратила почти $9 млрд — больше, чем за весь 2025 год.

Anthropic рассчитывает провести IPO, сопоставимое по масштабу с размещением акций SpaceX Маска или превосходящее его, сообщал Bloomberg со ссылкой на источники. При этом компания пока не раскрыла количество акций, которые предложит инвесторам, и объем средств, который намерена привлечь. В июне SpaceX в рамках IPO привлекла $75 млрд, а с учетом доразмещения — рекордные $85,7 млрд. Оценка компании при размещении акций составила $1,77 трлн.

Оставайтесь на связи с РБК в «Максе».