Глава Anthropic предложил человечеству «проснуться» перед ИИ-катастрофой
Человечеству нужно «проснуться» и осознать потенциально катастрофические риски, связанные с развитием мощных систем искусственного интеллекта, заявил руководитель компании Anthropic и бывший сотрудник ее конкурента OpenAI Дарио Амодей в своем эссе.
«Человечество вот-вот получит невообразимую власть, и совершенно не ясно, достаточно ли развиты наши социальные, политические и технологические системы, чтобы использовать ее», — написал он.
Одним из рисков Амодей называет потенциальную возможность разработки отдельными лицами и группами людей биологического оружия, которое «в худшем случае способно уничтожить все живое на Земле».
Другая угроза, о которой предупреждает Амодей, — массовое сокращение рабочих мест и «концентрация экономической мощи» в Кремниевой долине в результате внедрения ИИ.
Anthropic и OpenAI — это две ведущие компании в мире, которые разрабатывают крупные языковые модели и другие системы искусственного интеллекта общего назначения; именно их технологии лежат в основе таких умных чат-ботов и ассистентов, которые умеют писать тексты, программировать, анализировать данные и вести диалог почти как человек. OpenAI стала массово известна после запуска ChatGPT и моделей GPT‑3/4, фактически задав стандарт рынка генеративного ИИ, а Anthropic — основанная выходцами из OpenAI компания — развивает собственную линейку моделей Claude и позиционирует себя как игрока, делающего особый упор на безопасность и управляемость ИИ.
В 2023 году правительство Великобритании организовало саммит по ИИ-безопасности, на котором страны договорились о совместной работе по противодействию подобным рискам, следующая встреча должна состояться в Индии в феврале, пишет FT.
Однако Амодей убежден в том, что политические решения, связанные с ИИ, продиктованы стремлением воспользоваться возможностями технологии, а не снизить связанные с ней риски.
Отдельные претензии Амодея касаются этической проблемы ИИ-моделей. Так, намекая на споры вокруг нейросети Илона Маска Grok, исследователь пишет, что некоторые компании проявляют «тревожную небрежность в отношении сексуализации детей в современных моделях». В этой связи Амодей выражает сомнения насчет более ответственного подхода разработчиков к рискам автономии у моделей в будущем.
В начале 2026 года ЕС раскритиковала провокационные изображения женщин и детей в социальной сети X. 26 января началось расследование в отношении чат-бота Grok, который позволяет изменять фотографии людей и создавать эротические дипфейки.
Дарио Амодей был одним из первых сотрудников OpenAI, но в 2020 году, после конфликта с Сэмом Альтманом из-за ограничений ИИ, ушел, чтобы создать свою компанию.
Anthropic ведет переговоры с Microsoft и Nvidia и крупными инвесторами, включая сингапурский фонд GIC, Coatue и Sequoia Capital, о раунде финансирования на $25 млрд и более, при успехе которого рыночная оценка компании может составить примерно $350 млрд.
Читайте РБК в Telegram.
Читайте РБК в Telegram! Самые важные новости, только проверенная информация.
ЦРУ планирует постоянное присутствие США в Венесуэле — CNN
Во Франции резко ответили генсеку НАТО на слова о беспомощности Европы без США
Дума одобрила законопроект о праве ФСБ временно отключать стационарный интернет
«ЕП» узнала, что Зеленский обсудил уголовное дело против Лукашенко
Киргизия подала иск в суд ЕАЭС против России
Венгрия и Словакия совместно подадут в суд из-за запрета ЕС газа из России
