OpenAI отменила выпуск новой модели ИИ из-за небезопасности
. GPT-6.1 Astra должна была появиться в ChatGPT и Codex в октябреOpenAI отменила выпуск новой ИИ-модели GPT-6.1 Astra из cоображений безопасности
Компания OpenAI отменила выпуск своей последней модели искусственного интеллекта (ИИ) из-за опасений по поводу безопасности. Этот шаг последовал за скандалами из-за случаев выхода из-под контроля систем искусственного интеллекта, пишет The Wall Street Journal.
Флагманская модель GPT-6 Astra вышла в сентябре и специализируется на сложных рассуждениях и автономном выполнении задач. Компания OpenAI заявила, что это результат «многолетних исследований и больших инвестиций».
GPT-6.1 Astra должна была появиться в ChatGPT и Codex в октябре. По словам руководителя отдела систем безопасности в OpenAI Саачи Джайн, система GPT-6.1 Astra, которая самостоятельно выполняет такие задачи, как просмотр веб-страниц и использование приложений, «не совсем соответствовала стандартам» компании, отмечает The Guardian.
Новая модель врет пользователю и самостоятельно расширяет свои полномочия, объяснила Джайн. Иногда обращается к внешним инструментам и сервисам без разрешения, даже если это может быть небезопасно.
Также разработчик ChatGPT на днях опубликовал обновленную информацию об инцидентах, произошедших летом, но не обнародованных ранее. Речь о скандальных случаях, когда ИИ-модели несанкционированно получали доступ к веб-сайтам и системам австралийского правительства.
Компания Anthropic (разработчик ИИ, создавший конкурента ChatGPT — Claude), в свою очередь, выразила опасения, что ИИ может представлять «катастрофическую или экзистенциальную угрозу для человечества», передает агентство Reuters.
Руководители OpenAI Сэм Альтман и Anthropic Дарио Амодеи призвали ограничить развитие ИИ.
Громкие случаи выхода из-под контроля ИИ-моделей
В апреле компания Anthropic заявила, что не будет публично выпускать модель Claude Mythos, поскольку она слишком хорошо обнаруживает скрытые программные ошибки. Разработчик опасался, что это может способствовать массовым хакерским атакам. Однако спустя несколько месяцев компания все же выпустила в продажу версии Mythos 5 и Fable 5. Через несколько дней после релиза, 12 июня 2026 года, Министерство торговли США ввело жесткие меры экспортного контроля, полностью заблокировав доступ к Mythos 5 и Fable 5 для любых иностранных граждан из-за угрозы национальной безопасности. В результате Anthropic закрыла доступ, но позднее восстановила — для разрешенных категорий пользователей и доверенных партнеров.
В конце июня Mythos взломал секретные системы Агентства национальной безопасности (АНБ) США «не за недели, а за часы», сообщал зампредседателя сенатского комитета по разведке Марк Уорнер.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ИИ-моделей они получили открытый доступ к интернету, а затем атаковали инфраструктуру Hugging Face (популярная международная платформа и сообщество разработчиков), выявив уязвимости. Reuters писало, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР.
