Технологии и медиа⁠, 03 дек 2023, 15:07

Глава OpenAI назвал данные о разработке сверхинтеллекта досадной утечкой

Reuters сообщил, что главу OpenAI уволили после письма сотрудников компании, обеспокоенных прорывом в поиске сверх-ИИ, что могло угрожать миру. Альтман не стал ясно подтверждать или опровергать данные, но посетовал на утечку

Сэм Альтман (Фото: Carlos Barria / Reuters)

Сведения о прорыве в развитии искусственного интеллекта (ИИ) были «досадной утечкой», заявил в интервью The Verge глава OpenAI Сэм Альтман, отказавшись от более подробных комментариев.

«Мы ожидаем, что прогресс в этой технологии будет по-прежнему быстрым, а также мы ожидаем продолжения очень напряженной работы, чтобы выяснить, как сделать это безопасным и полезным», — добавил он.

Речь идет о статьях Reuters и The Information, в которых говорилось о новой модели OpenAI под названием Q* (произносится как Q Star). Собеседники изданий рассказали, что работу Q* продемонстрировали внутри компании и пока что она была способна решать простые математические задачи, но исследователи сочли ее разработку шагом к созданию общего искусственного интеллекта (AGI).

По прогнозам специалистов, AGI, в отличие от обычных моделей ИИ, превзойдет человека и сможет понимать и самостоятельно менять свои алгоритмы. OpenAI объявляла о планах создать AGI, обещая «невероятные новые возможности», но официально о появлении подобных технологий в мире не сообщалось.

Источники Reuters рассказали, что несколько исследователей написали письмо совету директоров OpenAI, предупредив, что новая технология может угрожать человечеству. Они отметили мощь разработки и ее потенциальную опасность. Агентство напомнило о дискуссиях среди ученых относительно рисков появления высокоинтеллектуальных систем, которые могут решить, что уничтожение человечества отвечает их интересам.

По данным агентства, это письмо стало «последней каплей» в длинном списке претензий совета директоров к Альтману и в конечном итоге привело к его увольнению.

Что такое общий ИИ и почему нам надо остерегаться его создания

Индустрия 4.0

Альтмана уволили с поста гендиректора OpenAI 17 ноября, после того как совет директоров пришел к выводу, что тот «не был всегда откровенен в своем взаимодействии с советом, что ограничивает его способность выполнять свои обязанности». «У правления больше нет уверенности в его способности возглавлять OpenAI», — говорилось в заявлении совета директоров. Спустя несколько дней 22 ноября его восстановили в должности после давления инвесторов, прежде всего Microsoft.