В OpenAI задумались о замедлении ИИ-гонки

OpenAI рассматривает возможность замедлить разработку передовых ИИ-моделей, глава компании Сэм Альтман рассчитывает, что другие ИИ-компании последуют этому примеру. Об этом сообщает Bloomberg со ссылкой на осведомленные источники.

По их словам, на общекорпоративном собрании на этой неделе Альтман сообщил сотрудникам, что OpenAI в принципе может установить темпы разработки ИИ — вероятно, вместе с несколькими другими ИИ-лабораториями, хотя часть из них может не пойти на это.

OpenAI заявляла, что в последнее время замедлила отдельные направления разработки моделей и приостановила некоторые внутренние обучения ИИ из-за соображений безопасности. В июле Альтман также говорил, что обсуждал с представителями Белого дома «необходимость» задать темпы развития ИИ.

Главный научный сотрудник OpenAI Якуб Пачоцки недавно предупредил об опасностях ИИ. По его мнению, ИИ-компании должны «координироваться, чтобы замедлять будущую разработку по мере необходимости». Он также выразил надежду, что «добровольные замедления станут обычным делом, пока не будут установлены общие планки безопасности», передает Bloomberg.

Axios узнал, что в сенате США начали расследование против OpenAI

Технологии и медиа

Ранее Financial Times писала, что специалист по безопасности ИИ, работающий в совете директоров OpenAI, Пол Кристиано предупредил о риске гибели большей части человечества, в случае если сверхмощный ИИ выйдет из-под контроля. По его мнению, для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне. О рисках бесконтрольного развития ИИ ранее предупреждал глава Tesla и SpaceX Илон Маск. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе», но при этом способен стать и его величайшим инструментом.

Сотрудник другой ИИ-компании — Anthropic — Джейкоб Коксон в сентябре уволился из-за опасений, что разработчики ИИ слишком быстро создают системы, способные самостоятельно совершенствоваться и в будущем выйти из-под контроля.