Технологии и медиа⁠, 11 дек 2023, 10:09

Bloomberg узнал детали первого в мире свода правил для разработчиков ИИ

Bloomberg раскрыл, как Евросоюз собирается регулировать продвинутые модели ИИ

Разработчики систем «сильного ИИ», к которым относят в том числе ChatGPT, должны будут соблюдать ряд требований в ЕС, например предоставлять актуальные данные об обучении моделей

Фото: Johannes Simon / Getty Images

Системы искусственного интеллекта общего назначения должны будут соответствовать базовым требованиям, которые обеспечат прозрачность их работы, сообщает Bloomberg со ссылкой на разработанный в Евросоюзе документ о регулировании в этой сфере. О том, что Брюссель достиг предварительного соглашения по первому в мире закону об ИИ, ранее объявил еврокомиссар Тьерри Бретон.

Искусственный интеллект общего назначения (Artificial General Intelligence, AGI), иногда называется «сильным ИИ», или «ИИ уровня человека»; такие модели способны решать широкий спектр интеллектуальных задач и адаптироваться к новым ситуациям. К ним, в частности, относится чат-бот ChatGPT от компании OpenAI.

Как пишет агентство, к базовым требованиям для разработчиков отнесли:

наличие политики допустимого использования;
предоставление актуальных и подробных сведений о данных, на основе которых обучали ИИ;
соблюдение авторского права.

Bloomberg отмечает, что требование касается всех моделей ИИ, за исключением систем с открытым исходным кодом, доступ к которым можно получить бесплатно.

ЕС договорился разработать первый в мире свод правил по ИИ

Технологии и медиа

К моделям, которые представляют «системные риски» (определять их будут на основе объема вычислительных мощностей, используемых для обучения; в качестве примера такой модели агентство приводит GPT-4 от OpenAi), предъявляются дополнительные требования. В частности, разработчики должны:

сообщать об объемах энергопотребления моделей ИИ;
соответствовать стандартам энергоэффективности (если их разработают);
оценивать и смягчать возможные системные риски, уведомлять о любых инцидентах;
использовать адекватные меры кибербезопасности.

Соглашение пока носит предварительный характер, его еще должны одобрить Европейский парламент и 27 стран — членов ЕС, отмечает Bloomberg. Франция и Германия ранее выражали обеспокоенность, что некоторые меры регулирования препятствовали бы развитию ИИ в Европе, в частности французского стартапа Mistral AI или немецкого Aleph Alpha.

Как в России и мире пытаются регулировать искусственный интеллект

Индустрия 4.0

Вопрос о необходимости регулирования сервисов искусственного интеллекта изучают и в других странах. Например, в США в конце октября приняли указ о мерах безопасности в связи с развитием систем ИИ. В России на данный момент нет единого документа, который бы полноценно регулировал эту сферу, но есть несколько отдельных норм и рекомендаций. Например, закон о регулировании рекомендательных технологий обязывает владельцев сайтов и приложений раскрывать, какие данные используются для работы рекомендательных систем, откуда их взяли, а также уведомлять пользователей о работе таких систем.