Bloomberg узнал детали первого в мире свода правил для разработчиков ИИ
Системы искусственного интеллекта общего назначения должны будут соответствовать базовым требованиям, которые обеспечат прозрачность их работы, сообщает Bloomberg со ссылкой на разработанный в Евросоюзе документ о регулировании в этой сфере. О том, что Брюссель достиг предварительного соглашения по первому в мире закону об ИИ, ранее объявил еврокомиссар Тьерри Бретон.
Искусственный интеллект общего назначения (Artificial General Intelligence, AGI), иногда называется «сильным ИИ», или «ИИ уровня человека»; такие модели способны решать широкий спектр интеллектуальных задач и адаптироваться к новым ситуациям. К ним, в частности, относится чат-бот ChatGPT от компании OpenAI.
Как пишет агентство, к базовым требованиям для разработчиков отнесли:
- наличие политики допустимого использования;
- предоставление актуальных и подробных сведений о данных, на основе которых обучали ИИ;
- соблюдение авторского права.
Bloomberg отмечает, что требование касается всех моделей ИИ, за исключением систем с открытым исходным кодом, доступ к которым можно получить бесплатно.
К моделям, которые представляют «системные риски» (определять их будут на основе объема вычислительных мощностей, используемых для обучения; в качестве примера такой модели агентство приводит GPT-4 от OpenAi), предъявляются дополнительные требования. В частности, разработчики должны:
- сообщать об объемах энергопотребления моделей ИИ;
- соответствовать стандартам энергоэффективности (если их разработают);
- оценивать и смягчать возможные системные риски, уведомлять о любых инцидентах;
- использовать адекватные меры кибербезопасности.
Соглашение пока носит предварительный характер, его еще должны одобрить Европейский парламент и 27 стран — членов ЕС, отмечает Bloomberg. Франция и Германия ранее выражали обеспокоенность, что некоторые меры регулирования препятствовали бы развитию ИИ в Европе, в частности французского стартапа Mistral AI или немецкого Aleph Alpha.
Вопрос о необходимости регулирования сервисов искусственного интеллекта изучают и в других странах. Например, в США в конце октября приняли указ о мерах безопасности в связи с развитием систем ИИ. В России на данный момент нет единого документа, который бы полноценно регулировал эту сферу, но есть несколько отдельных норм и рекомендаций. Например, закон о регулировании рекомендательных технологий обязывает владельцев сайтов и приложений раскрывать, какие данные используются для работы рекомендательных систем, откуда их взяли, а также уведомлять пользователей о работе таких систем.
Тематический проект о российской винодельческой культуре, вине и спиртных напитках
