Карл III призвал взять ИИ под контроль, «пока не стало слишком поздно»
Король Великобритании Карл III заявил об «экзистенциальной опасности» ИИ
Карл III заявил, что возможности ИИ потенциально могут попасть «не в те руки» и быть использованы «катастрофическими способами». По его мнению, над технологией необходимо установить контроль, «пока не стало слишком поздно»
Карл III (Фото: Jonathan Brady / Getty Images)
Король Великобритании Карл III заявил о необходимо «срочно и должным образом учитывать экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки». Об этом он сказал на встрече с руководителями ведущих технологический компаний Nvidia, Google DeepMind, OpenAI, Anthropic.
По его словам, возможности ИИ потенциально могут быть использованы «катастрофическими способами», что говорит о необходимости достаточного контроля над технологией, «пока не стало слишком поздно».
«Развитие ИИ — его суть и его темп — в равной мере и интригуют, и глубоко тревожат», — говорит он (цитата по Би-би-си). При этом он отмечает, что «наша человечность должна оставаться священной», поскольку принимаемые сейчас решения определят мир для будущих поколений.
«И поэтому задача, стоящая перед вами, — не просто продвигать технологию, а обеспечить, чтобы она оставалась прочно на службе человечества, общества и природы», — заявил Карл III.
Встреча проходит в резиденции Дамфир-хаус в шотландском Ист-Эршире, где находится образовательный фонд короля The King’s Foundation. Туда были приглашены около 30 представителей технологической отрасли и властей. По данным Би-би-си, на встрече также присутствуют представители Китая.
22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР.
29 июля Reuters сообщил, что «сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана.
В начале августа OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: по данным Reuters, компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля.
12 сентября глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи заявил о необходимости замедления темпов развития искусственного интеллекта для решения проблем с контролем над ним. Идею поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман.
Оставайтесь на связи с РБК в «Максе».
