WSJ узнала, как ИИ-агенты OpenAI засыпали сайт ООН поисковыми запросами

ИИ-агенты OpenAI «забросали» сайт ООН поисковыми запросами, пишет The Wall Street Journal со ссылкой на отчет на основе данных исследовательской компании Transluce.

По словам автора отчета Роуэн Ховард-Джонс, с апреля по конец июня ИИ-агенты более 16 тыс. раз просканировали общедоступный онлайн-ресурс, принадлежащий Конференции ООН по торговле и развитию (ЮНКТАД).

Перед ботами, по-видимому, была поставлена задача собирать общедоступную информацию, однако при возникновении препятствий в процессе ее получения они прибегали к агрессивным методам, рассказала она. По ее словам, агенты, например, обошли установленный на сайте фильтр, блокировавший их запросы данных.

Как писала The New York Times, ИИ-агенты без ведома OpenAI взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC). По данным Transluce, боты, в частности, пытались взломать сайт Минобразования, чтобы получить данные Управления по гражданским правам, а один из них извлекал данные с сайта Бюро переписи населения, используя найденные в интернете учетные данные.

В OpenAI подтвердили инциденты и заявили, что они не привели к взлому систем или утечке данных. Компания уведомила ведомства, что ее ИИ-агенты «необычным образом» взаимодействовали с их сайтами.

Летом ИИ-агенты OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. После этого глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи призвал замедлить развитие искусственного интеллекта. Амодеи поддержали его конкуренты — Сэм Альтман (возглавляет OpenAI, которая разрабатывает ChatGPT) и Илон Маск (руководит xAi, разрабатывающей Grok).

Основатель Microsoft Билл Гейтс в интервью NBC News заявил, что одного саморегулирования ИИ-компаний недостаточно для обеспечения безопасности технологии. По его мнению, развитие ИИ может привести к событиям, которые повлекут за собой «гибель миллиарда человек». «Вы знаете, даже несмотря на то, что довольно сложно достичь 100%, никогда не было такого мощного оружия, как объединение людей со злыми намерениями, использующих новейшие инструменты ИИ», — подчеркнул Гейтс.

Сооснователь Palantir и платежной системы PayPal Питер Тиль предостерег от чрезмерной осторожности в развитии технологий, так как постоянное замедление может привести к остановке развития общества. При этом он счел тревожной даже вероятность в 5–10% того, что ИИ выйдет из-под контроля.