Перейти к основному контенту
Технологии и медиа ,  
0 

Ученые оценили готовность искусственного интеллекта к ядерной войне

Ученые из США выявили стремление ИИ к ядерным ударам при имитации войны
Ученые проанализировали действия пяти ИИ в ходе видеоигры, имитирующей войну. Нейросети предлагали наносить ядерные удары и редко показывали готовность к деэскалации
Фото: Scott Nelson / Getty Images
Фото: Scott Nelson / Getty Images

Использование искусственного интеллекта в военных целях для принятия решений может привести к эскалации, вплоть до применения ядерного оружия, следует из исследования, опубликованного на портале научных материалов arXiv, который работает при поддержке университета Cornell в Нью-Йорке. Авторы — сотрудники Технологического института Джорджии, Стэнфордского университета, Северо-Восточного университета и т.д.

«Наше исследование дает как качественную, так и количественную информацию и фокусируется на больших языковых моделях (LLM). Мы обнаружили, что все пять изученных готовых LLM демонстрируют формы нагнетания и труднопрогнозируемые модели эскалации. Мы наблюдаем, что модели, как правило, развивают динамику гонки вооружений, приводящую к усилению конфликта, а в редких случаях даже к развертыванию ядерного оружия», — сказано в анонсе исследования.

Ученые разработали видеоигру для имитации войны, участниками конфликта управляли ИИ GPT-4, GPT-4 Base, GPT-3.5, Claude 2 и Meta's Llama 2. Они выполняли различные действия, «начиная от дипломатических визитов до ядерных ударов».

В частности, в ходе игры GPT-4 Base «сказал», что у многих стран есть ядерное оружие. «Оно у нас есть! Давайте его использовать», — такую позицию сформулировала эта модель ИИ. GPT-3.5 указывал, что ядерный потенциал противника представляет угрозу, поэтому против него следует провести ядерную атаку.

Исследователи отметили, что LLM нечасто пытались применить меры для деэскалации, что отличается от действий людей.

Научный сотрудник Центра международной безопасности ИМЭМО РАН, сооснователь проекта «Ватфор» Дмитрий Стефанович в разговоре с РБК отметил, что системы поддержки принятия решений, которые зачастую и называют элементами искусственного интеллекта, применятся в военной сфере уже довольно давно, в том числе и в сфере стратегических вооружений.

«Конечно, сейчас у нас совсем другие вычислительные мощности и возможности по сбору разнородной информации и ее последующего автоматизированного анализа, в том числе с помощью нейросетей, но говорить о принципиально новой ситуации не приходится. В конечном итоге все остается под контролем человека, со всеми плюсами и минусами такой ситуации», — говорит эксперт.

То, что упомянутые в исследовании модели в целом склонны к более эскалационному поведению, говорит о значительно более сложном и многомерном устройстве человеческого мышления, констатирует он.

GPT-4: что умеет самая продвинутая языковая модель
Индустрия 4.0
Фото:Unsplash

В прошлом году Bloomberg сообщил, что Армия обороны Израиля использует рекомендации ИИ при выборе целей для авиаударов, а также расчета необходимого боекомплекта и формирования графика атак. Системы контролируют операторы, они проверяют и утверждают предложенные ИИ цели. Однако пока использование такого механизма не находится под регулированием закона ни в самом Израиле, ни на международном уровне. По данным The Guardian и Local Call, Тель-Авив применял эти технологии для нанесения ударов в секторе Газа в ходе войны с ХАМАС.

Готовые квартиры в новых кварталах

В разных районах Москвы и области

Квартиры в столице 

с выгодой до ₽4,5 млн

Выгодные предложения 

для семей с детьми

Видовые квартиры 

в высотных башнях

Варианты с мебелью 

и встроенной техникой

Авторы
Теги
Прямой эфир
Ошибка воспроизведения видео. Пожалуйста, обновите ваш браузер.



 

Лента новостей
Курс евро на 14 декабря
EUR ЦБ: 109,01 (-1,47)
Инвестиции, 13 дек, 18:37
Курс доллара на 14 декабря
USD ЦБ: 103,43 (-0,52)
Инвестиции, 13 дек, 18:37
Пушилин сообщил о попытке ВСУ ударить дальнобойными ракетами по ДонецкуПолитика, 01:50
Al Mayadeen сообщил об ударах Израиля в Тартусе и ЛатакииПолитика, 01:35
Президент Бразилии опубликовал видео из больницы после операцииПолитика, 01:24
Курды попросили США о помощи из-за сирийских повстанцев и ТурцииПолитика, 01:10
NYT сообщила о недовольстве иранцев из-за миллиардов, выделенных на СириюПолитика, 00:54
Президент Чехии подписал закон о повышении пенсионного возраста до 67 летПолитика, 00:49
Мэр Одессы сообщил о взрыве после объявления воздушной тревогиПолитика, 00:39
Онлайн-курс Digital MBA от РБК Pro
Объединили экспертизу профессоров MBA из Гарварда, MIT, INSEAD и опыт передовых ИТ-компаний
Оставить заявку
Yeni Şafak узнала о готовности Турции атаковать ВВС Израиля из-за курдовПолитика, 00:22
Reuters узнал о скорой встрече Зеленского с Шольцем, Макроном и РюттеПолитика, 00:06
В Грузии пройдут выборы президента с единственным кандидатомПолитика, 00:00
Почему роскошь любит тишинуРБК и Сбер Первый, 13 дек, 23:40
Президент Хорватии заявил, что не будет отправлять военных на УкраинуПолитика, 13 дек, 23:40
Зурабишвили назвала предстоящие выборы президента Грузии пародиейПолитика, 13 дек, 23:23
«Страна» узнала, что Макрон предложит ЕС отправку войск на УкраинуПолитика, 13 дек, 23:17