Дрон Пентагона решил убить своего оператора во время испытаний
Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian.
Эпизод обсуждался во время саммита, главной темой которого был потенциал военно-воздушных и космических сил будущего. Мероприятие, на котором присутствовали более 200 представителей научного сообщества и военных сил из разных стран, состоялось 24–25 мая в Лондоне.
Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
По словам полковника, этот пример показывает, что невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики.
Это не первое испытание применения ИИ в армии США. Так, в декабре Пентагон устроил 12 испытательных полетов F-16 под управлением ИИ. В общей сложности истребитель провел в автономном полете более 17 часов.
В апреле основатель Tesla и SpaceX Илон Маск призвал власти регулировать ИИ. По его мнению, без государственного надзора быстро развивающийся искусственный интеллект может стать «опасностью для общества» и представлять реальную угрозу для будущего человечества.
До этого о подобных рисках высказался сооснователь Microsoft Билл Гейтс. Он заявил, что широкое распространение ИИ «поднимает ряд сложных вопросов о рабочей силе, правовой системе, необъективности и многом другом».
Выборы в местные советы Англии завершились поражением правящей партии
МВД России объявило в розыск Зеленского и Порошенко
В Иерусалиме в храме Гроба Господня сошел Благодатный огонь
На Западе признали, что Россия приспособилась к экономическому давлению извне
НАТО в рамках учений отрабатывает коалиционные действия против России
Появились новые кадры последствий снегопада в Екатеринбурге. Видео
Джинн из бутылки, Apple и будущее Berkshire. Что сказал Баффет акционерам?
Задержанные после сожжения Нового завета извинились на видео
В Госдуме предложили смягчить требования к тонировке передних стекол
В какой банк положить деньги: топ-10 вкладов в мае 2024-го
«Газпром» получил убыток в 2023 году. Будут ли дивиденды?
В России ускорилось снижение цен на вторичное жилье. Таблица городов
«Продавай в мае и уходи». Сработает ли эта биржевая поговорка в 2024 году?
Бывший министр финансов Задорнов рассказал о тромбозе в российской экономике
Синоптики раскрыли причины «языка холода» в России
