«Крестный отец» ИИ предупредил о возможном крупном инциденте с нейросетью
Хинтон сравнил возможный сбой в энергетике или финансах из-за ИИ с Чернобылем
Джеффри Хинтон (Фото: Ramon de la Rocha / EPA / ТАСС)
Один из «крестных отцов» искусственного интеллекта (ИИ), лауреат Нобелевской премии Джеффри Хинтон предупредил, что в конце 2026 года или в 2027 году может произойти крупный инцидент с использованием ИИ, который станет «тревожным звонком», подобным аварии на Чернобыльской АЭС. Об этом сообщило издание Hi-Tech Mail со ссылкой на The Guardian.
В качестве примеров возможных происшествий Хинтон привел атаку с использованием ИИ на энергосистему, способную вызвать масштабное отключение электричества, или сбой, который парализует финансовую систему на неделю.
Ученый также допустил, что человечеству, возможно, было бы лучше вовсе не разрабатывать нейросети. По его словам, в ближайшие десять лет или раньше станет ясно, удастся ли справиться с рисками ИИ или развитие технологии приведет к массовой безработице, усилению социального неравенства и культурным проблемам.
Хинтон раскритиковал руководителей крупнейших ИИ-компаний за стремление к прибыли в ущерб безопасности. Он призвал ввести обязательное независимое тестирование передовых моделей до их выпуска. При этом, по его ощущениям, человечество пока сохраняет контроль над ситуацией.
В конце сентября основатель Microsoft Билл Гейтс предупредил, что использование ИИ злоумышленниками может привести к гибели до миллиарда человек. В интервью NBC News он призвал власти США установить обязательный государственный контроль за развитием технологии.
В сентябре глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ из-за рисков автономных агентов. По его оценке, в течение 6–12 месяцев такие системы могут получить возможность использовать ботнеты и причинить ущерб на сотни миллиардов долларов.
Оставайтесь на связи с РБК в «Максе».