«Крестный отец» нейросетей уволился из Google и заявил об опасности ИИ
Один из пионеров нейросетей и технологий искусственного интеллекта Джеффри Хинтон уволился из Google и присоединился к тем, кто видит в подобных достижениях опасность для человечества. Об этом Хинтон рассказал в интервью The New York Times.
75-летнего эмигранта из Великобритании называют «крестным отцом искусственного интеллекта», отмечает издание. Хинтон работал над развитием нейросетей с 1970-х, когда в их будущее еще никто не верил.
В 2012 году его компанию, которая разработала технологию распознавания изображений, за $44 млн приобрела Google. Сотрудником Хинтона тогда был Илья Суцкевер, который впоследствии стал главным научным сотрудником OpenAI, компании-создателя бота ChatGPT.
В 2018 году доктор Хинтон и двое его сотрудников получили Премию Тьюринга, которую часто называют «Нобелевской премией по вычислительной технике», за работу над нейронными сетями.
Хинтон не присоединялся к открытым письмам специалистов по ИИ об опасности бесконтрольного развития подобных технологий, поскольку считал это неэтичным. Однако в минувшем апреле уведомил компанию о своем уходе в отставку.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон в интервью изданию. Он также признал, что компании, по мере того как совершенствуют свои системы искусственного интеллекта, становятся все опаснее. «Посмотрите, как это было пять лет назад и как обстоит сейчас», — сказал он о технологии искусственного интеллекта.
Хинтон опасается, что интернет будет наводнен фальшивыми фотографиями, видео и текстами, созданными ИИ, при этом обычный человек «больше не сможет знать, что является правдой».
Он также обеспокоен тем, что технологии искусственного интеллекта со временем перевернут рынок труда. Сегодня чат-боты, такие как ChatGPT, как правило, дополняют обычных работников, но могли бы заменить людей многих профессий.
«Идея о том, что эти вещи действительно могут стать умнее людей, в это верили немногие», — сказал Хинтон. «Я думал, что до этого еще 30–50 лет, а то и больше. Очевидно, я больше так не думаю», — сказал он в интервью NYT.
Компания OpenAI представила универсальный чат-бот ChatGPT в конце прошлого ноября. Его создали на суперкомпьютере Azure AI на основе языковой модели GPT-3,5 от OpenAI. Чат-бот способен вести диалог, спорить, искать ошибки в коде, сочинять стихи, писать сценарии, давать медицинские советы и т.д. Он доступен всем желающим.
В конце минувшего марта предприниматель Илон Маск, сооснователь соцсети Pinterest Эван Шарп и сооснователь Apple Стив Возняк и другие бизнесмены и представители IT-отрасли подписали открытое письмо с требованием приостановить разработки более мощных, чем GPT-4, нейросетей хотя бы на полгода. Они сочли, что пауза необходима для разработки протоколов безопасности в сфере искусственного интеллекта.
Послание подписали более 1 тыс. специалистов IТ-отрасли. Они предупредили, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества, и задались вопросом, должны ли люди «рисковать потерей контроля над цивилизацией».
«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной. Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», — призвали авторы письма.
Читайте РБК в Telegram! Самые важные новости, только проверенная информация.
Экспертиза выявила изменение психического состояния Долиной при сделке
Де Вевер исключил использование активов России без выполнения условий Бельгии
Мосгорсуд отклонил жалобу защиты Чекалиных на продление домашнего ареста
Барщевский объявил об уходе с поста полпреда правительства в КС
Wildberries проработает запуск собственного онлайн-кинотеатра
Трамп назвал цели США в отношении Венесуэлы
