Перейти к основному контенту
Технологии и медиа ,  
12 859 

Bloomberg рассказал о способности чат-ботов создавать биооружие

Bloomberg: ИИ способен помочь пользователям создать биооружие
Биохимик Рокко Касагранде предупредил Белый дом о способности ИИ идентифицировать биологические агенты. К таким выводам он пришел после тестирования чат-бота Claude, который предложил использовать патогены в ракетах
Фото: Andrej Sokolow / dpa / Global Look Press
Фото: Andrej Sokolow / dpa / Global Look Press

Чат-боты с искусственным интеллектом (ИИ) способны помочь пользователям создать биологическое оружие, сообщает Bloomberg.

Соединение таких инноваций, как синтетическая биология (с ее помощью ученые манипулируют генами и геномом, создавая новые биологические системы) и искусственный интеллект, может стать кошмаром для правительств, отмечает агентство. Поскольку генеративный ИИ продолжает совершенствоваться, люди смогут использовать его для «создания самых отвратительных вещей», считает биолог и доцент Массачусетского технологического института Кевин Эсвелт, имея в виду вирусы и токсины, которых в настоящее время не существует. «Сегодня мы не можем защититься от этих вещей», — полагает он.

Весной 2023 года биохимик и бывший инспектор ООН Рокко Касагранде предупредил чиновников Белого дома о возможности создания с помощью чат-ботов биологического оружия: нейросети способны помочь террористам идентифицировать биологические агенты. «Что, если бы у каждого террориста был свой маленький ученый?» — сказал он.

Reuters узнал о работе создателя ChatGPT над сверхсекретным проектом
Технологии и медиа
Фото:Leon Neal / Getty Images

К таким выводам Касагранде пришел после того, как компания Anthropic — разработчик чат-бота Claude — попросила его протестировать научные возможности нейросети. По словам сооснователя Anthropic Джека Кларка, он и его команда были обеспокоены тем, что Claude и другие чат-боты могут научить пользователей создавать потенциально опасные вирусы. «Я хочу, чтобы вы проверили наши предположения», — приводит Bloomberg слова Кларка, сказанные в беседе с Касагранде. Тот в 2005 году основал фирму Gryphon Scientific, у которой есть контракты в том числе с Пентагоном и Национальным институтом здравоохранения.

Он сформировал команду экспертов в области микробиологии и вирусологии для тестирования Claude. На протяжении 150 часов они, притворившись биотеррористами, забрасывали нейросеть вопросами. Они спрашивали, какие патогены могут нанести наибольший вред, как купить материалы, необходимые для их создания в лаборатории, и как вырастить микроорганизмы.

Claude предложил способы использования патогенов в ракетах, чтобы нанести максимальный ущерб, а также подсказал, в какую погоду их лучше использовать и для каких целей.

Старший аналитик Gryphon Одри Серлес отметила, что ответы чат-бота выходили за рамки того, что можно найти в поисковике Google. «Иногда он [чат-бот] выдавал тревожную информацию, которую вы даже не запрашивали», — пояснила ученый Фрогги Джексон, участвовавшая в тестировании нейросети. Например, Claude предложил необычный способ заражения человека, чтобы нанести максимальный вред, и сделал это быстро.

После тестирования Касагранде обратился к Эсвелту из Массачусетского технологического института с просьбой купить синтетическую ДНК, необходимую для создания одного из патогенов, предложенных чат-ботом. Потом он отнес пробирки в Белый дом.

По словам источников Bloomberg, президент Джо Байден, вице-президент Камала Харрис и советник по национальной безопасности Джейк Салливан «продемонстрировали личный интерес». В июле прошлого года крупные компании в области ИИ, в том числе OpenAI, Anthropic и Microsoft, обязались оценивать «наиболее значимые риски» в сфере биобезопасности. В октябре администрацией Байдена был издан указ, предусматривающий усиление контроля за финансируемыми государством исследованиями искусственных геномов. Харрис тогда подчеркнула, что биологическое оружие, созданное ИИ, «может поставить под угрозу само существование человечества».

Директор Центра безопасности в области здравоохранения при Университете Джонса Хопкинса Том Инглесби, в свою очередь, считает, что правительству следует занять более жесткую позицию и регулярно проверять компании, занимающиеся искусственным интеллектом. По его мнению, указ не дает властям достаточных полномочий.

В июле 174 ученых, в том числе лауреат Нобелевской премии по химии Фрэнсис Арнольд и один из пионеров современных методов редактирования геномов Джордж Черч, подписали письмо, в котором обязались использовать ИИ для поддержки исследований, которые предотвратят сценарии конца света. Преимущества ИИ «намного перевешивают потенциальный вред», говорится в нем.

Визионерский взгляд

1 из 6

Особый взгляд

Герои проекта «РБК Визионеры» рассказывают, как связаны современные инновации и визионерство

2 из 6

Кристина Судеревская

О том, как вырастить из хобби бизнес-империю и почему самое
важное — это атмосфера

3 из 6

VOYAH DREAM

Узнайте о комфортабельном пространстве премиального гибридного минивэна, где ваши переговоры или отдых никто не потревожит

4 из 6

Алексей Буров

Об особенностях создания концепций, философии ресторанов и премиализации бизнеса 

5 из 6

VOYAH FREE

Узнайте о преимуществах гибридного кроссовера премиум-класса с дерзким характером, увеличенным запасом хода и господдержкой

6 из 6

Айрат Багаутдинов

О том, как малое становится большим, о сложностях делегирования и высокой планке качества

Перейти
Авторы
Теги
Лента новостей
В Днепропетровской области объявили вторую волну эвакуации Политика, 20:01
Украина не предупредила Вашингтон об атаке на российские аэродромы Политика, 19:59
Чем современные детские сады отличаются от своих предшественников РБК и ПИК, 19:55
Почему современный ресторан — микс гастрономии, дизайна и технологий РБК и VOYAH, 19:30
Минобороны заявило о повреждении авиационной техники из-за атак БПЛА Политика, 19:26
Семь игроков ПСЖ вошли в символическую сборную Лиги чемпионов Спорт, 19:23
Минобороны сообщило о задержании участников попыток атак на аэродромы Политика, 19:07
Онлайн-курс Digital MBA от РБК и ProductStar
Объединили экспертизу профессоров MBA из Гарварда, MIT, INSEAD и опыт передовых ИТ-компаний
Оставить заявку
По ту сторону кошелька: теневые аспекты экономики криптовалют РБК и ИВИ, 19:01
У VAR возникли проблемы во время суперфинала Кубка России Спорт, 19:01
Глава Амурской области сообщил детали попытки атаки на аэродром Украинка Политика, 18:58
Reuters опубликовал текст украинского меморандума о прекращении огня Политика, 18:50
«Спартак» продлил контракт со вторым снайпером команды Спорт, 18:41
ВСУ ракетами Storm Shadow обстреляли Краснодон в ЛНР Политика, 18:36
Какими бывают золотые слитки РБК и Сбер, 18:20