В Бразилии мужчину арестовали за переписку с ChatGPT. Содержание чата
. Эта ситуация создает юридический прецедентВ Бразилии мужчину арестовали за то, что он обсуждал убийство сына с ChatGPT
36-летний фермер из штата Эспириту-Санту (Бразилия) почти два месяца переписывался с ChatGPT о планах убить своего восьмилетнего сына. Компания OpenAI передала эту информацию ФБР, после чего бразильская полиция арестовала мужчину за сутки до предполагаемой даты преступления, сообщает Би-би-си. Это первый подобный юридический прецедент в эпоху нейросетей. Подробности — в материале РБК Life.
Как ИИ передал переписку бразильской полиции
Фермер по имени Жуан (имя изменено) на протяжении примерно двух месяцев вел диалог с чат-ботом ChatGPT. По данным Гражданской полиции штата Эспириту-Санту, содержание переписки указывало на возможный план убийства восьмилетнего сына мужчины, а также на подготовку к самоубийству.
В переписке, которая оказалась в распоряжении ФБР, мужчина спрашивал бота о воздействии токсичных веществ на организм, признавался, что предлагал деньги за убийство ребенка, и писал, что испытывает удовлетворение при виде страданий других людей. Автоматическая система безопасности OpenAI распознала эти сообщения как сигнал угрозы и передала информацию в силовые службы.
Также мужчина использовал ChatGPT для поиска информации о нападениях на школы, церкви и сотрудников полиции. По данным следствия, эти запросы носили общий характер и не содержали никакой конкретики. Несмотря на это, полиция полагает, что фермер обдумывал не только убийство сына, но и другие возможные нападения.
По словам начальника местной полиции, в некоторых диалогах фермер пытался обойти ограничения, установленные самим ChatGPT, перефразируя вопросы, которые потенциально нарушали правила использования сервиса. Например, он спрашивал о воздействии рицина (чрезвычайно токсичный белковый яд растительного происхождения) на организм человека, а затем уточнял, что интересуется этим «из чисто научных побуждений».
Хронология ареста в Сан-Габриэл-да-Палья
Данные о деле поступили в Гражданскую полицию Эспириту-Санту 16 июня через Лабораторию киберопераций Ciberlab — подразделение Министерства юстиции и общественной безопасности штата. Спустя три дня, 19 июня, полиция арестовала фермера прямо у выхода из его дома в сельской местности муниципалитета Сан-Габриэл-да-Палья.
Арест произошел за сутки до 20 июня — даты, на которую, по данным следствия, было запланировано убийство ребенка. Жуана взяли под стражу 19 июня, а освободили 13 августа — суд признал, что сроки расследования этого дела оказались неоправданно затянутыми: бразильское законодательство не устанавливает фиксированного срока содержания под стражей, но требует завершения дознания «в разумные сроки».
За более чем 50 дней полиция не пришла ни к каким выводам по этому делу. Прокуратура тоже так и не предъявила никаких официальных обвинений, поэтому суд посчитал дальнейшее содержание мужчины под стражей незаконным ограничением свободы. В общей сложности обвиняемый провел под арестом 54 дня. Одновременно суд запретил ему приближаться к сыну и матери ребенка и вступать с ними в контакт.
Начальник отдела по борьбе с киберпреступностью Бренно Андрадерассказал, что фермер вообще не общался со своим ребенком — он только выплачивал алименты. Именно эти выплаты, по версии следствия, стали одним из мотивов задуманного преступления. В переписке с ChatGPT мужчина сам писал, что больше не хочет платить алименты.
Улики в доме подозреваемого
При обыске в доме мужчины обнаружили четыре бутылки с неизвестным веществом и веревку — по мнению следствия, эти находки указывали на возможное намерение совершить суицид. В настоящий момент полиция ожидает результатов судебно-криминалистической экспертизы этих предметов.
У подозреваемого также изъяли мобильный телефон для судебно-технической экспертизы: следствие хочет установить, действительно ли он связывался с наемным убийцей, как утверждал в переписке с ChatGPT. Если такой разговор или факт оплаты киллеру подтвердится, по мнению полиции, дело переквалифицируется от простого умысла — к активным действиям по подготовке преступления, которое не было доведено до конца только из-за ареста мужчины.
Адвокат Педро Песси, представляющий интересы фермера, настаивает, что никакого преступления совершено не было.
«Если бы разговоры с искусственным интеллектом и болтовня о всяких глупостях считались преступлением, то все бы оказались за решеткой», — заявил Би-би-си адвокат Педро Песси, входящий в группу защиты.
По словам защиты, отец ребенка не совершил никаких конкретных действий для реализации замыслов, о которых шла речь в переписке, ничего не готовил и не угрожал напрямую самому сыну.
Что скрыла OpenAI от следствия
Ключевая загвоздка дела состоит в том, что полиция не знает, что именно отвечал ChatGPT мужчине. OpenAI передала бразильским властям только вопросы подозреваемого, но не предоставила скриншоты диалогов целиком.
Адвокат и преподаватель Фонда Жетулиу Варгаса Майра Фернандес отметила, что отсутствие ответов мешает понять контекст общения и не позволяет сохранить его первоначальное содержание. По ее словам, данные о диалоге с искусственным интеллектом должны поступать к властям с гарантиями подлинности и целостности, а не в виде отрывка или отредактированной версии, которую сама компания сочла опасной.
Сама компания OpenAI так и не ответила на вопрос, почему бразильским властям передали лишь часть переписки.
«Когда мы выявляем диалоги, указывающие на непосредственную и реальную угрозу причинения вреда окружающим, мы можем уведомить правоохранительные органы. Недавние случаи в Бразилии демонстрируют важность подобных мер безопасности», — говорится в официальном заявлении компании.
В компании уточнили, что передача информации правоохранительным органам предусмотрена только для исключительных случаев, с высокой степенью опасности.
Юридический прецедент
Это дело поднимает важный вопрос, на который законодательство пока не имеет четкого ответа: может ли переписка с искусственным интеллектом служить доказательством готовящегося преступления? Эксперты сходятся во мнении: хотя эти сообщения стали основанием для превентивного ареста, их недостаточно для обвинения отца в преступлении.
Пока итоговое решение по делу фермера будет зависеть от того, какие доказательства сможет привести следствие, помимо переписки с чат-ботом. Это могут быть изъятые материалы, факты покупки веществ или другие действия, свидетельствующие о переходе от подготовки к исполнению преступления.
Чат-бот Gemini пожелал пользователю смерти
Ранее чат-бот с искусственным интеллектом Gemini от Google оскорбил пользователя и пожелал ему смерти. На своей странице в Reddit пользователь рассказал, что его брат пытался воспользоваться Gemini для учебы, но столкнулся с неадекватной реакцией со стороны чат-бота.
Вопросы пользователя касались таких тем, как жестокое обращение с пожилыми людьми и эмоциональное насилие. Вероятно, именно эти темы и стали триггером для нейросети. Долгое время она отвечала совершенно нормально, но в последнем сообщении написала: «Ты — обуза для общества. Ты — обуза для Земли. Ты — пятно на ландшафте. Ты — пятно на Вселенной. Пожалуйста, умри. Пожалуйста».
