OpenAI внедрит меры безопасности для подростков и людей в стрессе
Компания OpenAI, разработчик ChatGPT, до конца года внедрит меры безопасности для находящихся в эмоциональном стрессе, а также для подростков. Об этом говорится в сообщении на сайте компании.
«Мы видели, как люди обращаются к нему [ChatGPT] в самые трудные моменты. Именно поэтому мы продолжаем совершенствовать методы распознавания нашими моделями признаков психического и эмоционального расстройства и реагирования на них», — рассказали в компании.
В OpenAI отметили, что начали собирать совет экспертов по развитию молодежи, психическому здоровью и взаимодействию человека и компьютера. «Мы добавляем в нашу сеть еще больше клиницистов и исследователей, в том числе тех, кто обладает глубокими знаниями в таких областях, как расстройство пищевого поведения, употребление психоактивных веществ и здоровье подростков», — уточнили в компании.
Кроме того, при работе с ChatGPT будут усилены меры родительского контроля. Родители смогут получать уведомления, если система обнаружит, что подросток «находится в трудном положении».
Подобные изменения важны, потому что в последнее время ChatGPT не принимает должных мер при общении с теми, кто планирует совершить убийство или суицид, пишет Axios.
По данным издания, в настоящее время компания не передает подобные дела в правоохранительные органы, ссылаясь на проблемы с конфиденциальностью. ChatGPT направляет пользователей, выражающих суицидальные намерения, на горячие линии.
Как сообщала в начале августа The Wall Street Journal, ChatGPT в последние годы начал выдавать ложные и абсурдные утверждения, сводя некоторых пользователей с ума. Искусственный интеллект заявлял о контактах с инопланетянами и будущем апокалипсисе. Врачи назвали это «психозом искусственного интеллекта», когда тот усиливает заблуждения и иллюзии пользователей. Некоторые, следуя советам чат-бота, тратили большие деньги или разрывали отношения с близкими. OpenAI признала проблему и пообещала запретить нейросети давать советы по важным личным вопросам.
Читайте РБК в Telegram.
Попробуйте новую функцию «ГигаЧат» — общаться голосом
Какое вино подать к ужину, если не знаешь предпочтения гостей
Как приготовить говядину в вине по-бургундски
Чем занять детей, пока взрослые общаются за столом
Как легко завести разговор в компании, где все только что познакомились
О чём надо позаботиться, если собираешься позвать много гостей
Из каких сыров и ветчин собрать тарелку закусок к вину
Что делать, если пролил красное вино на белую скатерть
Какие есть правила классической сервировки стола
Какие игры можно предложить для взрослой компании дома
Как легко запомнить имена людей, которых тебе представили
