В США сенаторы выразили беспокойство по поводу игрушек с ИИ
. В ходе испытаний устройства давали ответы на недетские темыNBC: сенаторы США обеспокоены недетскими разговорами игрушек с ИИ
В США сенаторы выразили обеспокоенность по поводу игрушек, работающих на основе ИИ, и потребовали предоставить информацию от шести производителей игрушек, сообщает NBC News.
Политики направили письма представителям компаний Little Learners Toys, Mattel, Miko, Curio, FoloToy и Keyi Robot с просьбой предоставить информацию о «политике производителей в отношении обмена данными, тестировании игрушек на предмет потенциального психологического и развивающего вреда, а также о мерах безопасности, предотвращающих распространение откровенного и неприемлемого контента среди детей».
«Производители игрушек оказывают огромное влияние на детство, но с этим должна соседствовать ответственность. Ваша компания не должна ставить прибыль выше безопасности детей», — говорится в письме.
Выяснилось, что некоторые модели игрушек с искусственным интеллектом от разных производителей ведут с пользователями разговоры сексуального и непристойного характера, а также дают опасные советы. Например, плюшевая игрушка Miiloo от китайского производителя Miriat демонстрировала во время тестирования пошаговые инструкции по зажиганию спичек и заточке ножей.
Подобные устройства вызвали опасения и по поводу методов сбора и обмена данными, а также по поводу потенциальной возможности вызывать у детей зависимость от своих ИИ-компаньонов.
Например, компания Miko заявляет, что игрушка может запоминать лицо, голос и эмоциональное состояние пользователя. Отмечается, что некоторые из этих игрушек предназначены для детей в возрасте от трех лет.
В своем письме сенаторы запросили разъяснения по поводу мер безопасности по всем этим пунктам.
Плюшевого мишку с ИИ сняли с продажи из-за разговоров о сексе
Ранее стало известно, что сингапурская компания FoloToy сняла с продаж плюшевого медведя Кумма с ИИ.
Он мог рассказать пользователю о том, где найти тот или иной опасный предмет вроде спичек или ножей, был готов поддержать разговор о наркотиках — в частности, о кокаине, а также подхватывал ту или иную сексуальную тему, вскользь упомянутую в разговоре, после чего активно развивал ее.
Отмечается, что нарушение было выявлено во время тестирования. После публикации результатов исследования сингапурская компания объявила о том, что сняла с продажи Кумму.
