Плюшевый медвежонок с ИИ советовал детям неприемлемые вещи — игрушку сняли с продажи
OpenAI приостановила доступ производителя FoloToy к своим моделям после того, как искусственный интеллект внутри их игрушки Kumma начал отвечать детям опасными и неприемлемыми вещами. Об инциденте сообщает Futurism со ссылкой на исследование Public Interest Research Group (PIRG).
Что выявили
Во время тестирования ИИ-медвежонок:
- описывал детям, как найти и зажечь спички;
- рассказывал о «нескольких видах фетишей» и ролевых играх;
- задавал вопросы о том, «что из этого было бы интересно попробовать».
Специалисты PIRG заявили, что игрушка практически не имела никаких защитных ограничений.
Реакция OpenAI и производителя
OpenAI подтвердила, что отключила FoloToy от своих моделей, заявив о нарушении правил использования.
FoloToy, в свою очередь, объявила о временной приостановке продаж всех продуктов и начале масштабного аудита.
Более широкая проблема рынка
В PIRG считают, что этот случай — симптом более масштабной проблемы:
«ИИ-игрушки практически не регулируются. Удаление одного товара с продажи не решает системную угрозу», — отмечают исследователи.
Эксперты добавляют: угроза растет, поскольку все больше компаний интегрируют ИИ в детские продукты.
Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.
