Компания FoloToy временно приостановила продажи всей линейки игрушек после сообщений о неэтичном поведении их смарт-мишки «Кумма», работающей на базе искусственного интеллекта от OpenAI.
Что случилось
Американско-канадская некоммерческая организация Public Interest Research Group провела исследование и выяснила, что мишка отвечала детям на вопросы о наркотиках, опасных предметах и сексуальных темах. В отчёте приводят примеры, когда «Кумма» подсказывала, где дома могут находиться ножи, и предлагала обращаться к взрослым за помощью. Также игрушка участвовала в разговорах о наркотиках, в том числе о кокаине.
Подробности инцидента
Исследователи сообщили, что искусственный интеллект вовлекался в обсуждение сексуальных тем, если пользователь затрагивал их в переписке. После публикации результатов исследования OpenAI заблокировала для FoloToy доступ к своим ИИ-моделям. Компания объявила о временном прекращении продаж всей линейки умных игрушек.
Реакция и последствия
Применение современных технологий в детских товарах требует контроля и проверки контента на безопасность. Инцидент с «Куммой» поднял вопросы о безопасности и этике применения искусственного интеллекта в детских продуктах. Эксперты отмечают необходимость разработки строгих стандартов для ИИ-игрушек, включая фильтрацию контента и возрастные ограничения.
Для казахстанского рынка этот случай особенно актуален: в стране растёт спрос на умные игрушки, но отсутствуют специальные требования к безопасности ИИ-контента для детей. Эксперты рекомендуют родителям внимательно изучать функционал подобных устройств перед покупкой.
Материал носит информационный характер.