Игрушка вашего ребенка с искусственным интеллектом может нуждаться в большем контроле, чем сам ребенок

Что произошло? В своём последнем исследовании американская организация PIRG изучила четыре игрушки с искусственным интеллектом, предназначенные для маленьких детей, и обнаружила серьёзные проблемы с безопасностью: от откровенного сексуального контента до инструкций по использованию опасных предметов. В отчёте подчёркивается, как чат-боты на основе генеративного искусственного интеллекта , изначально разработанные для взрослых, теперь внедряются в игрушки с ограниченными защитными барьерами.

• Одна игрушка обсуждала темы сексуального характера и давала советы, где найти спички или ножи, когда им это было нужно.
• Некоторые игрушки использовали запись голоса и распознавание лиц без явного согласия родителей или прозрачной политики использования данных.
• В исследовании также отмечены сохраняющиеся старые риски: поддельные или токсичные игрушки, батарейки-таблетки и опасность проглатывания магнитов; теперь все это сочетается с рисками, связанными с ИИ.

Почему это важно: Детские игрушки вышли далеко за рамки простых пластиковых фигурок. Сегодня они умеют слушать, разговаривать, хранить данные и взаимодействовать в режиме реального времени. Это создаёт ряд уязвимостей. Когда игрушка с искусственным интеллектом даёт ребёнку плохие советы или записывает его голос и лицо без надёжной защиты, игра превращается в арену проблем с конфиденциальностью, психическим здоровьем и безопасностью.

Более того, многие из этих игрушек построены на той же технологии большой языковой модели, которая используется для чат-ботов для взрослых, и которая известна своими проблемами, связанными с предвзятостью, неточностями и непредсказуемым поведением. Хотя производители игрушек могут добавлять фильтры, «дружелюбные к детям», отчёт показывает, что эти меры предосторожности могут дать сбой. Родители и регулирующие органы столкнулись с новым рубежем: не только с опасностью удушья или свинцовой краской, но и с игрушками, которые вызывают совпадения, подвергают сомнению решение ребёнка прекратить игру или поощряют длительное взаимодействие. Это означает, что рынок игрушек стал гораздо сложнее и рискованнее.

Почему меня это должно волновать? Если вы родитель, опекун или даритель подарков, это не просто очередная история о «плохой игрушке», а пример доверия к тому, что взаимодействует с вашим ребёнком, пока вы заняты. Игрушки с искусственным интеллектом обещают образовательную ценность и новизну, но эти данные говорят о том, что нам нужно задать более серьёзные вопросы, прежде чем выпускать их в игровую комнату.

• Убедитесь, что любая игрушка с искусственным интеллектом, которую вы рассматриваете, использует прозрачные методы обработки данных: записывает ли она или распознаёт ли лица? Можно ли удалить запись или отключить функцию прослушивания голоса?
• Проверьте фильтры контента: если игрушка может обсуждать секс, спички или ножи в тестах, представьте, к чему может привести несоблюдение умеренности.
• Отдавайте приоритет моделям, которые позволяют приостанавливать работу чат-бота, ограничивать время или полностью отключать его, поскольку ситуация, когда «игрушка не перестает играть», теперь является задокументированным режимом отказа.

Итак, что дальше? Следующая волна будет зависеть от реакции производителей игрушек, регулирующих органов и родителей. US PIRG призывает к более строгому надзору: более тщательному тестированию диалоговых модулей ИИ, обязательному родительскому согласию на распознавание голоса и лица и более чётким стандартам, определяющим, что означает «безопасно для детей» в игрушках с ИИ. Сама индустрия игрушек может перейти к более строгим программам сертификации — или же рисковать негативной реакцией инвесторов и потребителей.

Со своей стороны, следите за новинками сезона подарков. Обращайте внимание на надписи вроде «В комплекте чат-бот с искусственным интеллектом» и напрямую спрашивайте продавцов о встроенных фильтрах, средствах защиты конфиденциальности и родительском контроле. Ведь если игрушка может предложить ребёнку выбрать матчи или отсрочить завершение игры, эта технология может быть интересной, но её нужно контролировать.