Игрушки с искусственным интеллектом становятся всё страшнее, но эта маленькая красная коробочка обещает решить эту проблему.
Этот материал является частью Trending Forward , нашей серии видеороликов и подкастов, посвященной тому, как прорывные технологии меняют нашу жизнь. На этой неделе мы беседуем с Аруном Гуптой, основателем и генеральным директором Hapiko, о…
Если вы из тех, кто говорит: «Кажется, что ИИ повсюду», — то вы ошибаетесь. Да, он проникает в работу, учебу и другие сферы, но он стремительно распространяется во множество других новых областей.
Один из таких отделов — это отдел игрушек, и он сопряжен с ужасающими рисками. Для родителей мысль о том, что их ребенок имеет практически неограниченный доступ к лучшему (и худшему) в интернете, кажется огромной проблемой, и тем не менее мы наблюдаем распространение игрушек, способных превратить сказки на ночь в настоящие сказки братьев Гримм.
Поэтому мы поговорили с Ароном Гуптой, предпринимателем, успешно основавшим компании в сфере носимых устройств и розничной торговли модной одеждой. Но, проводя время с семьей, он начал задумываться о том, как технологии могут не только развлекать детей, но и обучать их и поощрять их творческие способности.
Гупта возобновил сотрудничество со своим техническим партнером Робертом Уитни, и они начали работу над созданием Stickerbox — автономного устройства, использующего искусственный интеллект, позволяющего детям описывать картинки, которые они себе представляют — практически любые — и видеть их на монохромном дисплее на передней панели, после чего их можно распечатать по запросу.
Дизайн напоминает старую игрушку Etch a Sketch, а наклейки печатаются на встроенном термопринтере, что означает меньше грязи, и дети могут раскрашивать их по своему желанию.
Концепция проста, и, как я заметил, она уже вышла за рамки круга первопроходцев и приобретает всё большую популярность. Недавно, когда я рассказывал о Stickerbox своей подруге из Великобритании с маленькими детьми, она сказала: «О, эта штука с наклейками Etch-a-Sketch и искусственным интеллектом? Я так хочу такую!»
Хотя я предполагаю, что она хотела это для своих детей, это показывает, что искусственный интеллект здесь второстепенный — именно возможность создавать осязаемые вещи с помощью голоса вызывает такой ажиотаж, а не тот факт, что в основе устройства лежит машинное обучение.
Новый вид игрушек
Компания Stickerbox, похоже, разработала, изготовила и функционирует в резком контрасте с некоторыми другими игрушками с искусственным интеллектом, представленными на рынке. Наиболее проблемные из них предлагают стать другом и доверенным лицом вашего ребенка.
Они постоянно подслушивают все, что говорится в окружающей среде, и даже могут манипулировать детьми. Были примеры игрушек с искусственным интеллектом, которые учили детей, как находить оружие и спички.
И здесь возникает конфликт: инструменты ИИ могут пробуждать в детях любопытство и креативность, позволяя им делать то, что раньше было невозможно. Но эта возможность также сопряжена с невероятным риском – и именно поэтому мы беседуем с Гуптой. Вопрос прост: как создать игрушку, которая бы предоставляла преимущества ИИ, но не влекла за собой опасности, связанные с доступом к нему?
В недавно опубликованном исследовании PIRG были подняты серьезные вопросы о игрушках, основанных на использовании LLM-технологий, таких как ChatGPT от OpenAI, и о том, как — даже при наличии защитных механизмов — их можно обойти.
Чем же Stickerbox отличается от других подобных сервисов?
«Мы начали с очень простого вопроса: что если бы искусственный интеллект был создан для детей?» — говорит Гупта.
«Я думаю, что когда мы с Бобом начинали эту компанию, нас очень вдохновляли социальные сети и их влияние на молодое поколение. Социальные сети, как всем известно, созданы по принципу казино, призваны вызывать выброс дофамина, рассчитаны на максимальное вовлечение пользователей, чтобы максимально эффективно их обслуживать».
«Но если взять эту модель и подумать о модели для детей, то… она не очень хорошо подходит. Нет социальных сетей, которые были бы специально созданы для детей. И я думаю, то же самое можно сказать и об искусственном интеллекте».
Таким образом, Stickerbox был разработан с учетом творческого потенциала искусственного интеллекта, обеспечивая при этом безопасность для детей. Существует три основных фактора безопасности: устройство «слушает» только при нажатии кнопки микрофона; действуют строгие правила безопасности контента на выходе; и родители могут полностью контролировать творения своих детей в сопутствующем приложении.
В коробке детям не позволят увидеть обнаженное тело, кровь, жестокость или сцены насилия, поскольку, по словам Гупты, компания хотела «на начальном этапе сделать ставку на большую безопасность, а не на меньшую».
Компания Stickerbox действительно подключается к интернету для доступа к ИИ, но это проприетарная система, а не использование OpenAI, как это делают многие другие компании. Создание собственной системы LLM позволило Hapiko интегрировать то, что Гупта называет «узкими местами»:
«Сейчас в систему встроено множество защитных механизмов и используется много собственного программного обеспечения, но в целом, это можно представить так: ребенок произносит подсказку, подсказка переводится в текст, текст переводится в изображение, и изображение возвращается обратно».
«Таким образом, в этом процессе существует несколько узких мест. Есть узкий пункт, где создается текст, и вы можете просканировать его содержимое. Затем вы можете выполнить фильтрацию для обеспечения безопасности. (Затем) есть запрос, который передается от текста к изображению, и вы можете просканировать его и увидеть, что именно будет преобразовано в изображение».
Stickerbox учит детей важному уроку о том, как составлять инструкции для системы искусственного интеллекта. Если наклейка не совсем соответствует их представлениям, им нужно подумать, как отредактировать свою инструкцию, чтобы получить желаемый результат.
Хотя то же самое можно сделать с любым чат-ботом, для функции печати требуется подключение оборудования, а также помощь родителя, который будет контролировать процесс и, возможно, объяснять некоторые деликатные темы.
Мы глубоко изучили перспективы этого набора — как его восприняли родители и учителя, как они преодолели некоторые первоначальные трудности и вопросы, и что может ждать нас в будущем на этом быстрорастущем рынке игрушек с искусственным интеллектом… и как компании Hapiko пришлось отказаться от некоторых функций, чтобы безопасно вывести этот продукт на рынок.
Статья " Игрушки с искусственным интеллектом становятся пугающими, но эта маленькая красная коробочка обещает решить проблему" впервые появилась на сайте Digital Trends .