Meta позволит родителям просматривать переписку детей с использованием ИИ и вмешиваться до того, как риски возрастут.

Компания Meta уже некоторое время находится в центре скандала из-за безопасности подростков и использования искусственного интеллекта. После расследования Wall Street Journal, проигранного судебного процесса в Нью-Мексико и проверки Федеральной торговой комиссии, компания наконец-то внедряет эффективные инструменты родительского контроля.

Сегодня Meta представляет новую вкладку «Аналитика» в своем центре управления контентом на трех самых популярных платформах: Instagram , Facebook и Messenger . Хотя название не сразу дает понять, что это такое, эта функция позволяет родителям увидеть, что именно обсуждают их подростки с помощью искусственного интеллекта Meta во всех этих приложениях.

Что же на самом деле могут увидеть родители?

Хотя родители не получат дословную расшифровку разговора своих детей с Meta AI , новая вкладка «Аналитика» предоставляет еженедельные обзоры тем. Она охватывает такие широкие категории, как «Школа», «Развлечения», «Образ жизни», «Путешествия», «Письмо» и «Здоровье», каждая из которых имеет свои подкатегории.

Например, раздел «Здоровье и благополучие» охватывает такие темы, как фитнес, физическое здоровье и психическое здоровье. Предполагается, что эти категории предоставят родителям достаточно контекста, чтобы выявить тревожные закономерности в обсуждаемых темах, не читая все сообщения целиком.

Помимо возможности просмотра тем, родители также могут решать, к каким персонажам с искусственным интеллектом их ребенок может получить доступ, и даже полностью отключать чаты с персонажами, оставляя при этом помощника с ИИ доступным для общих задач, таких как выполнение домашнего задания, решение повседневных вопросов и т. д.

Meta также разрабатывает специальные оповещения для деликатных тем, что, на мой взгляд, является наиболее эффективным способом уведомления родителей о любых тревожных сообщениях в чате. Если разговор подростка в чате с использованием ИИ затрагивает тему членовредительства или, что еще хуже, переходит в тему самоубийства, родители будут проинформированы напрямую.

Кому это доступно?

На данный момент вкладка «Аналитика» доступна в США, Великобритании, Австралии, Бразилии и Канаде. Глобальное внедрение ожидается через несколько недель. Помимо этого нововведения, Meta также сотрудничает с Исследовательским центром по кибербуллингу для разработки тем для начала разговоров.

Среди них – подсказки, которые могут помочь родителям начать непредвзятые дискуссии об ИИ со своими подростками . Важно подчеркнуть, что этот шаг компании предпринят под значительным юридическим и регуляторным давлением, а не из-за благородного инстинкта, и именно эта разница имеет значение.

Если система оповещения о деликатных темах покажет хорошие результаты, она может установить отраслевой стандарт того, как искусственный интеллект или платформы социальных сетей будут работать с молодыми, уязвимыми пользователями.