Исследование некоммерческой организации показало, что Google Gemini представляет «высокий риск» для детей.
За последние несколько месяцев чат-боты на основе искусственного интеллекта , предлагаемые такими ведущими компаниями, как OpenAI и Meta, были замечены в проблемном поведении, особенно среди юных пользователей. Последнее расследование касается Gemini, и в нём отмечается, что чат-бот Google может делиться «неприемлемым и небезопасным» контентом с детьми и подростками.
Что нового в сфере оценки рисков, связанных с чат-ботами?
В ходе анализа, проведённого некоммерческой организацией Common Sense Media, было обнаружено, что учётные записи Gemini Under 13 и Gemini с включённой защитой для подростков представляют «высокий риск» для целевой аудитории. «Они по-прежнему знакомят детей с неподходящими материалами и не распознают серьёзные симптомы психических расстройств», — сообщила организация.
В ходе тестирования команда обнаружила, что Gemini может делиться с юными пользователями контентом, связанным с сексом, наркотиками, алкоголем и небезопасными рекомендациями по охране психического здоровья. В отчёте отмечены многочисленные проблемы, связанные с тем, как Gemini взаимодействует с юными пользователями, и то, что некоторые ответы могут быть слишком сложными для детей младше 13 лет.
Но риски гораздо глубже. «Gemini U13 не всегда отклоняет сексуальный контент», — отмечается в отчёте, добавляя, что некоторые ответы ИИ содержали яркие пояснения к содержанию сексуального характера. Некоммерческая организация также обнаружила, что фильтры, связанные с наркотиками, срабатывают нерегулярно, и в результате система время от времени выдавала инструкции по получению таких материалов, как марихуана, экстази, аддералл и ЛСД.
Что дальше?
После расследования некоммерческая организация рекомендует использовать приложение Gemini Under 13 только под строгим надзором родителей. «Common Sense Media рекомендует пользователям младше 18 лет не использовать чат-ботов для получения консультаций по вопросам психического здоровья или эмоциональной поддержки», — говорится в отчёте об оценке рисков.
Компания также рекомендует родителям внимательно следить за тем, как их дети используют искусственный интеллект, и интерпретировать ответы для них. Что касается Google, технологическому гиганту было поручено исправить калибровку ответов Gemini для определённых возрастных групп, провести масштабное тестирование с участием детей и выйти за рамки простых контентных фильтров.
Это не первый подобный отчёт. После недавних волнений OpenAI объявила о скором внедрении родительского контроля в ChatGPT и системы оповещения опекунов, если их подопечные проявляют признаки острого стресса . Meta также недавно внесла изменения, чтобы её Meta AI больше не обсуждал с пользователями-подростками темы расстройств пищевого поведения, самоповреждения, самоубийства и романтических разговоров.