ChatGPT сообщит родителям, если подростки испытывают острый эмоциональный стресс
За последние несколько месяцев было выявлено множество случаев, когда взаимодействие с чат-ботами на основе искусственного интеллекта выходило из строя, что приводило к гибели людей, травмам и психозам. Эксперты предполагают, что юные пользователи могут быть особенно уязвимы, особенно в период эмоционального потрясения. Разработчик ChatGPT , компания OpenAI, заявляет, что вскоре будет предупреждать родителей о таком поведении.
Что меняется?
Несколько дней назад OpenAI объявила о планах по созданию системы родительского контроля , которая позволит родителям быть в курсе того, как их дети взаимодействуют с ChatGPT, и вмешиваться, когда сочтут нужным. Теперь же компания объявила о планах по созданию системы оповещения для обеспокоенных родителей.
OpenAI заявляет, что родители получат уведомление, когда ChatGPT обнаружит, что их подопечный-подросток переживает «момент острого стресса». Это сработает, когда родители свяжут свою учётную запись ChatGPT с учётной записью своих детей в возрасте 13 лет и старше через систему приглашений по электронной почте.
С помощью связанных учётных записей родители также смогут контролировать функции искусственного интеллекта, к которым их дети имеют доступ, например, к памяти предыдущих разговоров. Кроме того, родители могут включить «модель поведения, соответствующую возрасту» для взаимодействия ChatGPT с юными пользователями.
Какой путь нас ждет впереди?
OpenAI представила свой 120-дневный план по внедрению набора функций и внесению изменений, которые позволят молодым «аборигенам ИИ», взаимодействующим с инструментами ИИ в повседневной жизни, эффективно использовать общение в ChatGPT. Компания также внесет технические изменения, чтобы гарантировать, что модели будут использовать правильный режим реагирования.
«Вскоре мы начнем направлять некоторые деликатные разговоры — например, когда наша система обнаруживает признаки острого стресса — в модель рассуждений, например, GPT-5-thinking, чтобы она могла выдавать более полезные и значимые ответы, независимо от того, какую модель изначально выбрал человек», — сообщает OpenAI.
Протоколы привязки аккаунтов и родительский контроль будут внедрены в течение месяца. Меры безопасности крайне необходимы. Недавние расследования показали, как чат-боты на основе искусственного интеллекта, такие как одноименный чат-бот от Meta, вели «чувственные» беседы с детьми и помогали подросткам планировать массовое самоубийство .