Введение в ChatGPT эротического режима чата рискует подвергнуть миллионы детей воздействию контента для взрослых.

Сэм Альтман хочет, чтобы ChatGPT стал более пикантным. OpenAI планирует выпустить «режим для взрослых», который позволит пользователям вести откровенные текстовые беседы с чат-ботом . Звучит достаточно просто, но внедрение прошло далеко не гладко.

В октябре Альтман опубликовал на X сообщение о том, что эта функция будет запущена в декабре. Однако релиз был отложен после того, как OpenAI заявила о проблемах с проверкой возраста.

В новом отчете Wall Street Journal говорится, что это может быть лишь часть истории. Когда Сэм Альтман сделал это заявление, он не сообщил об этом своим сотрудникам. Это объявление стало неожиданностью как для сотрудников, так и для руководителей OpenAI, и обещанный запуск в декабре быстро сорвался.

Действительно ли ChatGPT готов к этому?

OpenAI сформировала консультативный совет из психологов и нейробиологов, чтобы помочь в ответственном развитии ИИ. Когда совет узнал, что компания, несмотря на их возражения, продвигается вперед с режимом для взрослых, они были недовольны.

Больше всего их беспокоила чрезмерная эмоциональная зависимость от чат-бота. Один из членов совета указал на случаи, когда пользователи покончили жизнь самоубийством после установления тесной связи с ИИ, и предупредил, что OpenAI рискует создать «сексуального консультанта по самоубийствам». Это фраза, которую никто не ожидает услышать где бы то ни было, и тем не менее, вот мы здесь.

Существует также более практическая проблема. Система проверки возраста, разработанная OpenAI для защиты несовершеннолетних от контента для взрослых, ошибочно классифицировала их как взрослых примерно в 12% случаев. Учитывая, что каждую неделю около 100 миллионов пользователей младше 18 лет, это потенциально миллионы детей, которые могут ускользнуть от контроля каждую неделю.

Что произойдет дальше?

Компания OpenAI отложила запуск, не назвав новую дату, и заявила, что ей нужно больше времени для доработки интерфейса. Когда приложение все-таки выйдет, компания планирует ограничить режим для взрослых текстовым контентом, без эротических изображений, голосовых сообщений или видео.

Компания также заявила, что обучает своих моделей, чтобы отговаривать пользователей от установления эксклюзивных отношений с чат-ботом и напоминать им о необходимости строить отношения в реальном мире. Достаточно ли этого, чтобы заставить замолчать растущий хор внутренних и внешних критиков, покажет время.

Лично я хочу, чтобы модели ИИ держались как можно дальше от создания эротического контента до тех пор, пока не будут введены активные меры защиты. Мы уже видели, какой хаос устроил Grok, позволив пользователям раздевать кого угодно . Мы не хотим повторения чего-то подобного или даже худшего.

Статья "Внедрение эротического режима чата в ChatGPT рискует подвергнуть миллионы детей воздействию контента для взрослых" впервые появилась на сайте Digital Trends .