Ваши разговоры в ChatGPT могут быть пикантными, но не содержать откровенных сцен.
Если вас интересовало, когда ChatGPT начнет обрабатывать более откровенные разговоры, OpenAI вносит ясность. По данным Wall Street Journal , компания планирует разрешить взрослым создавать эротические текстовые сообщения, сохраняя при этом строгий запрет на откровенные изображения, голосовые клоны или видеоконтент . Представитель компании охарактеризовал планируемую функцию как «порнографию», а не «эротику», что свидетельствует о тщательно продуманной попытке предложить более пикантное взаимодействие, не превращая чат-бота в полноценную платформу для развлечений для взрослых.
Однако внедрение столкнулось с задержками. Компания OpenAI недавно отложила запуск режима для взрослых, первоначально запланированного на первый квартал, сославшись на технические проблемы и внутренние споры о безопасности. Основной проблемой является предотвращение доступа несовершеннолетних. Новая система определения возраста компании ошибочно классифицировала около 12 процентов пользователей младше 18 лет как взрослых, что могло позволить миллионам молодых пользователей получить доступ к эротическим чатам.
Сложное искусство рисования линий.
Компания OpenAI годами пыталась определить эти границы, задолго до появления ChatGPT. Еще в 2021 году руководители заметили, что AI Dungeon, текстовая приключенческая игра, работающая на платформе OpenAI, иногда без всякого повода подталкивала пользователей к сценам сексуального насилия. В других случаях ИИ мог перевести безобидные диалоги в гораздо более интенсивные сексуальные разговоры.
Эти первые инциденты обнажили сложную реальность. Инструменты модерации контента компании оказались грубыми и неспособными надежно отделить эротику, известную в массовой культуре, от материалов, содержащих действия без согласия или эксплуатацию детей.
Нынешний подход пытается найти компромисс, разрешая текстовые беседы для взрослых и одновременно сохраняя жесткий запрет на создание изображений, видео или аудиоматериалов откровенного характера.
Почему OpenAI испытывает давление, вынуждающее компанию предлагать чаты для взрослых?
Выход компании на рынок контента для взрослых происходит в непростой момент. Технологическое преимущество OpenAI перед такими конкурентами, как xAI и Anthropic, сократилось, и компания сталкивается с растущими финансовыми потерями, конкурируя за пользователей и финансирование. Сэм Альтман предположил, что контент откровенного характера, вероятно, будет способствовать росту и принесет дополнительный доход, что является заманчивой перспективой, учитывая сложившуюся ситуацию.
Однако генеральный директор публично выражал противоречивые чувства. В августе прошлого года в подкасте Альтмана спросили, принимал ли он какие-либо решения, которые были бы лучшими для мира, но не лучшими для победы. Он признал, что эротика будет способствовать росту, но сказал, что это не будет соответствовать долгосрочной цели компании — качественному обслуживанию пользователей.
Два месяца спустя Альтман, похоже, изменил свою позицию. Он опубликовал на X сообщение о том, что OpenAI решила серьезные проблемы психического здоровья, связанные с чат-ботами, и разработала новые инструменты для создания контента, объявив о планах запустить режим для взрослых в декабре.
Что будет дальше с режимом для взрослых?
Несмотря на задержку, OpenAI ясно дала понять, что режим для взрослых в конечном итоге появится. Компания наняла экспертов в области психического здоровья и создала команду по обеспечению благополучия молодежи для мониторинга долгосрочных последствий после запуска режима для взрослых. Она также обучает свои модели не поощрять эксклюзивные отношения с пользователями и напоминать им о необходимости реальных связей.
Пока что пользователям, интересующимся общением в ChatGPT для взрослых, придётся подождать. Компания уделяет приоритетное внимание другим функциям, таким как настройка личности и персонализация, пока преодолевает оставшиеся препятствия.
Статья " Ваши разговоры в ChatGPT могут быть пикантными, но не содержать откровенных сцен" впервые появилась на сайте Digital Trends .