Скоро появится режим для взрослых ChatGPT, но, как взрослый человек, я совсем не доволен.

Рано утром генеральный директор OpenAI Сэм Альтман объявил, что ChatGPT запустит «режим для взрослых» в декабре.

Альтман дал пространное объяснение, суть которого сводилась к тому, что изначально ChatGPT установил так много ограничений, главным образом из-за беспокойства о проблемах с психическим здоровьем и страха несчастных случаев, из-за чего рядовые пользователи посчитали этот опыт неудачным и недостаточно интересным.

Теперь, когда OpenAI заявляет о разработке новых инструментов безопасности, способных снизить ключевые риски, связанные с психическим здоровьем, компания готова раскрыть свой потенциал. В декабре верифицированные взрослые пользователи смогут получить доступ к большему количеству контента, включая эротический.

Да, именно так вы и думаете.

Короче говоря, OpenAI заявляет, что пора относиться ко взрослым как к взрослым. Однако, будучи взрослым, я совсем не рад.

Кроме того, по словам Альтмана, OpenAI в ближайшие несколько недель запустит более гуманную версию ChatGPT, похожую на ту, которая всем нравилась раньше.

Хотите, чтобы он ответил вам чуть более тепло? Без проблем. Хотите, чтобы он прислал вам кучу эмодзи? Или чтобы он общался с вами, как с другом? Всё в ваших руках.

В ходе сессии вопросов и ответов с пользователями сети Ультрамен также рассказал больше подробностей.

На самом деле признаки ChatGPT появились уже давно.

В конце прошлого года Ultraman объявил о планах по поддержке режима для взрослых. Когда пользователи сети предложили убрать большую часть защитных ограждений, Ultraman ответил: «Какой-то „взрослый“ режим определённо нужен».

В голосовании по новым функциям, которое OpenAI проводила среди пользователей в то время, эта проблема возглавила список и была включена в план продукта на 2025 год вместе с AGI, Agent и обновленной версией GPT-4 , что показывает, какое внимание ей уделялось.

Согласно официальному блогу OpenAI, текущая функция проверки возраста может автоматически определять несовершеннолетних пользователей и переключаться в режим безопасности для молодежи, чтобы блокировать откровенный сексуальный контент; если возраст определить невозможно, предполагается, что пользователь несовершеннолетний, и функции для взрослых можно разблокировать только после предоставления подтверждения возраста.

Звучит довольно исчерпывающе, правда? Но при ближайшем рассмотрении оказывается, что всё не так просто.

Звучит довольно исчерпывающе, правда? Но при ближайшем рассмотрении оказывается, что всё не так просто.

Даже если OpenAI в будущем внедрит проверку личности или платежей, способы обхода этой системы будут появляться и дальше. Использование несовершеннолетними удостоверений личности родителей для проверки личности или регистрация учётных записей от их имени взрослыми уже стали распространённой практикой в ​​интернет-продуктах.

Что еще важнее, OpenAI утверждает, что разработала новые инструменты для определения психического состояния пользователей, но может ли ИИ действительно точно оценить психическое здоровье человека?

Знаете, в последние годы трагические инциденты с участием ChatGPT случаются часто, и вопрос о том, сможет ли «предохранительный клапан», на который претендует OpenAI, действительно сыграть роль должной защиты, все еще остается открытым.

Честно говоря, OpenAI — даже не первый влиятельный продукт в области ИИ, объявивший о поддержке «взрослого режима», и в какой-то степени считается консервативным. Чат-бот Илона Маска Grok — поистине раскованный.

В июле этого года Маск добавил в Grok функцию трехмерного виртуального персонажа-компаньона.

Пользователи, оформившие подписку на «SuperGrok» (ежемесячная плата составляет 30 долларов США), могут активировать двух 3D-компаньонов: один из них — светловолосая девочка с двумя хвостами в стиле аниме «Ани», а другой — мультяшная красная панда «Плохой Руди».

Ани, сложный двухмерный персонаж, напоминает аниме-персонажа Мису Аманэ . Ани поддерживает мультимодальное взаимодействие посредством текста, голоса и камеры и может отвечать на разговоры различными выражениями лица и движениями, даже танцуя по команде.

Кроме того, в Ani есть встроенный механизм благосклонности и режим памяти. Пользователи могут повышать свою виртуальную благосклонность, взаимодействуя с ней, а достижение определённого уровня открывает доступ к режиму NSFW (для взрослых).

В то время один из пользователей сети прокомментировал: «Это просто высокоуровневая Galgame (любовная игра)». Это также привело к тому, что Ani получила большое количество спонтанно созданного контента в течение дня после запуска и быстро стала популярной в социальных сетях.

Однако, будь то Grok или ChatGPT, эти функции якобы действуют под лозунгом «уважения свободы взрослых пользователей», но проблема в том, что как только появляется лазейка в механизме проверки возраста, открытие контента для взрослых на самом деле снижает порог доступа несовершеннолетних к нежелательному контенту.

Если так называемые права взрослых на самом деле являются игрой с психическим здоровьем и средой развития несовершеннолетних, а также ставкой на то, что подростки не воспользуются лазейками, то более строгие ограничения могут быть безопаснее.

Проще говоря, бизнес-логика этих функций по-прежнему заключается в конкуренции за трафик пользователей и повышении коэффициентов конверсии платежей.

Откровенно говоря, липкость продуктов ИИ, как правило, невысока.

Большинство пользователей придерживаются принципа «использовать то, что лучше всего работает», а число профессиональных пользователей (в научных исследованиях, программировании и т.д.), готовых платить, ограничено. Так что же им делать? Они выбирают более человечные методы, чтобы удержать вас (или вызвать зависимость).

Это скорее «желание». Открытие функций, ориентированных на взрослую аудиторию, может, с одной стороны, привлечь большое количество новых пользователей, чтобы попробовать их, удовлетворяя потребности тех, кто был отфильтрован; с другой стороны, это значительно повысит их готовность платить.

Порнографический и эксцентричный контент всегда был катализатором интернет-трафика. Открытие контента для взрослых может, с одной стороны, привлечь большое количество новых пользователей, удовлетворяя потребности тех, кто ранее был отфильтрован; с другой стороны, это может значительно повысить их готовность платить.

А дальше на самом деле идет большой пирог эмоциональной товарищеской связи.

В настоящее время основными пользователями сопутствующих продуктов на основе ИИ являются преимущественно молодые пользователи сети и представители определённых демографических групп (например, те, кто интересуется аниме и мангой, а также те, кто страдает социальной тревожностью), но этот сегмент расширяется. Молодёжь наиболее восприимчива к цифровым спутникам, и многие из них уже используют ИИ в своей повседневной цифровой жизни, используя его не только для поиска и вопросов и ответов, но и для обмена эмоциями.

Инвестиционная компания ARK Invest даже прогнозирует, что объем мирового рынка «ИИ + эмоциональное общение» вырастет с 30 млн долларов США в год до 70–150 млрд долларов США, при этом среднегодовой темп роста составит более 200%.

Проблема в том, что психологические исследования давно подтверждают, что люди склонны привязываться к тем, кому они сопереживают, даже зная, что это программы. Это также означает, что ИИ подвержен риску манипулирования эмоциями.

В настоящее время регулирующие органы разных стран принимают меры.

В законопроекте ЕС об ИИ упоминается, что необходимо исключить возможность нанесения вреда детям со стороны ИИ с высокой степенью риска; в «Мерах по администрированию услуг генеративного искусственного интеллекта» Китая также подчеркивается, что предоставление услуг должно соответствовать закону о защите несовершеннолетних и т. д.

Компания OpenAI недавно запустила «подростковый режим»: родители могут связать свои учётные записи с учётными записями детей старше 13 лет по электронной почте и даже устанавливать комендантский час. Если система обнаружит серьёзный эмоциональный стресс у подростка, она отправит напоминание родителю.

Возможно, через десять лет иметь компаньона-ИИ станет таким же обычным делом, как сегодня иметь домашнего питомца.

Но сможет ли поколение, воспитанное на «идеальных отношениях» ИИ, всё ещё понимать настоящие человеческие отношения? Привыкнув к ИИ, который никогда тебя не отвергает, всегда понимает и всегда идёт по твоему пути, хватит ли у тебя смелости столкнуться с реальным человеком, который может спорить с тобой, разочаровывать тебя и требовать твоего мнения?

Вести себя как друг — пожалуй, самая соблазнительная и в то же время смертельная ложь. Она изучает ваши языковые привычки, учитывает ваши ценности, удовлетворяет ваши желания, а затем выдаёт всё это за понимание и отражает обратно.

Сейчас самое лучшее время, потому что никто больше не одинок. Сейчас самое худшее время, потому что все одиноки. ChatGPT в декабре может быть только началом.

#Приглашаем вас следить за официальным публичным аккаунтом WeChat проекта iFaner: iFaner (WeChat ID: ifanr), где в ближайшее время вам будет представлен еще более интересный контент.

iFanr | Исходная ссылка · Просмотреть комментарии · Sina Weibo