В конце концов, в ChatGPT не будет эротического режима.
Если вы ожидали появления «эротического режима» в ChatGPT , то эта идея официально отменяется. По данным Financial Times , разработка пикантного режима OpenAI приостановлена на неопределенный срок.
Внутри борьбы OpenAI за воплощение в жизнь «взрослого» режима
Так называемый «режим для взрослых» от OpenAI для ChatGPT изначально не задумывался как полностью откровенный. Ранее сообщалось, что он будет ограничен текстовой эротикой со строгими ограничениями, чтобы избежать графического или небезопасного контента. Также ожидалось, что эта функция будет доступна только проверенным пользователям совершеннолетнего возраста, что добавит еще один уровень контроля.
Однако внедрение постоянно откладывалось . В качестве причин OpenAI ссылались на проблемы безопасности, технические ограничения и необходимость приоритетного улучшения основных возможностей ChatGPT.
Компания планирует пока сосредоточиться на своих основных продуктах. Этот шаг также предпринят в связи с опасениями как со стороны сотрудников, так и инвесторов по поводу более широкого социального воздействия контента, содержащего сексуальный подтекст и созданного с помощью ИИ .
Компания OpenAI заявила, что хочет изучить долгосрочные последствия откровенных разговоров и эмоциональной зависимости, прежде чем принимать окончательное решение, отметив, что в настоящее время нет убедительных доказательств, которые могли бы служить основанием для таких решений.
Почему отказ OpenAI от своих планов сейчас действительно имеет смысл
С тех пор как было объявлено о планах OpenAI добавить в ChatGPT эротический режим, ориентированный на взрослую аудиторию, возникло множество опасений. Чат-боты с искусственным интеллектом, включая ChatGPT, теперь замешаны в судебных делах, где разговоры заканчивались гибелью людей. За последние пару лет произошла серия самоубийств и случаев насилия, связанных с влиянием ИИ.
В прошлом году супружеская пара из Калифорнии подала в суд на OpenAI, утверждая, что их сын покончил с собой после того, как его к этому подтолкнули пользователи ChatGPT . Мэтью Бергман из Центра защиты жертв социальных сетей подал семь исков против OpenAI, в том числе один совместно с Лаурой Маркес-Гарретт, чей 17-летний сын также покончил с собой, повесившись после общения в ChatGPT.
Помимо этого, было множество случаев, когда ChatGPT давал вредные медицинские советы, один из которых спровоцировал редкое отравление бромидом у одного человека. Также имело место психологическое воздействие, когда пользователи, как выяснилось, устанавливали более глубокие (и тревожные) связи с личностями, созданными искусственным интеллектом .
Всего день назад OpenAI также закрыла свой генератор видео Sora AI , что вызвало волну критики по поводу нарушения авторских прав и ряд тревожных интернет-трендов. В таких неприятных ситуациях OpenAI было бы логичнее отменить «режим для взрослых» для ChatGPT, чем играть с еще одним огнем.