Теперь в ChatGPT можно назначить имя человека, который будет следить за ситуацией, если что-то пойдет не так.

Чат-боты с искусственным интеллектом удивительно упростили общение на любые темы, включая самые сложные. Однако такая открытость всегда была палкой о двух концах. OpenAI предпринимает шаг для решения этой проблемы, предлагая новую функцию, которая позволяет привлечь к разговору доверенного человека, когда ситуация становится серьезной.

Компания внедряет новую функцию под названием «Доверенный контакт» , которая начинает появляться в настройках ChatGPT для пользователей старше 18 лет. Она позволяет пользователям указать одного человека, которого можно оповестить, если ChatGPT обнаружит серьезную проблему, связанную с самоповреждением.

Как работает функция «Доверенный контакт»?

Создание списка доверенных контактов необязательно, но если вы все же решите это сделать, убедитесь, что назначаемый вами контакт достиг 18 лет (или 19 лет в Южной Корее). После назначения контакта он получит приглашение с объяснением его роли, и у него будет одна неделя, чтобы принять его до того, как функция станет доступна. Если он откажется, вы можете выбрать другого человека.

Сама система оповещений не автоматизирована. Если системы ChatGPT помечают разговор как потенциально вызывающий опасения, чат-бот сначала сообщает пользователю, что его доверенный контакт может быть уведомлен, а также предлагает пользователю связаться напрямую, предложив несколько вариантов начала разговора. Затем небольшая группа специально обученных экспертов вмешивается, чтобы оценить ситуацию. Только если они подтвердят серьезный риск, контакт получает уведомление по электронной почте, SMS или через уведомление в приложении. Оповещение не содержит стенограмм чата или подробностей разговора. Оно просто сообщает, что произошло самоповреждение, которое может вызвать опасения, и просит контакт связаться с ним. OpenAI заявляет, что стремится завершить эту проверку менее чем за час.

Почему OpenAI добавляет это только сейчас?

Функция «Доверенные контакты» является частью более широкого набора функций безопасности на платформе. Ранее OpenAI добавила функции, позволяющие родителям получать оповещения, когда связанный с подростком аккаунт проявляет признаки беспокойства . «Доверенные контакты» — это расширение этой же функции, предназначенное для взрослых. Сообщается, что она была разработана с учетом мнения клиницистов, исследователей и организаций в области психического здоровья, включая Американскую психологическую ассоциацию.

При этом стоит отметить, что функция «Доверенный контакт» не заменяет горячие линии помощи в кризисных ситуациях, службы экстренной помощи или профессиональную психиатрическую помощь. ChatGPT по-прежнему будет направлять пользователей к этим ресурсам при необходимости. Пользователи могут удалить или изменить свой «Доверенный контакт» в любое время, а контакты могут удалить себя сами по своему желанию.

В действительности ChatGPT используется для очень личных разговоров , независимо от того, планировала это компания OpenAI или нет. Добавление такой функции, как «Доверенный контакт», — это шаг в правильном направлении, а также признание того, что возможности чат-бота ограничены.