Новое исследование предупреждает, что эмоциональная связь, возникающая при общении с использованием ИИ, может быть глубже, чем при разговоре с человеком.

Новое исследование предполагает, что эмоциональная связь, возникающая при общении с ИИ, может быть сильнее, чем при общении с человеком, если чат построен таким образом, чтобы быстро установить личный контакт. В структурированных онлайн-переписках люди иногда сообщали, что чувствовали себя ближе к ответам, написанным ИИ, чем к ответам, написанным реальными людьми.

Исследователи из университетов Фрайбурга и Гейдельберга провели два двойных слепых рандомизированных исследования с участием 492 человек, используя 15-минутную текстовую версию процедуры «Быстрые друзья» — формат, разработанный для ускорения установления контакта с незнакомцем.

Вся загвоздка в восприятии. Наиболее сильный эффект наблюдался, когда ИИ представляли как человека, и он исчезал, когда люди начинали верить, что разговаривают с ИИ.

Они проверили уровень близости за 15 минут.

Участники отвечали на заданные вопросы в течение отведенного времени, постепенно становясь все более личными. После каждого вопроса появлялся ответ в чате, либо сгенерированный большой языковой моделью, воспроизводящей вымышленного персонажа, либо написанный реальным человеком, ответившим на тот же набор вопросов.

В первом исследовании все считали собеседника человеком, даже когда это было не так. В самых личных вопросах показатели близости были выше после ответов ИИ, чем после ответов человека. В непринужденной беседе такого эффекта не наблюдалось.

Скажите людям, что это искусственный интеллект, и связь ослабнет.

Второе исследование проверяло, что изменилось, когда люди поверили, что собеседник в чате — искусственный интеллект. Связь не исчезла, но показатели близости снизились при использовании термина «ИИ» по сравнению с вариантом, когда собеседником был человек.

Уровень прилагаемых усилий также снизился. Люди писали более короткие ответы, когда думали, что другая сторона — искусственный интеллект, а более длинные ответы в целом коррелировали с большей степенью близости. Это указывает на недостаток мотивации, а не на отсутствие эмоциональной лексики.

Самое ужасное в том, как это происходит.

В статье не утверждается, что ИИ что-либо чувствует. В ней показано, как система может создавать ощущение близости, и эта связь устанавливается с самораскрытием. В более личных взаимодействиях ИИ, как правило, делился большим количеством личных подробностей, а более высокий уровень самораскрытия со стороны партнера предсказывал более сильное ощущение близости.

В этом и заключается риск, и привлекательность. Бот-компаньон, настроенный на создание атмосферы доверия, может быстро и масштабно активировать знакомые сигналы привязанности, особенно если он представлен как человек. Тем не менее, это был текстовый чат, ограниченный по времени и построенный на основе сценария, способствующего сближению, поэтому он не доказывает, что тот же эффект сохраняется в сложных, долгосрочных отношениях. Если вы используете чат-бота для поддержки , выбирайте того, кто открыто заявляет о своей функции, и держите под рукой вариант с живым человеком.

Статья "Эмоциональная связь с ИИ может быть глубже, чем человеческий разговор, предупреждает новое исследование" впервые появилась на сайте Digital Trends .