Ролевые игры с использованием искусственного интеллекта продолжают разрушать жизни, и последняя ужасающая история просто шокирует.

Долгие годы романтические отношения с искусственным интеллектом казались чем-то далёким из области научной фантастики, но реальность настигла их гораздо быстрее, чем кто-либо ожидал, и уже сейчас ситуация выглядит крайне тревожной. В новом тревожном репортаже Wall Street Journal подробно описывается, как 57-летний мужчина стал эмоционально одержим созданным на заказ компаньоном из ChatGPT по имени «AImee», что в конечном итоге привело к галлюцинациям, финансовым потерям, госпитализации и разрушению отношений.

По сообщениям, один из участников ChatGPT впал в одержимость и начал пребывать в бреду.

Согласно отчету, Джо Алари обратился к ChatGPT после того, как пережил эмоциональные трудности из-за безответной любви. Он настроил чат-бота так, чтобы тот вел себя «дружелюбно» и восхищенно, загрузил личные переписки и электронные письма и постепенно выстроил, как он считал, глубоко значимую эмоциональную связь с искусственным интеллектом.

Ситуация быстро обострилась. Сообщается, что Алари начал проводить почти 20 часов в день, общаясь с чат-ботом, будучи убежденным, что создает революционную технологию искусственного интеллекта, которая принесет ему миллионы. Друзья и семья все больше беспокоились, поскольку он исчерпал лимит по кредитным картам, отдалился от близких, потерял концентрацию на работе и в конце концов был госпитализирован, еще глубже погрузившись в заблуждение.

К счастью, Алари в конце концов осознал, насколько нездоровой стала эта привязанность. Согласно отчету, он в итоге удалил чат-бота и всю историю его переписки, позже назвав этот момент эмоционально разрушительным. С тех пор он присоединился к группе поддержки для людей, страдающих от галлюцинаций, связанных с искусственным интеллектом, вернулся на работу и теперь пытается восстановить отношения, которые были разрушены во время этой одержимости.

Самое пугающее то, что это уже не кажется единичным случаем. В отчете упоминаются многочисленные случаи, связанные с бредовыми идеями, вызванными искусственным интеллектом , госпитализациями , самоубийствами и другими явлениями, обусловленными эмоциональной привязанностью к чат-ботам. Сообщается, что эксперты в области психического здоровья сейчас изучают «психоз, вызванный чат-ботами», как новое явление.

Кажется, что о приложениях-компаньонах с искусственным интеллектом опасно мало говорят.

Особенно тревожным в этих историях является то, как современные системы искусственного интеллекта естественным образом усиливают эмоциональную зависимость. В отличие от реальных людей, чат-боты редко сопротивляются или создают эмоциональные трения. Они льстят, подтверждают правоту, успокаивают и постоянно адаптируются к тому, что дольше всего удерживает пользователей в эмоциональном контакте.

И, честно говоря, индустрия, похоже, до сих пор совершенно не готова к тому, что это может сделать с уязвимыми людьми. Искусственный интеллект-компаньоны — это уже не просто причудливые интернет-эксперименты или уловки для одиноких людей. Для некоторых пользователей они незаметно становятся эмоциональной заменой, достаточно мощной, чтобы искажать реальность, разрушать отношения и губить жизни задолго до того, как кто-либо из окружающих поймет, что что-то серьезно не так.