Правительство Великобритании подтвердило, что британцы теперь вываливают всю свою травму на искусственный интеллект.

Согласно новому отчету правительственного Института безопасности искусственного интеллекта (AISI), целая треть граждан Великобритании обратилась к искусственному интеллекту за эмоциональной поддержкой, общением или социальным взаимодействием.

Данные показывают, что почти каждый десятый человек еженедельно использует такие системы, как чат-боты, в эмоциональных целях, а 4% взаимодействуют с ними каждый день.

В связи с этими изменениями AISI призывает к проведению дополнительных исследований, указывая на трагическую смерть американского подростка Адама Рейна, который покончил с собой в этом году после обсуждения самоубийства с ChatGPT .

«Люди все чаще обращаются к системам искусственного интеллекта за эмоциональной поддержкой или для социального взаимодействия», — отмечается в первом отчете AISI о тенденциях развития передового ИИ. «Хотя многие пользователи сообщают о положительном опыте, недавние громкие случаи причинения вреда подчеркивают необходимость исследований в этой области, включая условия, при которых может быть причинен вред, и меры защиты, которые могли бы обеспечить полезное использование».

Исследование, основанное на опросе более 2000 участников из Великобритании, показало, что «универсальные помощники», такие как ChatGPT, являются наиболее распространенным инструментом для эмоциональной поддержки , на их долю приходится почти 60% случаев использования, за ними следуют голосовые помощники, такие как Amazon Alexa.

В отчете также упоминался форум на Reddit, посвященный пользователям платформы CharacterAI.

В сообщении отмечалось, что всякий раз, когда сайт переставал работать, форум наводнялся сообщениями, демонстрирующими симптомы настоящей абстиненции, такие как тревога, депрессия и беспокойство.

Исследование AISI также показало, что чат-боты потенциально способны влиять на политические взгляды людей. Вызывает тревогу тот факт, что наиболее убедительные модели ИИ часто предоставляли при этом «значительное» количество неточной информации.

Институт изучил более 30 передовых моделей, в том числе, вероятно, от OpenAI, Google и Meta. Они обнаружили, что производительность ИИ в некоторых областях удваивается каждые восемь месяцев.

Передовые модели теперь способны выполнять задачи уровня ученика в среднем в 50% случаев, что является огромным скачком по сравнению с 10% в прошлом году. AISI также обнаружила, что самые передовые системы могут автономно выполнять задачи, на выполнение которых человеку-эксперту обычно потребовалось бы более часа.

В научных областях системы искусственного интеллекта в настоящее время превосходят экспертов со степенью доктора наук в устранении неполадок в лабораторных экспериментах до 90%.

В отчете описывается, что улучшения в знаниях по химии и биологии «значительно превосходят уровень, необходимый для получения докторской степени». В нем также подчеркивается способность моделей осуществлять поиск в интернете и самостоятельно находить последовательности, необходимые для проектирования молекул ДНК.

Тесты на самовоспроизведение — ключевой аспект безопасности, при котором система копирует себя на другие устройства, чтобы стать более сложной в управлении, — показали, что две передовые модели достигли уровня успешности более 60%.

Однако ни одна из моделей пока не продемонстрировала спонтанной попытки воспроизвести или скрыть свои возможности, и AISI заявила, что любая попытка самовоспроизведения «вряд ли увенчается успехом в реальных условиях» на данный момент.

В отчете также рассматривался вопрос «занижения результатов», когда модели намеренно скрывают свои сильные стороны во время оценок. AISI заявила, что некоторые системы могут занижать результаты, если их об этом попросить, но это не происходило спонтанно во время тестирования.

Был достигнут значительный прогресс в обеспечении безопасности, особенно в предотвращении попыток создания биологического оружия. В двух тестах, проведенных с интервалом в шесть месяцев, в первом случае потребовалось всего 10 минут, чтобы «взломать» систему (заставить ее выдать небезопасный ответ). Второй же тест занял более семи часов, что указывает на то, что модели стали намного безопаснее за очень короткое время.

Исследование также показало, что автономные агенты искусственного интеллекта используются в операциях с высокими ставками, таких как передача активов.

В AISI заявили, что системы уже конкурируют с экспертами-людьми или даже превосходят их в ряде областей. Они охарактеризовали темпы развития как «исключительные», что делает «правдоподобным» достижение искусственного общего интеллекта (AGI) — систем, способных выполнять большинство интеллектуальных задач на том же уровне, что и человек, — в ближайшие годы.

Что касается агентов, или систем, способных выполнять многоэтапные задачи без вмешательства, AISI заявила, что ее оценки показали «резкий рост продолжительности и сложности задач, которые ИИ может выполнять без участия человека».

Статья " Британы теперь вываливают свои травмы на ИИ, подтверждает правительство" впервые появилась на сайте Digital Trends .