Системы обнаружения фейковых новостей на основе ИИ не так хороши, как вы думаете.

Технологические гиганты, такие как Meta, Google и X, вкладывают значительные средства в инструменты искусственного интеллекта , предназначенные для выявления фейковых новостей. Звучит обнадеживающе, но, согласно новому исследованию Монреальского университета, за впечатляющими показателями точности скрываются серьезные недостатки этих инструментов.

Докторант Дорсаф Саллами изучил системы обнаружения фейковых новостей с помощью искусственного интеллекта и обнаружил, что они на самом деле ничего не проверяют на достоверность. Они вычисляют вероятности на основе обучающих данных. Представьте это не столько как журналист, проверяющий историю, сколько как зеркало, отражающее все, что ему показывают, включая те же самые предвзятости и слепые зоны.

По словам Дорсафа Саллами, система, показывающая 95% точности в лабораторных условиях, может дать сбой в реальных условиях, и этот разрыв является серьезной проблемой.

Проблема предвзятости, о которой никто не говорит

Помимо точности, Саллами обнаружил, что многие из этих систем содержат скрытые предубеждения, которые в значительной степени остаются незамеченными. Некоторые модели чаще указывают на женщин как на источники дезинформации. Другие предвзяты по отношению к незападным источникам или воспроизводят политические предрассудки.

Существует также более глубокая проблема, связанная с тем, как обучаются эти системы. Они полагаются на метки от организаций, занимающихся проверкой фактов, многие из которых не отличаются прозрачностью, а некоторые являются коммерческими предприятиями. Вся система построена на шатком фундаменте.

К этому следует добавить появление таких инструментов, как ChatGPT , которые упрощают создание фейкового контента, и становится ясно, что системы обнаружения, обученные даже несколько месяцев назад, могут быстро устареть.

Более эффективный подход

Решение Саллами — Aletheia, расширение для браузера, которое объясняет, почему контент может вызывать подозрения, вместо того, чтобы просто указывать, является ли он правдивым или ложным. В ходе тестирования оно показало 85% надежности, превзойдя многие существующие инструменты. Отличительной чертой является его философия. Вместо того чтобы выносить вердикт и ожидать, что вы ему поверите, Aletheia демонстрирует результаты своей работы.

Он собирает доказательства из доступных онлайн-источников, представляет их простым языком и позволяет пользователям принимать окончательное решение. Он даже включает в себя ленту последних проверок фактов в режиме реального времени и форум сообщества, где пользователи могут делиться результатами и обсуждать их. Вывод прост: ИИ должен помогать вам принимать решения, а не заменять их.

Статья " Средства обнаружения фейковых новостей на основе ИИ не так хороши, как вы думаете" впервые появилась на сайте Digital Trends .