Проект энциклопедии Grokipedia Илона Маска вызывает опасения по поводу доверия и точности информации

Что произошло: Итак, новая энциклопедия Илона Маска на базе искусственного интеллекта Grokipedia уже попала в серьезную переделку.

• Недавно было опубликовано новое исследование учёных из Корнеллского технологического университета , и оно весьма разоблачительно. Они утверждают, что платформа переполнена ссылками на крайне ненадёжные и предвзятые источники.
• Grokipedia была запущена в прошлом месяце компанией Маска xAI, занимающейся разработкой искусственного интеллекта . Она должна была стать новым конкурентом Wikipedia , которую Маск и другие часто обвиняют в либеральной предвзятости.
• Но вот в чем загвоздка: исследование Корнелла показало, что Grokipedia не только заимствует большую часть текста прямо из Wikipedia, но и ссылается на источники, которые сама Wikipedia запретила как совершенно бесполезные.
• Самый шокирующий пример, который они обнаружили? В Grokipedia появилась статья о теории заговора «подсчёт жертв Клинтон». И на какой источник ссылались в поддержку этого давно опровергнутого утверждения? InfoWars . Да, тот самый InfoWars.

Почему это важно: Все это проливает яркий свет на огромную проблему этих новых информационных инструментов ИИ: похоже, у них нет никаких стандартов для их источников.

• Согласно исследованию, статьи на Grokipedia, которые не были просто скопированы из Wikipedia, в 3 раза чаще ссылались на ненадежный источник и в 13 раз чаще использовали источник, занесенный в черный список.
• Это действительно серьёзное дело. Подобная платформа искусственного интеллекта может масштабироваться и распространять подобные заговорщические материалы среди миллионов людей за доли секунды, и всё это без участия редактора-человека.

Почему это должно меня волновать: Мы все начинаем полагаться на инструменты ИИ, чтобы быстро получать информацию. Но в этом и заключается опасность.

• Когда вы запрашиваете у ИИ информацию, вы можете получить большую дозу вводящей в заблуждение, политически мотивированной информации и не иметь об этом ни малейшего представления.
• Это размывает грань между фактом и просто… чем-то, придуманным алгоритмом.
• Кроме того, стоит отметить, что Маск теперь контролирует несколько крупных информационных платформ — X (Twitter) и эту новую компанию, занимающуюся искусственным интеллектом. Это серьёзный контроль над тем, что люди видят и читают.

Что дальше: Маск, со своей стороны, уже объявил о ребрендинге Grokipedia в «Encyclopedia Galactica», назвав ее «научно-фантастической версией Александрийской библиотеки». (Да, действительно).

• Но, как отмечают эксперты, можно называть это как угодно. Без реальной ответственности и стремления использовать достоверные источники это будет лишь машиной по распространению дезинформации, а не по её исправлению.
• Тем временем Фонд Викимедиа (сторонники Википедии) опубликовал заявление, в котором, по сути, говорилось: «Видите? Вот почему мы придерживаемся нашей открытой модели, управляемой сообществом. Это единственный способ завоевать доверие».