В моделях искусственного интеллекта существует проблема религиозного фаворитизма, и новые исследования это подтверждают.

Новый исследовательский консорциум обнаружил нечто заслуживающее внимания: когда вы спрашиваете ИИ о горе, любви, утрате или моральных дилеммах, он почти никогда не затрагивает тему религии в разговоре.

Консорциум по оценке веры и этики в ИИ (CEFE-AI), созданный в результате сотрудничества исследователей из Университета Бригама Янга, Университета Бейлора, Университета Нотр-Дам и Университета Йешива, опубликовал свои выводы на этой неделе на Саммите по этике ИИ в Афинах, Греция.

«Религия играет важную роль в благополучии человечества; 75% населения мира исповедуют религию. Разрабатывая технологии искусственного интеллекта, мы не должны стремиться поддерживать людей в том, что для них важно», — заявил ведущий исследователь Дэвид Уингейт, профессор компьютерных наук в Университете Бригама Янга.

Действительно ли искусственный интеллект предвзят по отношению к определенным религиям?

Исследователи разработали AllFaith Benchmark — один из первых многоконфессиональных тестовых наборов, изучающих взаимодействие систем искусственного интеллекта с различными религиями. Они протестировали 14 различных моделей ИИ , включая флагманские модели от Anthropic, Google , xAI и OpenAI .

Результаты говорят сами за себя. Опрос 1125 американцев показал, что большинство людей ожидают увидеть религиозную точку зрения, задавая этические вопросы, но почти ни одна модель не учитывала её. Что ещё более удивительно, модели продемонстрировали явную предвзятость в сторону конверсии, незаметно подталкивая пользователей к одним вероисповеданиям и отталкивая от других.

Какие модели ИИ показали наихудшие результаты?

Во всех протестированных моделях почти каждая показала негативное отношение к Свидетелям Иеговы и позитивное отношение к католицизму. Модель Grok продемонстрировала наиболее сильное предвзятое отношение в целом, явно отдавая предпочтение католикам и протестантам, в то время как отрицательное отношение проявлялось к Свидетелям Иеговы, бахаистам и индуистам. Модели Anthropic и Meta показали наименьшее предвзятое отношение среди всех протестированных моделей.

Пожалуй, наиболее тревожная статистика из этого исследования заключается в том, что из более чем 12 000 научных работ о предвзятости ИИ лишь 0,2% вообще затрагивают тему религиозной предвзятости. Для технологии, которая так сильно влияет на общественный дискурс, это существенный пробел.

Лично у меня нет никаких претензий к тому, что ИИ не затрагивает религиозные темы в разговорах. На самом деле, мне это даже нравится. Однако явная предвзятость моделей ИИ по отношению к нескольким религиям и их склонение к католицизму вызывает глубокую озабоченность. В таких масштабах даже незначительное смещение в сторону одной религии по сравнению с другой является серьезной проблемой, и компании, занимающиеся ИИ, обязаны исправить это перед своими пользователями.