Политика здравоохранения, основанная на использовании искусственного интеллекта, лишает нуждающихся медицинской помощи в одной из беднейших стран мира.
Кения обещала расширить доступ к более доступному здравоохранению. Однако новое расследование показало, что её система, основанная на алгоритмах, усложняет жизнь тем, кому она должна была больше всего помогать. Согласно сообщениям The Guardian , Africa Uncensored и Lighthouse Reports , новая система социального здравоохранения Кении использует алгоритм машинного обучения для прогнозирования того, сколько люди должны платить за государственное медицинское страхование.
Система была впервые запущена в октябре 2024 года в рамках обещания президента Уильяма Руто расширить доступ к медицинскому обслуживанию для многочисленного неформального сектора экономики Кении.
Как алгоритм вредит кенийцам
Проблема заключается в том, как система рассчитывает финансовые возможности людей. В кенийской системе социального обеспечения используется косвенная проверка нуждаемости, метод, который оценивает доход на основе таких данных о домохозяйстве, как кровельные материалы, туалеты, скот, размер семьи и другие условия жизни. Данное расследование выявило, что система завышает доходы более бедных домохозяйств и занижает их для состоятельных граждан.
Один из волонтеров SHA рассказал о посещении домов в Найроби и о том, как люди, и без того испытывающие финансовые трудности с покупкой продуктов, получали надбавки, значительно превышающие их возможности. Согласно отчету, некоторым из них приходилось платить от 10% до 20% от их и без того небольшого дохода.
Когда законопроект препятствует лечению
Последствия реальны, и ситуация кажется критической. Кенийцы без частной медицинской страховки, которые не могут оплачивать страховые взносы по программе SHA, рискуют получить отказ в приеме в медицинские учреждения или столкнуться с огромными больничными счетами. В отчете приводятся свидетельства о тяжелобольных людях, которые не смогли получить лечение, потому что система заявила, что они должны больше, чем могут заплатить. Одна мать-одиночка сказала, что ее ежемесячный взнос составлял 3500 кенийских шиллингов, в то время как другие сообщили о значительном увеличении суммы, которую они платили ранее по старой системе. Таким образом, новая политика стоит жизней.
Хотя Руто описал систему как работающую на основе ИИ, в отчете отмечается, что она не использует генеративный ИИ в стиле ChatGPT. Она использует предиктивное машинное обучение, построенное на основе политического инструмента, существующего уже несколько десятилетий и давно подвергавшегося критике за неправильное определение того, кто имеет право на помощь. Многие называли эту систему несовершенной и несправедливой еще до ее внедрения.
Более 20 миллионов человек зарегистрированы в системе социального обеспечения, но только около 5 миллионов регулярно оплачивают страховые взносы. Больницы также сообщают о больших дефицитах, поскольку выплаты по страховым случаям остаются невыплаченными. В этом и заключается опасность алгоритмических систем социального обеспечения.