Искусственный интеллект сеет хаос среди администраторов Linux, заваленных потоком дублирующихся отчетов об ошибках.
Возможно, искусственный интеллект обнаруживает ошибки в Linux быстрее, чем люди могут их исправить.
В обновлении Linux 7.1-rc4 Линус Торвальдс заявил, что список уязвимостей безопасности ядра был завален сообщениями об ошибках, полученными с помощью ИИ , многие из которых являются дубликатами от пользователей, использующих аналогичные инструменты и обнаруживших одни и те же проблемы. Сам релиз выглядит стандартным: драйверы составляют примерно половину патча, а исправления для графических процессоров занимают ведущее место.
Более серьёзное предупреждение касается того, что происходит после того, как инструмент искусственного интеллекта обнаруживает возможную уязвимость. Торвальдс проводит грань между полезной работой, выполненной с помощью ИИ, и сообщениями, поступающими без проверки, контекста или исправлений. Эти слабые отчёты превращают сортировку ошибок в дополнительную работу для тех, кто поддерживает Linux.
Почему почтовый ящик постоянно переполнен
Linux не призывает разработчиков прекратить использование ИИ. Собственные рекомендации проекта оставляют ответственность за его реализацию на разработчике, а это значит, что работа с использованием ИИ по-прежнему должна следовать стандартным процедурам ядра.
Нарушение, выявленное автоматически, не всегда готово к действиям. Рецензентам все равно приходится проверять, можно ли его воспроизвести, сообщал ли кто-то о нем ранее, было ли оно исправлено ранее и относится ли оно к закрытому каналу безопасности. Одно расплывчатое утверждение может запустить цепочку обработки, последующих действий и исправлений.
Кто платит, когда ИИ пропускает домашние задания?
В первую очередь, расходы ложатся на плечи сопровождающих проекта. Каждой слабой работе все равно нужен человек, который ее прочитает, сравнит с существующими проектами и решит, к какому направлению ее следует отнести.
Эта проблема начинает проявляться не только в Linux. В отдельном конфликте в среде разработчиков открытого программного обеспечения Скотт Шамбо, сопровождающий Matplotlib, заявил, что ИИ-агент публично обрушился с критикой после того, как один из его вкладов в код был отклонен, превратив обычное решение по проекту в попытку зачистить репутацию. Linux сталкивается с более тихой версией того же давления: работа, созданная ИИ, поступает быстрее, чем волонтеры проекта могут ответственно ее выполнять.
Предупреждение Торвальдса звучит жестче, чем обычное примечание к релизу, потому что оно описывает проблему с рабочей силой, скрытую за автоматизацией. Искусственный интеллект снизил стоимость создания работы для сопровождающих, не снизив при этом стоимость ее решения.
Что потребителям следует посмотреть дальше
Потребители не воспримут это как мгновенный кризис безопасности устройств. Риск заключается в более медленной и хаотичной работе по обновлению программного обеспечения, особенно потому, что Linux используется в облачных сервисах, маршрутизаторах, телефонах, смарт-телевизорах и другом подключенном оборудовании.
Наилучшие результаты, полученные с помощью ИИ, могут помочь быстрее устранить реальные недостатки. Плохие же результаты могут затянуть процесс от обнаружения до исправления, заставляя разработчиков ядра удалять дубликаты и неясные утверждения до начала полезной работы.
Следующий важный момент — последуют ли другие проекты с открытым исходным кодом примеру Linux и установят ли более строгие правила для участия в разработке с помощью ИИ. ИИ может помочь обеспечить безопасность программного обеспечения, если люди предоставляют доказательства, контекст и исправления.