Искусственный интеллект значительно ускорил процесс программирования, но породил и собственную проблему.

Инструменты для программирования на основе ИИ должны были ускорить и упростить разработку программного обеспечения. Они это сделали, но, возможно, даже слишком хорошо. Люди пишут код быстрее, чем когда-либо прежде, и это создало целый ряд новых проблем для компаний.

По данным The New York Times , одна компания, работающая в сфере финансовых услуг, начала использовать Cursor, инструмент для программирования на основе искусственного интеллекта, и увеличила объем создаваемого кода с 25 000 до 250 000 строк в месяц. Это звучит как успех, но в результате образовался затор в миллион строк непроверенного кода.

«Они не справляются с огромным объемом поставляемого кода и ростом числа уязвимостей», — сказала Джони Клипперт, генеральный директор StackHawk, стартапа в области безопасности, сотрудничающего с компанией.

Проблема распространилась по всей Кремниевой долине. Компании сейчас производят больше кода, чем у них есть людей для его проверки, и этот разрыв становится угрозой безопасности.

Так в чём же проблема?

Специалист, отвечающий за выявление ошибок в коде, сгенерированном искусственным интеллектом, называется инженером по безопасности приложений. Таких специалистов катастрофически не хватает. «На планете недостаточно инженеров по безопасности приложений, чтобы удовлетворить потребности, которые есть только у американских компаний», — сказал Джо Салливан, советник Costanoa Ventures.

Проблема не только в нехватке персонала. Инструменты для разработки ИИ работают лучше на личных ноутбуках, чем на защищенных корпоративных серверах, а это значит, что инженеры загружают целые кодовые базы на личные устройства. Если ноутбук пропадает, то пропадает и много конфиденциальных данных.

Действительно ли увеличение использования ИИ — это решение проблемы?

Как и следовало ожидать, в Кремниевой долине так считают. Такие компании , как Anthropic, OpenAI и Cursor, уже разрабатывают инструменты проверки кода на основе ИИ, помогающие выявлять ошибки в коде, сгенерированном ИИ. Компания Cursor даже приобрела стартап, занимающийся проверкой кода, чтобы внедрить эту функцию в свой продукт.

Как выразился руководитель инженерного отдела Cursor: «Фабрика разработки программного обеспечения, можно сказать, рухнула. Мы пытаемся в некотором смысле перестроить ее части».

У меня есть сомнения. Да, в конечном итоге ИИ сможет выявлять ошибки в коде, но проверка человеком все равно будет необходима перед выпуском окончательной версии продукта. Недавно код ИИ вызвал сбой в работе Amazon , в результате чего было потеряно более 100 000 заказов и допущено 1,6 миллиона ошибок.

Ни одна компания не хочет, чтобы это произошло, и я не уверен, что проверка кода с помощью ИИ — это решение проблемы.