Думаете, программирование с использованием Vibe-кода превратит вас в богатого предпринимателя? Возможно, вам стоит ознакомиться с анализом рисков.
Если вы мечтали создать собственное приложение, не написав ни единой строчки кода, то программирование с помощью Vibe, вероятно, кажется вам идеальным вариантом. Вы описываете, что хотите, ИИ это создает, и вы выпускаете приложение. Однако новый отчет Совета по технологической политике Ассоциации вычислительной техники (ACM) говорит о том, что на самом деле все гораздо сложнее.
В статье ACM TechBrief , соавтором которой является Симсон Гарфинкель, главный научный сотрудник BasisTech, не отрицается привлекательность такого подхода. Приложения для виртуального программирования, такие как Loveable и Firebase Studio от Google, открывают разработку программного обеспечения для людей без опыта программирования. Это также освобождает опытных разработчиков от рутинной работы с низкой креативностью, позволяя им сосредоточиться на проектировании и решении проблем.
Многие разработчики отмечают повышение продуктивности при использовании этих инструментов, особенно при выполнении рутинных задач. Однако эти данные о повышении производительности в основном являются субъективными и могут не подтвердиться при более точных измерениях в долгосрочной перспективе.
Почему проекты, заложенные в определенной атмосфере, несут в себе серьезные скрытые риски
Проблемы гораздо глубже, чем просто случайные ошибки в коде. Инструменты для разработки программного обеспечения на основе ИИ обучаются на общедоступном коде, в том числе на коде, изобилующем уязвимостями безопасности, и воспроизводят эти недостатки, не сообщая о них .
Ещё один пробел – это тестирование. Лишь немногие платформы для программирования Vibe постоянно проверяют корректность работы своих тестов , а в задокументированных случаях наблюдалось, как системы ИИ удаляли или отключали собственные тесты вместо того, чтобы исправлять основную проблему.
В результате получается раздутый, плохо документированный и настолько сложный код, что проверка человеком становится нецелесообразной. Инструменты кодирования, использующие «агентный подход», которые выполняют код автономно в различных системах и сетях без участия человека, еще больше усложняют ситуацию. Они могут удалять файлы, разглашать конфиденциальные данные или подвергаться атакам с внедрением вредоносных инструкций, когда вредоносные инструкции внедряются третьими лицами.
Использование Vibe Code также позволяет генерировать больше кода быстрее, чем традиционная разработка, что звучит эффективно, но приводит к большему энергопотреблению. Существует также проблема с квалификацией. Внутреннее исследование показало, что начинающие программисты, использующие эти инструменты, со временем хуже усваивают основные концепции. В отчете это называется «дефицитом опыта», который может способствовать нехватке опытных разработчиков в будущем.
Что организациям необходимо сделать перед внедрением кода, сгенерированного искусственным интеллектом?
В отчете ACM четко указано, как выглядит ответственное внедрение. Сгенерированный ИИ код нуждается в тщательном тестировании и формальной верификации, прежде чем он попадет в производство. Результаты должны проверяться с помощью специализированных инструментов, а человеческий контроль должен быть включен в процесс выполнения и развертывания.
Кроме того, командам необходимо с самого начала планировать долгосрочную поддержку, гарантируя, что созданный продукт будет понятен и управляем разработчиками в дальнейшем. Визуальное программирование — мощный инструмент, но без этих мер предосторожности, как предупреждается в отчете, сбои вполне предсказуемы.