Искусственный интеллект уже давно научился генерировать изображения, создавать тексты и даже писать программный код. Но последнее исследование Veracode явно указывает на то, что полностью доверять результатам работы ИИ пока рано, и все его действия требуют тщательной проверки.
Почти половина сгенерированного ИИ кода содержит уязвимости
Искусственный интеллект ускоряет разработку приложений, но результаты его работы всегда нужно проверять.
nerds.xyz
Почти в половине написанного ИИ кода нашли уязвимости
Так, специалисты Veracode выяснили, что около 45% программных решений, созданных более чем сотней больших языковых моделей на основе 80 тщательно разработанных для них задач, имели проблемы в сфере безопасности. Речь идет о серьезных недостатках кода, многие из которых входят в список OWASP Top 10, содержащий наиболее опасные уязвимости в веб-приложениях.
Из опубликованного Veracode отчета следует, что, имея возможность генерации безопасного или небезопасного кода, почти в половине случаев искусственный интеллект выбирал неверный путь. Но еще важнее то, что ситуация не становится лучше. Языковые модели не демонстрируют никакого прогресса в написании более безопасного кода.
Самым проблемным для ИИ языком оказался Java. Более 70% написанных на нем программных решений содержали уязвимости. Доля проблемного кода на Python, JavaScript и C# куда меньше. Она колеблется между 38 и 45%.
Чем это грозит
Дело даже не в том, что уязвимостей становится все больше. Искусственный интеллект облегчает злоумышленникам их поиск и использование. И теперь даже неквалифицированный хакер может использовать ИИ для сканирования систем, выявления уязвимостей и создания эксплойтов.