Програмният код, създаден от AI, съдържа повече уязвимости

AI системите за генериране на код стават все по-популярни, но медалът има и обратна страна
(снимка: CC0 Public Domain)

Програмистите, които използват системи с изкуствен интелект (AI) за писане на код, е по-вероятно да създадат приложения с уязвимости, сочи проучване на учени от Станфордския университет. Според тях, системите за генериране на код трябва да се третират с повишено внимание.

Изследването се базира на Codex – AI система за генериране на код, разработена от лабораторията OpenAI. В проекта са участвали 47 разработчици – от студенти до специалисти с дългогодишен опит, отбелязва TechCrunch. Те са използвали платформата Codex за решаване на проблеми със сигурността и езици за програмиране Python, JavaScript и C.

Оказва се, че програмистите, които използват Codex в работата си, са по-склонни и да предлагат неправилни и опасни решения в сравнение с контролната група разработчици. Нещо повече, те считат своите решения за по-напреднали по отношение на киберсигурността, в сравнение с решенията на специалистите от контролната група.

Авторите на изследването подчертават, че не възнамеряват да настройват общността на разработчиците срещу Codex и други AI системи за генериране на код, но според тях, подобни системи е по-добре да се използват при решаване на проблеми, които не са свързани с висок риск.

Като решение на проблема учените предлагат създаване на механизми за анализ на предложения от AI системите код, както и подсилване на настройките за сигурност по подразбиране в криптографските библиотеки.

В допълнение, генераторите на код често се обучават на проекти с ограничен лиценз и след това предлагат решения от кодовата база на Quake или уроците по JavaScript – по този начин кодът, който създават, може да бъде източник на проблеми с авторските права.

Изследователите се опитват да внедрят механизъм за защита срещу такова плагиатство в платформата GitHub Copilot, но това води само до влошаване на ситуацията: системата започва да генерира големи фрагменти от чужд код, включително информация за авторите и дори лицензни текстове.