В последните години кодирането с изкуствен интелект навлезе масово в средите на софтуерните разработчици. Това обаче крие рискове – предоверяването на AI може да причини сериозни щети, показват случаи от практиката.
Така нареченото вайб (vibe) кодиране с изкуствения интелект ChatGPT Codex не мина по план за един от потърпевшите разработчици. Скрипт, написан от AI помощника, изтри всички данни от устройството на потребителя.
Gizmochina публикува една история за това защо не трябва да копирате PowerShell скриптове, написани от изкуствен интелект, без проверка. Потребител помолил ChatGPT Codex 5.3 да напише прост PowerShell скрипт за изтриване на временни Python папки, но резултатът се оказва фатален.
Вместо избирателно почистване на конкретна директория, програмата напълно изтрила съдържанието на устройството F, унищожавайки всички проектни файлове и Docker данни на разработчика.
Разследването на инцидента установява, че причината за неочакваното поведение на AI-генерираната програма е конфликт в интерпретацията на командния ред на Windows и по-точно в низа на пътя.
Изкуственият интелект използвал обратна наклонена черта \ за изключване на специалната функция на кавичките. Този подход може да работи при определени условия, но при извикване на cmd.exe чрез PowerShell (cmd /c) логиката се чупи.
В резултат на това path променливата е редуцирана до един символ \, който Windows интерпретира като главната директория на текущото устройство.
Ситуацията се влошила, след като изкуственият интелект добавил към командата опция за „тихо” изтриване rmdir, без да иска потвърждение от потребителя. Това позволило на скрипта незабавно и необратимо да унищожи всички данни.
Тук не става въпрос за сложен експлойт или някакъв неясен бъг, а просто за малко несъответствие в начина, по който различните Windows shell-ове обработват изключването на кавичките.
Случаят подчертава нарастваща тенденция, понякога наричана вайб кодиране. За прости задачи изкуственият интелект може да спести време. Но когато командите взаимодействат директно с файловата система, малките грешки могат да имат фатални последици.
