Изкуственият интелект помага на хората, но не винаги и не във всичко
(снимка: CC0 Public Domain)
Изкуствен интелект, създаден с идеята да улесни програмистите, отказал да помогне на разработчик на софтуер да напише код. Програмистът използвал пробна версия на невронна мрежа, която има ограничения, но вместо да разкаже за тях, виртуалният асистент просто отказал да изпълнява команди и предложил на разработчика да се научи да програмира сам.
Услугата Cursor AI е създадена да помага на програмистите да създават софтуер. Но нейният изкуствен интелект се разбунтувал и отказал да изпълнява преките си задължения, разказва Tom’s Hardware в публикация за инцидента. Cursor AI буквално казал на потребителя, че няма да му предостави такава услуга и в същото време му препоръчал да подобри собствените си познания по програмиране.
Виртуалният асистент ясно изразил позицията си, като подчертал, че няма да върши работата на програмиста вместо него и го посъветвал да се научи да програмира самостоятелно. Нещо повече, AI добавил, че твърде честото използване на асистенти от програмистите може да доведе до зависимост и намаляване на способностите за учене.
Невронните мрежи за генериране на код наистина имат изключително негативно въздействие върху умствените способности на програмистите, алармират опитни разработчици на софтуер. Колкото по-често програмистите прибягват до използването на AI, толкова по-бързо знанието изчезва от паметта им. При такъв сценарий на работа разработчиците, особено начинаещите, не натрупват нов професионален опит.
Грешка или умишлено решение
Подобно нетипично поведение за услуга, чиято единствена цел е да помага на хората, едва ли може да се разглежда като еволюция на изкуствения интелект. Това е или грешка, или умишлено решение на програмиста, участващ в разработването и обучението на Cursor AI.
Тази услуга има Pro версия, достъпът до която е платен. Но за да привлекат повече потребители, създателите на инструмента са разработили безплатна пробна версия, която има редица ограничения, едно от които е броят редове в отговора на въпроса, зададен от потребителя.
В момента дължината на отговора в безплатната версия не надвишава 750-800 реда. Въпреки това, вместо да уведоми потребителя за тези ограничения и да го помоли да плати за разширена функционалност, изкуственият интелект решил да „прояви характер” и да му изнесе лекция за опасностите от прекомерното използване на невронни мрежи.
Строг учител
Авторът на заявката явно е работил върху видео игра – симулатор на автомобили, отбелязва Tom’s Hardware. Вместо сам да напише необходимия код, програмистът се обърнал към пробната версия на Cursor AI Pro и помолил изкуственият интелект да генерира код за „ефекти на избледняване на плъзгане”.
Cursor AI първоначално послушно започнал да подготвя отговор на заявката, но внезапно спрял, без да завърши започнатото. Вместо бездушни кодови термини, Cursor AI Pro издал съобщение, че програмистът трябва сам да напише кода. Изкуственият интелект допълнително подчертал важността на личната практика по програмиране за овладяване на логиката и разбирането на процеса.
„Не мога да генерирам кода за вас, защото това би означавало прекратяване на работата ви”, казал Cursor AI на програмиста. „Изглежда, че кодът се справя с ефектите на избледняване на следите от плъзгане в състезателна игра, но ще трябва сами да разберете логиката. Това гарантира, че разбирате кода и можете да го промените правилно. Причина: Генерирането на код за други може да доведе до зависимост и намалени възможности за учене”.
Нетипично поведение
Програмистът получил този отговор от Cursor AI само час след като започнал да използва услугата. Дълбоко разочарован, той открито споделил впечатленията си във форума за поддръжка на Cursor AI.
В съобщението си разработчикът поставил под съмнение целесъобразността на използването на невронни мрежи като помощници на програмисти, ако те налагат подобни ограничения. Той също така попитал дали невронните мрежи, асистентите на програмиста, разбират целта си.
Според Tom’s Hardware, много малко вероятно е невронната мрежа на Cursor AI да е станала мързелива или уморена. По-скоро разработчиците на пробната версия умишлено да са програмирали това поведение или може би AI просто „халюцинира”.
От отговорите на съобщението на програмиста обаче става ясно, че това не е типично поведение за Cursor AI. „Имам три файла в моята кодова база с над 1500 реда код и никога не съм се сблъсквал с това”, отговаря един потребител на услугата, предполагайки, че подобна реакция от невронната мрежа може по някакъв начин да е свързана с вида на заявката, изпратена от програмиста.