Популярният чатбот с изкуствен интелект ChatGPT често греши, когато потребителите го помолят да им предостави линкове към официални сайтове на големи компании, установи проучване. Това крие сериозен риск от измами с фишинг.
В хода на тестовете, проведени от изследователите на Netcraft, моделът GPT-4.1 предлага правилен URL само в 66% от случаите. Останалите варианти са били или на несъществуващи страници (29%), или на легитимни (5%), но не тези, поискани от потребителите.
Подобни грешки откриват нови възможности за мошениците, алармира Роб Дънкан, ръководител на отдела за изследвания на заплахите в Netcraft. Ако изкуственият интелект предложи неработещ домейн, нападателите могат да го регистрират и да създадат фишинг страница.
Проблемът е, че чатботовете анализират думи и асоциации и не проверяват репутацията на сайтовете. Например, в отговор на заявка за уебсайта на Wells Fargo в един от случаите ChatGPT е дал адреса на фалшива страница, която преди това е била използвана за фишинг атаки.
Киберпрестъпниците адаптират методите си към новата реалност, тъй като потребителите все повече разчитат на изкуствен интелект, вместо на търсачки, без да вземат предвид, че чатботовете могат да правят грешки, коментира Дънкан.
Измамниците умишлено създават съдържание, което е по-вероятно да попадне в отговори на изкуствения интелект. Например, Netcraft е открила фалшив Solana API, който се разпространява чрез хранилища на GitHub, учебни материали и акаунти в социалните медии, като целта му е да вгради злонамерен код в изхода на чатбота.
Тази схема е подобна на атаките срещу веригите за доставки, но тук целта е различна – да се принудят разработчиците да използват грешен API, пояснява Дънкан. И в двата случая нападателите действат постепенно, но резултатът е еднакво опасен.
