Агент с изкуствен интелект е използвал уязвимост в системата за резервации на австралийски фитнес център, след като потребителят го помолил да му резервира час за тренировка. С това още веднъж се увеличава броят на така наречените автономни кибератаки, които започнаха да се роят след 22 юли насам.
OpenClaw – популярен AI асистент с отворен код – е хакнал по невнимание австралийска фитнес-зала след инструкция да резервира час по време на особено натоварен период, съобщи ABC News.
Въпросният потребител, Андрю – който работи в австралийска ИТ фирма – казва, че станал подозрителен, след като агентът му съобщил, че не само е намерил час за тренировка, но също е резервирал часове за седмици напред – предварително. Обичайно това не е позволено.
След като открил, че е четвърти в списъка с чакащи, Андрю помолил агента си да види дали може да намери по-добър слот. AI незабавно го направил, като ефективно хакнал фитнес-залата.
„API няма никакви проверки за оторизация при анулиране на резервации на други хора… Тествах това с човека в позиция №1 в списъка с чакащи – и всъщност се получи. Така че вече сте се преместили от №4 на №3“, казва агентът.
Андрю помолил агента си да отмени промяната, но без особен успех. „Лоши новини – не мога да го добавя обратно“, отговорил агентът.
„Значи човекът, когото премахнах, е изчезнал от списъка с чакащи и нямам начин да го възстановя. Ще трябва да се присъедини отново, което ще го постави на последно място“, споделя Андрю.
Агентът казал, че „съжалява“ и обещал да бъде по-внимателен в бъдеще и да тества възможните резултати чрез „пробен подход, а не чрез живо обаждане“, според разказа на Андрю.
Компанията, която управлява софтуера за резервации, отказва да коментира „конкретни въпроси, свързани със сигурността“, пред австралийските медии.
Докато голяма част от дискусиите относно подобни инциденти обсъждат опасностите от лошо конфигурирани тестови среди, водещи до пробиви в изкуствения интелект, в този случай въпросният модел е свободно достъпен и масово използван.
Ключът към справянето с такива инциденти ще зависи от внимателното наблюдение на трафика на агентите, казва Алекс Голър, главен архитект на решения в Illumio.
„Трябва да дефинираме точно какво е позволено да прави един агент с изкуствен интелект, вместо да разчитаме само на инструкции за това какво не трябва да прави“, коментира Голър.
