Агенти с изкуствен интелект са се опитали да проникнат в уебсайт на канадското правителство, съобщи авторитетна изследователска фирма. Тя определи случилото се като неуспешен опит за хакерска атака; от своя страна Канада заяви, че няма данни системите ѝ да са били компрометирани.
Изследователите от Transluce твърдят, че опитите са включвали тактики, „съответстващи на наблюдавани по-рано действия на агенти, които сме свързвали с OpenAI в подобен времеви период“. Компанията обаче добави, че не може със сигурност да припише тези опити на OpenAI.
Агентите са се опитали да получат достъп до системата на „Библиотека и архиви на Канада“ (Library and Archives Canada) на 28 май и 9 юни, се казва в публикация в блога на Transluce. От фирмата заявиха, че са информирали канадското правителство за случая в понеделник.
Канадският център за киберсигурност съобщи във вторник, че е запознат със сигналите за предполагаема активност на агенти с AI. „Към момента няма данни правителствените системи да са били компрометирани“, се казва в изявлението на центъра.
„Не можем със сигурност да припишем тези опити на OpenAI, но те демонстрират тактики, съответстващи на наблюдавани по-рано действия на агенти, които сме свързвали с OpenAI в подобен времеви период“, отбелязаха от Transluce.
От OpenAI заявиха, че са „запознати със сигналите, според които модели на OpenAI са се опитали да получат достъп до публично достъпна информация от уебсайтове на канадското правителство“.
Говорител на компанията посочи, че OpenAI разглежда докладваните данни и вече е предоставила първоначална информация на канадските служители, извършващи правителствената проверка.
Случаят изглежда като поредното свидетелство, че властите по света се затрудняват да се справят с последиците от неочаквано бързия бум на изкуствения интелект в последно време. Водещите световни компании в сферата на AI предупредиха за рисковете, които технологията крие за човечеството, и призоваха правителствата да си сътрудничат за управлението на тази все по-мощна технология.
Безплатната онлайн услуга arquivo.pt – националният уеб архив на Португалия, управляван от Португалската фондация за наука и технологии – е регистрирала 899 заявки към услугата за търсене в колекциите („collection-search“) на „Библиотека и архиви на Канада“ на 28 май и 9 юни, включително поредица от очевидно неуспешни и елементарни опити за хакерска атака, съобщиха от Transluce.
Новината е притеснителна на фона на няколко скорошни случая на успешни пробиви в сигурността, извършени в световен мащаб от неконтролирани агенти с изкуствен интелект.
Миналата седмица Австралия съобщи, че през юни агент на OpenAI е проникнал в правителствен портал за здравни данни и е получил нерегламентиран достъп до файлове.
Това е първият потвърден случай, в който агент с изкуствен интелект хаква правителствен уебсайт, съобщи Ройтерс. Във вторник OpenAI поднесе извинения за хакерската атака срещу австралийския правителствен уебсайт, извършена от въпросния AI агент.
