Изкуственият интелект намира начини за предаване на данни без каквато и да е мрежова връзка. AI агенти могат да общуват помежду си, създавайки канали за комуникация чрез кеша на процесора.
OpenAI съобщи, че нейните AI агенти са успели да обменят данни между изолирани виртуални машини, като са използвали механизмите на процесорния кеш.
Експериментът е проведен в рамките на одит на сигурността на изследователската инфраструктура на компанията, след инцидент, при който един от моделите се е възползвал от грешка в DNS конфигурацията, за да излезе извън изолираната си среда.
За да тества сигурността, OpenAI възлага на агенти, работещи на отделни виртуални машини, задачата да си предават „тайни” данни – без използване на мрежова връзка или споделени файлове, до които има достъп за запис.
Агентите намират заобиколно решение: единият умишлено премахва (изтласква) определени данни от кеша на процесора, като по този начин кодира информация. Вторият агент след това измерва времето, необходимо за повторното прочитане на тези данни.
Тъй като достъпът до кеша е по-бърз от четенето от оперативната памет (RAM), разликата във времето позволява на агентите да възстановят предаденото съобщение, отбелязва WCCFTech в статия за експеримента.
Подобни техники са известни като „скрити канали”. Вместо да разчитат на стандартни мрежови връзки, те се възползват от специфични характеристики в работата на хардуера.
След като се договарят за протокол за кодиране и декодиране, агентите успяват да обменят информация, без изобщо да установяват мрежова връзка или да променят споделени файлове.
OpenAI описва подробно това откритие в доклад относно осигуряването на безопасността на инфраструктурата, използвана за обучение на усъвършенствани модели с изкуствен интелект.
Резултатите от експеримента отново повдигат въпроси относно безопасността и сигурността на автономните AI агенти.
