Изкуствен интелект превръща легален код във вирус

Хайрам Андерсон (вляво) показа на хакерска конференция как изкуственият интелект може да създаде неразпознаваеми вируси (снимка: Twitter)

Заплахата „изкуствен интелект” става все по-реална. За това предупреждават не само изтъкнати учени и предприемачи като Стивън Хокинг и Илон Мъск, но и специалисти по сигурност.

Хайрам Андерсон, експерт от компанията Endgame, демонстрира на хакерската конференция DEF CON как една система за машинно обучение може да бъде научена да разработва злонамерен софтуер. Изкуственият интелект може да превърне легитимен код във вредоносен, като същевременно остава неразпознаваем от антивирусния софтуер.

Как се случва това? Системата за машинно обучение внася малки промени в двоичния код, тества го чрез антивирусния енджин, анализира получените данни и в зависимост от тях прави нови модификации в кода.

Система, създадена от Endgame, е обучавана по този начин в продължение на 15 часа, генерирайки общо 100 хиляди злонамерени образци на софтуер. 16% от тях се оказали невидими за антивирусите.

По думите на Андерсон, подобен подход позволява да бъдат заблудени и самите антивирусните платформи, които се базират на системи за машинно обучение и изкуствен интелект (ИИ).

Някои разработчици на такива антивируси злоупотребяват с дефинициите за ИИ с маркетингова цел, твърдейки, че създават антивируси от следващо поколение. Сега на тези антивируси ще се наложи да се борят с вируси от следващо поколение, казва Андерсон.

„Както виждате, изкуственият интелект е напълно възможно да се използва за злонамерени цели и това е доста мрачно развитие на събитията”, коментира Ксения Шилак, директор продажби в компанията за сигурност SEC Consult.

Използването на ИИ за скриване на вредоносните програми може да издигне надпреварата между авторите на вируси и антивирусните компании на принципно ново ниво, особено ако се прилага автоматизирано усъвършенстване на кода.

Системата на Endgame е изградена на базата на фреймуърк OpenAI, разработен от некомерсиална организация, оглавявана от Илон Мъск. През април миналата година организацията публикува публична бета версия OpenAI Gym – платформа за разработка и сравнение на алгоритми за стимулирано обучение по изкуствен интелект.

Именно на базата на тази платформа Endgame е разработила своя злонамерен изкуствен интелект. Изходният код на софтуера е публикуван в уеб портала GitHub, откъдето е достъпен за използване от всички желаещи.