Изследователи в областта на сигурността успяха да вградят команди директно в музика и гласови записи на реч, разширявайки спектъра на възможните кибератаки срещу домашните дигитални устройства и персонални асистенти.
Николас Карлини и Дейвид Вагнер от Калифорнийския университет Бъркли изчислиха начин да вземат всяка съществуваща форма на звукова вълна и да произведат друга, подобна на нея, с 99,9% подобие. Имитиращата звукова вълна може да се използва, за да измами дигиталните асистенти, които използват т.нар. невронни мрежи за транскрибиране на звука в букви, и да ги накара да ги съберат в цялостни команди за контрол на самите дигитални асистенти.
До 50 знака в секунда могат да се генерират чрез аудио-транскрибиране, твърдят изследователите. Те са тествали разработката си с DeepSpeech – системата за гласово разпознаване на Mozilla, която е с отворен код. С нея са постигнали 100% успех, без да се налага да прибягват до големи количества звукови изкривявания – отличителна черта на миналите опити за създаване на аудио атаки.
При слушане на музиката хората не могат да чуят специалните звуци в нея и да разберат, че се реализира целенасочена атака.
Изследванията на Карлини и Вагнер се основават на предходни разработки, които нееднократно са показвали, че „дълбокото учене” при компютрите с цел разпознаване на компютърни изображения е уязвимо на „конфликтни смущения”. Сега двамата учени вече имат доказателства, че и автоматичното разпознаване на говор също е уязвимо към такива атаки.
Като практически пример учените вградили гласови команди в мелодия, наречена CommanderSong, и чрез нея успели да измамят системите за разпознаване на реч, за да накарат асистентът да предприеме действия като обаждане до посочени телефонни номера, включване на функциите на GPS и опит да плати с кредитна карта.
„Песента, носеща командите, може да се разпространява чрез радио, телевизия или дори медия плейър, инсталиран на преносимите устройства – такива като смартфони. Това може да окаже влияние на милиони потребители”, пишат изследователите.
Демонстрирайки осъществимостта на подобни скрити команди, завоалирани в музиката и други типове аудиозаписи, учените се надяват да запознаят общността с потенциалните опасности и да насърчат индустрията да разработи по-безопасно системи за разпознаване на говор.