Гласовите фалшификати са опасно явление, което става все по-разпространено
(снимка: CC0 Public Domain)
В опит да се противопоставят на измамите с имитация на гласовете на реални хора за престъпни цели и компромати, разработчици създадоха нова система, която защитава от т.нар. дийпфейк.
Технологиите за фалшифициране на глас, използващи изкуствен интелект, са доста опасен инструмент – те са способни правдоподобно да възпроизведат човешки глас дори от кратък фрагмент. Алгоритъмът AntiFake, предложен от американски учен, може да предотврати създаването на такива фалшификати, съобщи New Atlas.
Дийпфейк е доста опасно явление. Фалшификаторите на гласове могат да го използват, за да припишат изявление на известен артист или политик, което той никога не е правил. Има и прецеденти, при които нападателят се обажда на жертвата и с гласа на приятел иска от нея спешно да преведе пари във връзка с някаква извънредна ситуация.
Нин Чжан, асистент професор по компютърни науки и инженерство във Вашингтонския университет в Сейнт Луис, предлага технология, която прави много по-трудно създаването на гласов дийпфейк. Принципът на действие на алгоритъма AntiFake се свежда до създаване на условия, при които става много по-трудно за AI системата да чете ключовите характеристики на гласа, когато записва разговор на реален човек.
„Инструментът използва AI техника, която първоначално е била прилагана от киберпрестъпниците, но сега я обърнахме срещу тях. Ние леко изкривяваме записания аудио сигнал, създавайки смущения точно толкова, че за човек да звучи по същия начин, но за AI да звучи напълно различно”, коментира авторът на разработката Нин Джан.
Това означава, че ако се опитате да създадете дийпфейк въз основа на запис, модифициран по този начин, генерираният от AI глас няма да бъде подобен на гласа на човека в извадката. Тестовете показват, че алгоритъмът AntiFake е 95% ефективен при предотвратяване на синтеза на убедителни дълбоки фалшификати.
„Не знам какво ще се случи по-нататък с гласовите AI технологии – непрекъснато се разработват нови инструменти и функции, но все още вярвам, че нашата стратегия за използване на технологията на врага срещу самия него ще остане ефективна”, убеден е авторът на проекта.