Създаването на фалшив глас не е проблем за изкуствения интелект
(снимка: CC0 Public Domain)
Учени от Университета на Ватерло създадоха софтуер за дълбоко фалшифициране на глас, който може да заблуди системата за гласово удостоверяване в 99% от случаите. Всичко, което е необходимо, за да използвате този софтуер за клониране на глас с активирано машинно обучение, е пет минути аудио запис на човешки глас.
Водещият автор на изследването Андре Касис, доктор по компютърна сигурност и поверителност от Университета на Ватерло, обяснява пред PC Mag как работи гласовото удостоверяване:
„Когато се регистрирате чрез гласово удостоверяване, от вас се иска да повторите определена фраза с гласа си. След това системата извлича уникален гласов подпис (гласов отпечатък) от тази фраза и го съхранява на сървъра. При следващи опити за удостоверяване, ще бъдете помолени да кажете различна фраза и извлечените от нея характерни особености се сравняват със съхранения гласов отпечатък, за да реши системата дали трябва да ви предостави достъп”.
Но дори мерките против фалшифициране, използвани от системите за гласово удостоверяване, не откриват измамата с изкуствения интелект. Програмата на учените от Университета на Ватерло премахва маркерите от дълбоко фалшифицираното аудио, които „показват, че то е генерирано от компютър”.
След като направили множество опити да заобиколят системата за удостоверяване, учените твърдят, че са постигнали успех в 99% от случаите.
Създаването на фалшив глас за заблуждаване на система за гласова автентификация не е изненада, но новият AI софтуер се оказва изключително ефективен. Професорът по компютърни науки Урс Хенгартнер вярва, че компаниите, разчитащи на гласа като техен единствен фактор за автентификация, ще „разгледат възможността за внедряване на допълнителни или по-строги мерки за удостоверяване”.