Банки и финанси, администрация и здравеопазване са секторите, където ще наблюдаваме най-много измами с дийпфейкове (снимка: CC0 Public Domain)
Сега, когато вече знаят на какво е способен генеративният AI, мнозинството потребители разбират как технологията може да улесни измамите с кражба на идентичност. Изглежда обаче хората са склонни да надценяват способността си да разпознават майсторските фалшификати. А това може да ги направи по-уязвими за атаки.
Изводът е резултат от изследване на Jumio, доставчик на автоматизирани решения за проверка на самоличността от край до край, оценка на риска и съответствие. В анкетата над две трети (67%) казват, че са запознати с генеративните AI инструменти от вида на ChatGPT, DALL-E и Lensa AI, които могат да създават недействително съдържание, включително видео, изображения и аудио.
Надценени способности
Информираността е най-висока сред потребителите в Сингапур (87%) и най-ниска сред тези в Обединеното кралство (56%).
Запознатостта с темата за генеративните AI и майсторските сред потребителите е висока, като 52% от респондентите вярват, че могат да открият видео с майсторска фалшификация. Това мнение, според специалистите, отразява „прекомерна увереност“ от страна на потребителите, като се има предвид, че „майсторските фалшификати са достигнали ниво на съвършенство, което предотвратява откриването с невъоръжено око“.
Тенденцията е обезпокоителна, като се има предвид, че полицейските сили на Сингапур установиха, че измамите със самоличност са стрували 101,3 милиона сингапурски долара през 2022 г. Сумата най-вероятно ще нарасне драстично в съвсем скоро време, имайки предвид повишените нива на сложност и изпипаност на майсторските фалшификати.
Данните на Jumio показват още стабилен ръст в използването на все по-сложни дийпфейкове по целия свят, във всички индустрии. Най-сериозно присъствие, както може да се очаква, е налице в сферата на плащанията и крипто-технологиите.
„Много хора изглежда смятат, че могат да забележат и разпознаят майсторския фалшификат,“ коментира Стюарт Уелс, главен технологичен директор на Jumio. „Въпреки че със сигурност има издайнически признаци, които да търсим, дийпфейковете стават експоненциално по-добри ден след ден – и стават все по-трудни за разпознаване без помощта на AI.
AI – и проблем, и решение
Според експерта, в обозримо бъдеще бизнесите от всички сфери ще се нуждаят от технологии, базирани на изкуствен интелект, за да откриват и разпознават майсторски фалшификати и съответно да защитават своите мрежи и клиенти от измамите. Засега обаче един от най-важните принципи, които трябва да следваме, е потребителите да се отнасят скептично към „провокативни изображения, видеоклипове и аудио“.
Все пак изследването носи знаци, че хората съзнават промяната, която се случва пред очите им. Те са все по-наясно с AI технологиите. Съответно се наблюдава нарастване на разбирането за това как технологиите могат да бъдат използвани за кражба на самоличност, установява проучването.
Повече от половината от запитаните (57%) вярват, че онлайн кражбата на самоличност ще стане по-лесна в резултат на бума на AI. Отново потребителите в Сингапур показват най-високо ниво на разбиране на потенциалната вредна употреба (73%).
Време е за обучение
На настоящия етап организациите, чиито отдели за сигурност и ИТ сигурност са достатъчно далновидни, вече трябва да мислят върху програми, с които да образоват клиентите си относно способностите на генеративните AI технологии и възможностите да бъдат използвани за измами.
Образователната кампания ще тече дълго време и е крайно време да се сложи начало на нейната реализация. Само така организациите могат да помогнат на своите клиенти да формират по-реалистични очаквания за способността си да откриват майсторски фалшификати.
Наред с това проучването сочи , че над две трети (68%) от потребителите са готови да използват цифрова самоличност, за да се удостоверят онлайн. Водещите сектори, в които те биха предпочели дигитална самоличност пред физическа идентификация (като шофьорска книжка или паспорт), са финансовите услуги (43%), правителството (38%) и здравеопазването (35%).
Потребителското проучване е проведено от специализираната статистическа агенция Censuswide. В него са обхванати 8055 възрастни потребители.