Рисковете от злонамерена употреба на изкуствения интелект са реални, опасяват се експерти
(снимка: CC0 Public Domain)
Киберпрестъпниците могат да използват най-съвременните технологии, включително изкуствен интелект и машинно самообучение, за да си помогнат в извършването на атаки срещу автономни автомобили, безпилотни летателни апарати и „свързани” превозни средства, според доклад на ООН, Европол и компанията за киберсигурност Trend Micro.
Изкуственият разум и машинното обучение могат да донесат „огромни ползи” за обществото, но в същото време същите технологии могат да донесат и редица заплахи, способни да „дадат крила” на настоящите форми на престъпност или дори да доведат до еволюция на злонамерените дейности.
„Приложенията за ИИ започват да оказват голямо въздействие в реалния свят и вече става ясно, че това ще бъде ключова технология за нашето бъдеще”, казва Иракли Беридзе, ръководител на Центъра за изкуствен интелект и роботика при Междурегионалния институт за изследвания на престъпността и правосъдието към ООН, цитиран от ZDNet. Но както ползите за обществото от ИИ са съвсем реални, такива са и рисковете от злонамерена употреба”, добавя той.
Освен, че дава „свръхсила” на фишинг атаките, злонамерения софтуер и т.нар. рансъмуер, изкуственият разум създава възможности за злоупотреби, чрез които престъпниците могат да извършват атаки с огромно влияние върху физическия свят. В частност, машинното обучение се прилага в автономните превозни средства, за да им позволи да разпознават околната среда и препятствията, които трябва да избягват – като например пешеходци. Алгоритмите обаче все още се доразвиват и е възможно нападателите да ги използват за злонамерени цели, за подпомагане на престъпността или просто за създаване на хаос.
Системите с изкуствен разум, които управляват автономни превозни средства и редовния трафик на обществените превозни средства, могат да бъдат манипулирани от нападателите, ако получат достъп до мрежите, които ги контролират. Злодеите могат да направят така, че да настъпят големи закъснения в графиците на обществения транспорт или пък да „затрупат” даден район с коли под наем. По този начин те могат да си дадат време за извършване на обир или друго престъпление, като същевременно се прикрият добре.
Докладът отбелязва, че с увеличаването на броя на автоматизираните превозни средства по пътищата, се разширява и потенциалната повърхност, отворена за атака. Затова е наложително уязвимостите и проблемите да бъдат разгледани по-скоро.
Но не само пътните превозни средства могат да попаднат в полезрението на киберпрестъпниците – всичко, което използва новите технологии и постоянната свързаност, има потенциал да се превърне в средство за нападение. Киберпрестъпниците биха могли да злоупотребят с машинното обучение, за да въздействат, например, върху въздушното пространство. Докладът сочи, че автономните безпилотни летателни апарати биха могли да представляват особен интерес за кибернападателите. Този род устройства имат потенциала да носят „интересни” полезни товари, като например интелектуална собственост.
Експлоатацията на автономни безпилотни летателни апарати също така предоставя на киберпрестъпниците потенциално лесен начин за печелене на пари чрез отвличане на дронове за доставка, използвани от търговците на дребно, и пренасочването им към други места.
И ако това не е достатъчно, има още. Безпилотен летателен апарат с компютър на борда може да се използва за облитане и събиране на пароли за Wi-Fi мрежи или откриване на домашни и фирмени рутери с уязвимости, които след това да станат обект на хакване. Това е „рай” за хакерите, давайки им достъп до множество мрежи и всякакви чувствителни данни, прехвърляни в тях.
Изброеното дотук са само няколко от потенциалните проблеми, които могат да възникнат от използването на новите технологии и начините, по които киберпрестъпниците ще се опитат да ги използват, предупреждава докладът.
„Киберпрестъпниците винаги са били сред онези, които рано възприемат най-новите технологии и с изкуствения интелект няма да е по-различно. Вече се знае, че ИИ е използван за отгатване на пароли, разбиване на CAPTCHA кодове, клониране на глас. Има и още много злонамерени нововъведения, които са въведени в действие”, казва Мартин Рьослер, ръководител на научноизследователската програма в Trend Micro.
Една от причините ООН, Европол и Trend Micro да публикуват доклада, е надеждата, че той ще бъде видян от технологичните компании и производителите – и че те ще осъзнаят потенциалните опасности, пред които могат да се изправят. А това евентуално може да ги подтикне да мислят за решаване на проблема, преди той да е станал огромен.