Уеб браузърите стават ужасно бъбриви. Те станаха даже още по-бъбриви миналата седмица, след като OpenAI и Microsoft включиха на още по-висока предавка надпреварата за AI браузърите – с ChatGPT Atlas и „Copilot Mode“ за Edge.
Сега тези програми за сърфиране в интернет могат да отговарят на въпроси, да обобщават страници и дори да предприемат някои действия от името на зрителя. Е, понякога се случват глупости, но като цяло изглежда се задава времето, в което нашият браузър ще мисли вместо нас. Ала това бъдеще може да бъде минно поле от нови уязвимости и отвличане на данни, предупреждават експерти по киберсигурност. Признаците вече са налице.
Надпревара за заграбване на „земя“
Atlas и Copilot Mode са част от мащабна надпревара за заграбване на „земя“ – за завземане на контрола над браузъра, който се явява портал към интернет за всеки потребител. Именно тази битка кара големите разработчици да бързат с директното вграждане на изкуствен интелект в самия браузър.
Битката им преобрази това, което някога бяха самостоятелни чатботове в отделни страници или приложения. Сега бъбривият алгоритъм е вътре в самата платформа, която използваме за навигиране в мрежата.
OpenAI и Microsoft не са сами. Утвърдени други играчи също са в надпреварата, като Google, която интегрира своя модел Gemini AI в Chrome; Opera, която стартира Neon; и The Browser Company с Dia.
Някои стартъпи също са склонни да заявят претенции, като например Perplexity – най-известен със своята търсачка, базирана на изкуствен интелект. Тя направи своя браузър въз основа на AI системата Comet, свободно достъпен за всички в началото на октомври.
На спринтовата пътечка е и шведската Strawberry, чийто браузър все още е в бета версия и активно преследва „разочарованите потребители на Atlas“.
Само през последните няколко седмици изследователи откриха куп уязвимости в Atlas, които позволяват на атакуващите да се възползват от „паметта“ на ChatGPT, за да инжектират злонамерен код, да си подсигурят права за достъп или да внедряват злонамерен софтуер.
Недостатъците, открити в Comet, биха могли да позволят на атакуващите да „отвлекат“ изкуствения интелект на браузъра чрез скрити инструкции. Perplexity, чрез своя блог, и главният директор по информационна сигурност на OpenAI Дейн Стъки признаха бързите инжекции като голяма заплаха. Все пак и двамата ги описаха като „граничен“ проблем, който няма ясно решение.
„Въпреки някои сериозни предпазни мерки, все още е налице огромна повърхност за атака“, казва Хамед Хадади, професор по „системи, ориентирани към човека“, в Imperial College London. Той е и главен учен в компанията за уеб-браузъри Brave. „И това, което виждаме, е само върхът на айсберга“.
Многобройни заплахи
При браузърите с изкуствен интелект заплахите са многобройни. Преди всичко те знаят много повече за самия потребител. Затова са „много по-мощни от традиционните браузъри“, казва Яш Векария, изследовател по компютърни науки в UC Davis. Много повече, отколкото в стандартните браузъри, „съществува непосредствен риск от проследяване и профилиране чрез самия браузър“.
Функциите за „памет“ на изкуствения интелект са проектирани да се учат от всичко, което потребителят прави или споделя – от сърфиране до имейли и търсения, както и разговори с вградения AI асистент – което означава, че вероятно човек споделя много повече, отколкото осъзнава, а браузърът помни всичко. Резултатът е „по-инвазивен профил от всякога“, казва Векария.
Злонамерените лица биха се радвали да се доберат до тази информация, особено ако е съчетана със съхранени данни за кредитни карти и данни за логин, често срещани в браузърите.
Има и заплахи, каквито са типични за внедряването на всяка нова технология. Колкото и внимателни да са разработчиците, неизбежно ще има слабости, които хакерите могат да използват.
Уязвимостта може да варира от бъгове и грешки в кода, които случайно разкриват чувствителни данни, до сериозни пропуски в сигурността, които биха могли да позволят на злонамерени лица да получат достъп до нашата система.
„Все още е рано, така че очаквайте да се появят рискови уязвимости“, казва Лукаш Олейник, независим изследовател по киберсигурност и гостуващ старши научен сътрудник в King’s College London.
Той посочва като примери „ранните злоупотреби с макроси на Office, злонамерените разширения на браузъра и мобилните устройства преди въвеждането на разрешенията“ като примери за предишни проблеми със сигурността, свързани с внедряването на нови технологии.
Някои уязвимости никога не биват открити – понякога това води до опустошителни „zero-day“ атаки, наречени така, защото има „нула дни“ за отстраняване на недостатъка. Все пак задълбоченото тестване може да намали броя на потенциалните „дупки“.
При браузърите с изкуствен интелект „най-голямата непосредствена заплаха е пазарният бум“, казва Хадади. „Тези агентни браузъри не са били щателно тествани и валидирани“.
AI агентите – най-голямото предизвикателство
Но определящата характеристика на браузърите с изкуствен интелект, а именно самият изкуствени интелект, е мястото, където назряват най-лошите заплахи. Най-голямото предизвикателство идва с AI агентите, които действат от името на потребителя.
Подобно на хората, тези алгоритми са способни да посещават подозрителни уебсайтове, да кликват върху съмнителни връзки и да въвеждат чувствителна информация на места, където такава информация не би трябвало да попада. Но, за разлика от някои хора, на AI агентите им липсва здравият разум, здравословната доза подозрителност, които ни помагат да се предпазим онлайн.
AI агентите могат да бъдат подведени, дори отвлечени, за злонамерени цели. Всичко, което е нужно, са правилните инструкции. Така наречените бързи инжекции могат да варират от очебръкващи намеси до фини, ловко скрити на видно място елементи в неща като изображения, екранни снимки, полета на формуляри, имейли и прикачени файлове и дори нещо толкова просто като бял текст на бял фон.
Още по-лошо е, че тези атаки могат да бъдат много трудни за предвиждане и защита. Автоматизацията означава, че злонамерените лица могат да се опитват и опитват отново, докато агентът не изпълни това, което искат, казва Хадади.
„Взаимодействието с агентите позволява безкрайни конфигурации от типа „опит-грешка“ и проучване на методи за вмъкване на злонамерени подкани и команди“, пояснява той. Просто има много повече шансове хакерът да пробие, когато взаимодейства с AI агент. Това му отваря огромно пространство за потенциални атаки.
Шуджун Ли, професор по киберсигурност в университета в Кент, казва, че „уязвимостите от типа „нулев ден“ се увеличават експоненциално“ в резултат на горепоисаното. Още по-лошото е, че ще мине много време, докато някой усети какво не е наред. Откриването на проблема ще се забави. А това означава потенциално по-големи щети.
Не е трудно да си представим какво може да се случи. Олейник предвижда сценарии, в които нападателите използват скрити инструкции, за да накарат AI браузъри да изпращат лични данни или да крадат закупени стоки, като променят запазения адрес в сайт за пазаруване.
Всички видове зловредни действия са лесни за нападателите – и съществуващите системи за дигитална сигурност не могат да помогнат особено. Засега експертите се придържат към разбирането, че единственият реален начин да се запази безопасността при използване на браузъри с изкуствен интелект е просто да се избягват възможно най-много.
Ли предлага на хората да оставят AI само за тогава, „когато имат абсолютна нужда от него“ и знаят какво правят. Браузърите трябва „да работят в режим без изкуствен интелект по подразбиране“, казва той – и колегите му се присъединяват към тази препоръка.
