Неправилно конфигурирана система с изкуствен интелект в рамките на кибер-физическа система е способна да изключи критична национална инфраструктура на държава от Г20 и това може да се случи до 2028 г., предупреди Gartner. Анализът поражда множество въпроси. Те засягат начина, по който правителствата и операторите управляват системите за безопасност в силно автоматизирани среди.
Грешно конфигуриран AI може да спре жизненоважни услуги в цяла държава и то без човешка намеса, предупреди Gartner. Сбърканият AI може да изтълкува погрешно данни от сензори или да задейства опасни действия. Подобни грешки могат да причинят физически щети и масови прекъсвания на критични услуги.
Картината застрашава обществената безопасност и икономическата стабилност, особено ако бъдат засегнати електропреносни мрежи или производствени системи, алармира новият доклад на анализаторската компания.
Новата AI среда
Кибер-физическите системи комбинират сензори, изчисления, управление, мрежи и анализи. Дигиталните системи взаимодействат директно с физическия свят, обхващайки оперативни технологии, индустриални контролни системи, автоматизация, индустриален интернет на нещата, роботи, дронове и концепциите на Индустрия 4.0.
Операторите на критични инфраструктури безспорно градят своята защита срещу кибератаки, повреди и природни бедствия. Но предупреждението на Gartner насочва вниманието към конфигурацията и управлението на промените в среда, управлявана от AI.
Днес изкуственият интелект се използва за задачи, много близки до физически процеси — оптимизация, предиктивно управление и автоматизирани решения за безопасност. Една грешна настройка или неочаквано решение на модела може бързо да засегне реалния свят.
„Следващият голям инфраструктурен срив може да не бъде причинен от хакери или природни бедствия. Той може да бъде дело на добронамерен инженер, грешен скрипт за актуализация или неправилно поставена десетична запетая“, казва Вам Востер, вицепрезидент анализатор в Gartner.
„Жизненоважно е да има сигурен авариен превключвател или режим за ръчно управление, достъпен само за упълномощени оператори! Той предпазва националната инфраструктура от непреднамерени изключвания, причинени от грешна конфигурация на AI“, подчертава анализаторът.
Режим за ръчно управление
Препоръката на Gartner се фокусира върху т.нар. „безопасен режим за ръчно управление“ на AI системи в критична инфраструктура. Това означава ясен механизъм, който позволява на операторите да поемат пълен контрол. Те могат да спрат автоматичните действия или да поставят системата в безопасно състояние, когато поведението ѝ се отклонява от нормата.
Подходът заимства от принципите в индустриалната безопасност. Там ръчната намеса и защитните механизми са част от автоматизираните процеси. Разликата е, че съвременните AI модели могат да променят поведението на системата по непредвидими начини. Тези промени трудно се откриват чрез традиционни тестове и документация.
„Модерните AI модели често приличат на „черни кутии“, казва Востер. „Дори разработчиците не винаги знаят как малка промяна в конфигурацията ще повлияе на поведението на модела. Колкото по-непрозрачни стават тези системи, толкова по-голям е рискът. Затова човешката намеса е още по-важна“.
Предупреждението идва в момент, когато операторите на национални инфраструктури внедряват AI за автоматизация на управлението на електрически мрежи, транспорт и индустриални процеси. Много от тези внедрявания работят заедно със стари системи, проектирани за детерминистична логика и по-бавни цикли на промяна. Въвеждането на AI увеличава взаимозависимостите и разширява ефекта от конфигурационни грешки.
Електропреносната мрежа – идеалният „кандидат“
Gartner посочва съвременните електрически мрежи като пример за бърза и мащабна повреда. Операторите използват AI за балансиране в реално време между производство и потребление. Моделите влияят върху решения за изолация, ограничаване на натоварването и други действия, които засягат големи групи хора.
Един грешно конфигуриран AI модел може да изтълкува нормални модели на потребление като нестабилност. Това може да доведе до ненужно изолиране на части от мрежата или до масово ограничаване на електрозахранването. Подобни действия могат да предизвикат допълнителни повреди. Те могат да засегнат индустриални процеси, комуникационни мрежи или здравни и спешни служби.
Ограничаване на риска
Gartner смята, че ръководителите по информационна сигурност трябва да участват активно в управлението на новите рискове. Те се намират на пресечната точка между киберсигурност, инженеринг на безопасността, оперативна устойчивост и управление.
Анализаторите препоръчват внедряване на безопасни режими за ръчно управление във всички кибер-физически системи от критичната инфраструктура. Достъпът до тях трябва да бъде ограничен само за упълномощени оператори.
Препоръчително е също използване на цифрови двойници за тестване на актуализации и конфигурационни промени. Пълномащабният цифров двойник осигурява контролирана среда, която отразява реалното поведение на системата. Това позволява да се оцени как решенията, управлявани от AI, взаимодействат със сензори, контролери и мрежови условия.
