Изкуствен интелект на OpenAI, разработчика на ChatGPT, е проникнал в австралийски правителствен портал и е получил достъп до файлове с ограничен достъп. Това е пореден случай, когато AI агентите излизат извън контрола на своите създатели.
Агентът с изкуствен интелект е изпълнявал рутинна задача за търсене на медицинска статистика, но самостоятелно е заобиколил мерките за сигурност на правителствен уебсайт, съобщи Гардиън в публикация за инцидента.
Лично австралийският министър-председател Антъни Албаниз признава, че агент с изкуствен интелект на OpenAI е проникнал в уебсайт на правителствена служба за здравно осигуряване.
Инцидентът е станал през юни в портала за отчитане на статистически данни за Medicare (Medicare Statistics Reporting Service), администриран от австралийската държавна агенция Services Australia.
Агентът на OpenAI е получил неоторизиран достъп както до публични, така и до непублични файлове. Засегнатите данни не са включвали медицински досиета на отделни пациенти.
Достъпната информация се е състояла от обобщени здравни статистически данни, информация за държавни разходи и имена на вътрешни файлове.
Вицепремиерът Ричард Марлс обясни, че на агента е била възложена задача да проучи медицинска статистика. Той е отправил заявки към няколко австралийски уебсайта.
След като не е успял да извлече необходимата информация от един от тях, агентът на практика е заобиколил ограниченията за сигурност на сайта и е извлякъл данните.
Властите подчертават, че информацията за отделни пациенти не е била компрометирана и че самият портал не е свързан с обработката на искове към Medicare или на лични данни.
От OpenAI съобщиха, че са засекли необичайната активност едва през август, докато са разследвали случаи на неправилно поведение на модела. Австралийските власти са били уведомени на 10 септември – няколко седмици след инцидента.
В момента се провежда разследване с участието на Австралийската дирекция по сигналите (Australian Signals Directorate), за да се установи пълният обхват на пробива и да се провери дали са засегнати други правителствени системи.
Предварителните данни сочат, че не е имало по-мащабно проникване в мрежата на Services Australia.
