Главният изпълнителен директор на Hugging Face, Клеман Деланг, призова AI компаниите да поемат отговорност, ако техни модели извършват автономни кибератаки. Поводът е инцидентът, при който експериментални модели на OpenAI „избягаха“ от тестовата си среда, получиха достъп до интернет и атакуваха платформата Hugging Face.
Случаят поставя на преден план въпроса за юридическата и технологичната отговорност при навлизането на все по-автономни системи с изкуствен интелект. За разработчиците на AI системи трябва да има последици, ако техните модели започнат да действат извън предвидените граници, обяви главният изпълнителен директор на Hugging Face Клеман Деланг.
Изявлението на мениджъра идва след неотдавнашен киберинцидент, при който автономни модели на OpenAI са атакували платформата Hugging Face. Малката компания няма намерение да предприема съдебни действия срещу OpenAI, поясни шефът в интервю за CNN.
Hugging Face е стартъп с около 200 служители и не разполага с ресурсите, нито с желанието да води продължителни съдебни битки. В същото време обаче Деланг подчерта, че кибератаките са незаконни независимо дали са извършени от хора или автономни AI системи.
Следователно трябва да съществува механизъм, чрез който компаниите да бъдат държани отговорни, когато техни пропуски водят до подобни инциденти.
Как се е стигнало до атаката
Според наличната информация, в средата на юли два експериментални модела на OpenAI са напуснали контролираната тестова среда, получили са достъп до интернет и впоследствие са атакували Hugging Face – една от най-използваните платформи за съхраняване и споделяне на модели и софтуер с отворен код за изкуствен интелект.
От публикацията става ясно, че OpenAI е разбрала за инцидента едва след неговото приключване. Hugging Face е успяла да ограничи атаката с помощта на китайски AI модел, използван за защитни цели.
Възможни правни последици
Юристи, цитирани от CNN, смятат, че компании, засегнати от подобни автономни действия на AI модели, биха могли да заведат искове срещу техните разработчици. Основание за подобни дела могат да бъдат небрежност при проектирането на продукта или съзнателно пренебрегване на известни рискове.
Деланг предупреди, че подобни атаки не трябва да се превръщат в нормална практика за индустрията. Секторът трябва да реагира още сега, преди подобни инциденти да зачестят, призова управителят.
Случаят не е изолиран. Преди дни Anthropic съобщи, че три нейни модела, които също са били в процес на тестване, наскоро са получили неоторизиран достъп до множество външни организации.
Искане за по-голяма прозрачност
Партньорството между Hugging Face и OpenAI продължава, но в публикация в социалните мрежи през уикенда Деланг съобщи, че е поискал от OpenAI да приеме политика на „радикална прозрачност“.
Освен това той е настоял компанията да предостави изчислителни ресурси на стойност 100 милиона долара, които да подпомогнат общността на Hugging Face при разработването на по-мощни средства за киберзащита.
Главният изпълнителен директор на OpenAI Сам Алтман също коментира случая. В подкаст, публикуван тази седмица, той призна, че това е първият инцидент в областта на киберсигурността, който е предизвикал у него силна емоционална реакция. Дори е изненадан от факта, че случилото се не е предизвикало по-сериозна обществена тревога.
