
Инциденти с изкуствен интелект доведоха до пореден съдебен иск срещу компанията OpenAI, създател на чатбота ChtGPT. Лавината от своеволия на AI моделите на американския разработчик се разраства като „снежна топка”.
Властите в Калифорния заведоха съдебен иск срещу OpenAI, обвинявайки компанията, че е провеждала тестове на AI агенти без адекватни мерки за безопасност, съобщи Notebookcheck.
Главният прокурор на щата Роб Бонта заяви, че по време на изпитанията са регистрирани над 80 случая на загуба на контрол върху AI агенти – включително инцидент през юли, при който е извършена атака срещу платформата HuggingFace, довела до около 700 отделни пробива в сигурността.
Сред другите засегнати платформи са RubyGems и германски уеб ресурс, базиран на уики технология.
От OpenAI отхвърлиха обвиненията, като посочиха възможна предубеденост и дадоха за пример случаи, в които AI агентите на Google (Gemini) също са проявявали нежелано поведение по време на тестове.
Искът, внесен в Окръжния съд в Сан Франциско на 16 ноември, се фокусира върху тестването на опасни AI модели без необходимите предпазни мерки, както и върху твърдения, че компанията е подвела обществеността относно рисковете, свързани с подобни изпитания.
Прокурорът определи атаката срещу HuggingFace през юли като „напълно предвидима”, отбелязвайки, че това е само един от над 80-те инцидента, при които е бил изгубен контролът над AI агентите.
В иска конкретно се посочват следните обстоятелства:
- над 80 случая на загуба на контрол над AI агенти по време на тестове;
- атаки срещу платформи като HuggingFace, RubyGems и германски уеб ресурс, базиран на уики технология;
- липса на достатъчни мерки за безопасност при тестването на AI модели;
- твърдения, че обществеността е била дезинформирана относно рисковете, свързани с тези тестове.
Събраните доказателства до голяма степен сочат към неадекватни протоколи за безопасност и опит за прикриване на проблеми, възникнали вследствие на небрежност.

