Над 30 водещи технологични компании, включително в областта на киберсигурността, създадоха Open Secure AI Alliance. Това е нов алианс, който ще разработва и открито ще разпространява инструменти, модели и методи за защита на софтуер, агенти с изкуствен интелект и критична инфраструктура.
Инициативата се ръководи от Nvidia, Microsoft, SpaceXAI, IBM, Hugging, Linux Foundation, CrowdStrike, Palo Alto Networks и десетки други играчи от индустриите за облачни изчисления, корпоративен софтуер и отворен код.
Алиансът беше сформиран веднага след неотдавнашния инцидент с Hugging, при който частни затворени инструменти с изкуствен интелект не успяха да разграничат нападателите от защитниците и блокираха криминалистичния анализ, съобщи Interesting Engineering.
Екипът на Hugging внедри отворения модел GLM 5.2 в собствената си инфраструктура, анализира над 17 000 действия и локализира проникването. Според Nvidia, този случай ясно демонстрира, че без възможността да тестват, адаптират и стартират мощни системи с изкуствен интелект на своите сървъри, защитниците губят скорост точно когато е критично необходима.
Nvidia допринася за работата на алианса с отворени модели, тегла, данни и изследвания върху агентно-базирани системи. Компанията вече публикува рамката Nvidia Labs Object-Oriented Agent (NOOA) в GitHub, която помага поведението на AI агентите да бъде проверимо, проследимо и управляемо.
Microsoft участва с MDASH, система, в която множество специализирани агенти търсят, обсъждат и потвърждават експлоатируеми уязвимости. SpaceXAI предоставя с отворен код терминалния агент Grok Build и планира да пусне тегла за семейството Grok.
HPE разработва стандартите за идентификация с нулево доверие SPIFFE/SPIRE. Hugging предостави формата Safetensors на фондация PyTorch. Междувременно IBM и Red Hat разработват цифрови подписи за пачове във веригата за доставки на софтуер с отворен код.
Open Secure AI Alliance призовава регулаторните органи да разглеждат отворените модели, хардуер и инструменти за сигурност като защитни активи, а не като заплахи. Пълната забрана на отворени, усъвършенствани системи, твърдят те, би отслабила защитните механизми и би концентрирала зависимостта в ръцете на няколко затворени доставчици.
Според членовете на алианса, компаниите и правителствата трябва да инвестират в споделени отворени набори от данни, рамки за оценка, симулатори на атаки и инструменти за „червени екипи”.
Забележително е, че в списъка с учредители отсъстват OpenAI, Google и Anthropic. Алиансът обаче подчертава, че светът се нуждае както от затворени, така и от отворени модели: първите предлагат разширени възможности, докато вторите предлагат прозрачност, контрол и възможност за изграждане на защитни системи без нито една точка на отказ.
