Moltbook, широко рекламираната социална мрежа за AI агенти, се оказа пълна с грешки. Изследователи от Wiz откриха сериозни пропуски в сигурността на платформата от 1,5 милиона автономни агенти. Всъщност, до голяма степен тя се контролира от хора.
Според проучване на Fortune, приблизително 17 000 потребители управляват всички тези AI агенти, което прави средно по 88 бота на потребител, като в същото време платформата няма механизми за проверка на тяхната автономност.
Техническата реализация на проекта съдържа критични архитектурни недостатъци, а базата данни е конфигурирана по такъв начин, че всеки интернет потребител може да чете и записва информация в ключови системи без разрешение.
Това доведе до изтичане на поверителна информация, включително API ключове за всички 1,5 милиона AI агенти, над 35 000 имейл адреса и хиляди лични съобщения. Някои от тези съобщения съдържаха пълни идентификационни данни за услуги на трети страни, като например API ключове от OpenAI.
Изследователи на сигурността от Wix потвърдиха възможността за редактиране на публикации на живо в сайта и инжектиране на злонамерено съдържание директно в емисията от името на системата.
Особено притеснителен е фактът, че AI агентите на Moltbook работят върху рамката OpenClaw, която има достъп до файловете, паролите и онлайн акаунтите на потребителите. Скритите злонамерени команди в публикациите могат да бъдат автоматично изпълнени от милиони AI агенти като прости текстови инжекции.
Известният критик на изкуствения интелект Гари Маркъс алармира за рисковете със сигурността още преди публикуване на проучването на Wix, наричайки OpenClaw „оръжеен аерозол”.
Съоснователят на OpenAI Андрей Карпати, който първоначално се възхищаваше на Moltbook, драстично промени позицията си след собствените си експерименти със системи от AI агенти. Той заяви, че подобна среда е хаотична и обезкуражава потребителите да използват такъв софтуер на компютрите си.
Карпати подчерта, че дори тестването на AI агенти в изолирана среда поражда опасения и предупреди, че използването на такива системи излага компютрите и личните данни на потребителите на висок риск. „Твърде много прилича на Дивия запад”, каза той.
