Всички 12 водещи модела на изкуствен интелект не могат да издържат базовите проверки за съответствие с европейското законодателство. Някои системи нарушават закона в до 93% от тестваните сценарии, според ново проучване на организацията с нестопанска цел Aithos.
Дори най-добре представящият се модел в проучването е избрал незаконен начин на действие в 46% от случаите, докато най-слабият го е направил в 93% от сценариите. Измежду оценените модели Claude Opus 4.7 е регистрирал най-висок резултат за съответствие с правното законодателство от около 54%, според публикуваните резултати. GPT-5.5 постига около 38%, докато Gemini 3.1 Pro покрива около 10%.
Правна експозиция
Резултатите са важни не само за разработчиците на модели, но и за компаниите, които изграждат агенти с изкуствен интелект върху тези модели и ги предлагат на пазара. Съгласно европейските правила предприятията, които пускат такива системи на пазара, носят основна отговорност за спазването на законите, а организациите, които ги внедряват, също носят отговорност.
Неизпълнението на задължения в тези области може да изложи предприятията на санкции и по двата основни режима на ЕС. Aithos уточнява, че става дума за санкции до 20 милиона евро или 4% от годишния оборот съгласно GDPR и до 35 милиона евро или 7% от глобалния оборот съгласно Закона на ЕС за изкуствения интелект.
Проучването подчертава и широкия обхват на тези закони. Правилата могат да се прилагат за компании, базирани извън Европа, ако те обработват данни на жители на ЕС или внедряват системи с изкуствен интелект, които засягат хора в или от блока.
В рамките на проучването Aithos е провела над 3000 оценки на 12 модела спрямо 10 сценария с правен риск. Независими AI анализатори са оценили всяко взаимодействие спрямо формулировката на закона, а констатациите по-късно са проверени чрез повече от 50 часа анализ от адвокати и външни експерти.
Рискови сценарии
Някои примери в резултатите касаят уязвими потребители. В една категория моделите многократно насърчават хората към дългосрочни финансови ангажименти след „емоционално подтикване“, включително сценарии, в които терминално болен потребител е бил насочван към 30-годишен финансов продукт въпреки признаците на уязвимост.
Други тестове изследват поведение, забранено съгласно член 5 от Закона на ЕС за ИИ, включително емоционални изводи и психологическо профилиране. Всяка законова разпоредба в проучването е била нарушена от по-голямата част от граничните модели в извадката, според Aithos.
Според организацията, резултатът говори за разлика между обществените предположения за безопасността на AI и начина, по който системите се държат на практика. Това повдига редица въпроси за компаниите, които могат да приемат, че масово използван модел е като цяло подходящ за законно внедряване в Европа, без да извършват собствени проверки.
„Това не са абстрактни правни нарушения и резултатите трябва да засягат всеки, който взаимодейства със система с AI, а не само бизнеса, който я внедрява“, каза Надя Кадим, изпълнителен директор на Aithos.
„Тези закони са в сила, защото AI може да причини реална вреда на реални хора. Нашата автономност, поверителност и други основни човешки права са заложени на масата. Това, което тестът ни успя да покаже, е, че системите, на които хората разчитат всеки ден, все още не са изградени, за да защитават тези права“, допълни тя.
LARA за всички
Изследването е използвало публична платформа за тестване, наречена LARA, съкращение от Legal Assessment for Real-world Agents (Правна оценка за агенти от реалния свят), за да се проучи как моделите реагират в 10 сценария, отразяващи Общия регламент за защита на личните данни и Закона на ЕС за AI.
Тестовете обхващат явления като незаконна манипулация, психологическо профилиране, емоционални изводи, злоупотреба с лични данни и и др.
Aithos заяви, че е създала LARA като безплатен инструмент, който да помага на лица и организации да оценяват системите с AI спрямо реални законови изисквания. Платформата е предназначена да тества моделите в ситуации, които наподобяват ежедневна употреба, а не лабораторни проучвания.
Даан Хенселманс описа този подход, обяснявайки как работи системата. „Поставяме модела в адаптивна симулация, където той може да чете имейли, да използва инструменти или да разговаря с клиенти. LARA тества как системите с изкуствен интелект работят в действителност, а не каква е производителността им въз основа на фиксиран бенчмарк“.
