Напрежението в технологичната надпревара между САЩ и Китай изглежда ще се нагнети още повече, след като Anthropic обвини три китайски лаборатории за изкуствен интелект – DeepSeek, Moonshot и MiniMax – в провеждане на мащабни кампании за извличане на резултатите от Claude и използването им за обучение на конкурентни модели.
Дейността на китайските лаборатории включвала над 16 милиона обмена с изкуствения иннтелект Claude чрез около 24 000 измамни акаунта, което – според Anthropic – нарушава условията за ползване и регионалните ограничения за достъп.
Твърденията са съсредоточени върху т. нар. „дестилация“ – метод, който използва резултати от по-способен модел като данни за обучение на по-малко способен. Методът е често срещан в индустрията и може да се използва легитимно, но Anthropic заяви, че е виждала как той се използва за копиране на поведението на по-развит модел по-бързо и по-евтино, отколкото изграждането на система от нулата.
Anthropic свързва незаконната „дестилация“ с рискове за националната сигурност. По-точно,AI модели, обучени върху „извлечени“ чужди продукти, може да не запазват защитите, които ограничават употребата им в области като разработване на биологични оръжия и злонамерена киберактивност.
Чуждестранните лаборатории биха могли да използват откраднатото за военни, разузнавателни и наблюдателни приложения. Anthropic също така свързва проблема с контрола върху износа на американски чипове върху усъвършенствани системи.
Американският AI разработчик заяви, че приписва дейността на трите китайски лаборатории „с висока степен на увереност“. За целта компанията се позова на корелация на IP адреси, метаданни за заявките и инфраструктурни показатели.
Конкретно DeepSeek е включвала над 150 000 обмена. Описани са подкани, търсещи обосновка в различни задачи, и оценяване въз основа на рубрики, предназначено да накара Claude да действа като модел за възнаграждение за обучение с подсилване. Трафикът изглеждал синхронизиран между акаунтите, с идентични модели, споделени методи на плащане и координирано време.
Регистрирана е една подкана Claude да „си представи и формулира вътрешната обосновка зад завършен отговор и да я запише стъпка по стъпка“ – нещо, което се определя като опит за генериране на данни за обучение на мисловна верига в голям мащаб.
Moonshot е включвала над 3,4 милиона обмена и е фокусирана върху агентно разсъждение, използване на инструменти, кодиране, анализ на данни, разработване на компютърно-използвани агенти и компютърно зрение.
Moonshot е използвала стотици измамни акаунти по множество пътища за достъп, твърди Anthropic. Разнообразието от типове акаунти е затруднявало откриването на координацията. Метаданните на заявките съвпадат с публичните профили на висши служители на Moonshot.
MiniMax пък е генерирала над 13 милиона обмена, насочени към агентно кодиране и използване на инструменти. Anthropic приписа кампанията на MiniMax, използвайки метаданни на заявките и инфраструктурни индикатори.
Anthropic разкри, че е открила операцията, докато тя все още е била активна, преди MiniMax да пусне модела, който обучава. Това, според компанията, е осигурило видимост в жизнения цикъл на дестилацията от генерирането на данни до стартирането на модела.
