AI моделите трябва да се тестват за токсичност, преди да станат публично достъпни
(снимка: CC0 Public Domain)
Microsoft премахна от интернет един от новите си модели за изкуствен интелект. Причината е, че разработчиците от компанията са забравили да тестват въпросния AI „за токсичност”.
Софтуерният гигант пусна на 15 април WizardLM-2, нова версия на изкуствения интелект WizardLM, и в същия ден го премахна от мрежата, поради липса на тестове за токсичност, съобщи PCMag. Разработчиците, по собствено признание, просто са „забравили” да извършат необходимото тестване на модела.
„Съжаляваме за това”, написаха разработчиците в социалната мрежа X рано сутринта на 16 април. „Случайно пропуснахме елемент, необходим в процеса на пускане на модела – тестване за токсичност”.
В отговор на въпрос на един от потребителите на X разработчиците признават, че просто са забравили за „необходимите тестове”. „В момента бързо завършваме този тест и след това ще пуснем отново нашия модел възможно най-скоро”, се казва в съобщението.
WizardLM-2 се състои от три различни версии, наречени 8x22B, 70B и 7B. Създателите на WizardLM-2 сравняват 8x22B с версията OpenAI GPT-4 и стигат до заключението, че техният модел е само “малко по-назад” в един тест за производителност.
„Оценяваме прозрачността на WizardLM по отношение на това защо моделът е премахнат и очакваме с нетърпение да го качим отново в полза на общността”, заяви представител на Hugging Face, платформа за данни с изкуствен интелект, която съдържа решения с отворен код.
Файловете WizardLM-2 са премахнати от GitHub и Hugging Face. И двете хранилища вече съдържат връзки към модела, които дават грешки 404.
Но може би вече е твърде късно. Алон Бохман, който преди това е работил като старши програмен мениджър в екипа за машинно обучение на Azure (облачната платформа на Microsoft), смята, че „десетки разработчици на отворен код” са успели да изтеглят модела WizardLM-2. Не е ясно дали оригиналната или модифицираната версия представляват риск за потребителите.
През април 2024 г. Съветът за преглед на киберсигурността на САЩ публикува опустошителен доклад за погрешните стъпки и грешки на Microsoft, които направиха възможно през 2023 г. хакването на имейлите на американски служители и кражбата на десетки хиляди техни имейли.
Известно е, че атаката е засегнала имейлите на министъра на търговията Джина Раймондо и други служители на Министерството на търговията, както и американския представител Дон Бейкън и американския посланик в Китай Никълъс Бърнс. Общо 60 хиляди имейла бяха откраднати от 10 акаунта на Държавния департамент на САЩ.
„Културата на сигурността на Microsoft е неадекватна и изисква основен ремонт”, се казва в документа от 34 страници, като се изброяват множество грешки, които могат да се избегнат и които са позволили на атакуващите да успеят.
Седмица след публикуването на доклада TechCrunch съобщи за нов проблем със сигурността на Microsoft. Сървър за съхранение на Azure, който хоства код, скриптове и конфигурационни файлове, съдържащи пароли, ключове и идентификационни данни, използвани от служители на Microsoft за достъп до други вътрешни бази данни и системи, не е бил защитен с парола и е останал достъпен за всеки в интернет.