През последните месеци се появиха много AI модели, които, въпреки че удивляват с широките си възможности, крият известна заплаха за целия свят
(снимка: CC0 Public Domain)
Фондация Mozilla, организацията с нестопанска цел зад браузъра Firefox, започна нов проект. Това ще бъде надеждна система с изкуствен интелект, която се базира на отворен код и ще се ползва с доверие сред потребителите.
През последните месеци се появиха много AI модели, които, въпреки че удивляват с широките си възможности, крият известна заплаха за целия свят, казва Марк Сърман, главен изпълнителен директор на стартиращата компания за изкуствен интелект Mozilla.ai.
Превърналият се в стандарт за индустрията ChatGPT на OpenAI може да пише злонамерен софтуер, да открива уязвимости в кода с отворен код и да създава фишинг сайтове, които възпроизвеждат вида на проекти с голям трафик.
Изкуственият интелект Stable Diffusion пък се използва за генериране на изображения с нецензурно съдържание, „дийпфейкове” и сцени на насилие. Създателите на тези модели твърдят, че предприемат някои стъпки за ограничаване на злоупотребите, но Mozilla смята, че това не е достатъчно.
Фондацията задели 30 милиона долара за създаване на стартираща компания, наречена Mozilla.ai. Мърк Сърман я описва като организация, която съчетава характеристиките на изследователска фирма и общност.
В началния етап Mozilla.ai привлече екип от 25 души – инженери, учени и продуктови мениджъри, а дългосрочната цел е създаване на голяма мрежа от свързани фирми и изследователски групи – стартиращи компании и академични институции, които споделят ценностите на проекта.
Mozilla.ai вярва, че на пазара има търсене на сигурни AI системи и технологичната индустрия ще може да използва постиженията на стартъпа като стандартен набор от инструменти, по аналогия с Linux и Apache. Очаква се проектът да бъде подкрепен както от научни организации, така и от търговски компании.
В същото време Mozilla.ai не е организация с нестопанска цел – тя се придържа към определени етични принципи, но постепенно разширява обхвата на своята дейност. Този модел осигурява известна гъвкавост и позволява на стартъпа да използва опита от други проекти.
Така например, OpenAI беше създадена през 2015 г. като организация с нестопанска цел, но трябваше да промени драстично стратегията си, за да може да продължи изследванията, и това е обезпокоителен прецедент.
В близко бъдеще Mozilla.ai планира да разработи система, която позволява на потребителите да прецизират източниците на AI отговори, както и система, която им дава контрол върху алгоритмите за препоръчване на съдържание – подобно на YouTube, Twitter и TikTok. Разработчиците не обещават бърз резултат, но първите продукти може да се появят преди края на годината.