Противоречивото въздействието на изкуствения интелект тревожи обществото
(снимка: CC0 Public Domain)
Ускореното развитие на изкуствения интелект породи сериозни опасения, че технологията може да навреди на човечеството по непредсказуем начин. Надигат се все повече гласове за регулиране на AI разработките, така че да не носят риск за живота на хората.
В отговор на общественото брожение Google, OpenAI, Microsoft, Amazon, Nvidia, Intel и други големи играчи на ИТ пазара създадоха „Коалиция за сигурен изкуствен интелект” (CoSAI). Инициативата цели да се справи с „фрагментирания пейзаж на сигурността на AI” чрез предоставяне на достъп до методологии, платформи и инструменти с отворен код.
Точно какво въздействие CoSAI иска да има върху индустрията с изкуствен интелект не е известно, отбелязва The Verge в публикация за инициативата. Вероятно въпросите за защитата на поверителна информация и дискриминационните проблеми на AI ще станат едно от направленията в работата на тази организация.
IBM, PayPal, Cisco и Anthropic също се присъединиха към инициативата CoSAI, която ще развива дейност в рамките на Организацията за напредък на стандартите за структурирана информация (OASIS) – група с нестопанска цел за насърчаване на отворените стандарти.
Засега CoSAI си поставя три основни приоритета: разработване на ефективни практики за сигурност на AI, справяне с общи предизвикателства в AI и защита на приложения, задвижвани от AI.
„Използваме AI от много години и виждаме ползите, които може да донесе. Но ние също признаваме неговите възможности, които представляват интерес за нападателите”, каза Хедър Адкинс, вицепрезидент по сигурността на Google.
По неговите думи, „CoSAI е предназначена да помогне на малки и големи организации да интегрират и използват предимствата на AI в своите екосистеми по сигурен и отговорен начин, като същевременно смекчават всички потенциални рискове, свързани с него”.