“За да изградим доверие в AI решенията, трябва да мислим за представянето им през целия жизнен цикъл, а не само по време на разработката” – Рахул Ядав, главен технологичен директор на Milestone Systems (снимка: личен архив)
Светът на видеотехнологиите достига вълнуваща повратна точка и изкуственият интелект играе важна роля. Бил Гейтс, съосновател на Microsoft, смята развитието на AI за най-важния технологичен напредък през последните десетилетия. „Това ще промени начина, по който хората работят, учат, пътуват и общуват помежду си”, казва той.
ChatGPT е добър пример. AI позволява на хората да се съсредоточат върху по-сложни задачи и да предприемат действия въз основа на получената информация.
Освен ChatGPT, комбинацията от други смарт устройства със задълбочен анализ ще промени света на технологиите и ще донесе много предимства както за хората, така и за бизнеса и обществото.
Въпреки това сме наясно, че тези технологии крият рискове и е естествено да се тревожим за нарастващата роля, която те ще играят в нашето ежедневие. Бъдещите поколения може да имат различни очаквания за това как технологиите, и по-специално AI решенията, се използват в обществото. Ето защо има нарастващо търсене на нов подход, при който технологията не е цел, а средство за постигане на целта.
Как бихме могли да гарантираме отговорно и безпристрастно използване на технологиите? Традиционно дебатът относно работата на AI решенията се фокусира върху това как да се събират и използват данни, като същевременно се избегнат предразсъдъци. По-конкретно, има три области, които трябва да се вземат предвид:
- Kак данните за обучение могат да бъдат събрани по начин, който не нарушава конфиденциалността на хората?
- Как можем да валидираме, че данните, използвани за обучение, осигуряват точно представяне на оперативната среда по време на разработката?
- По време на внедряване как можем да оценим представянето на решението в оперативната среда, за да разкрием предубедени поведения и да преценим дали работата на решението се влошава с течение на времето?
Вече не можем да преценим ефективността на AI решение, като просто преброим броя на верните и грешните, положителните и отрицателните инциденти. За да изградим доверие в AI решенията, трябва да мислим за представянето им през целия жизнен цикъл, а не само по време на разработката. Това означава да разполагаме с по-добър набор от тестови данни по време на разработката, а след това непрекъснато да наблюдаваме работещите решения за странични ефекти и непредвидени последствия.
Занапред трябва да наблюдаваме решението през целия му цикъл. И ако представянето му се влоши, то трябва или да бъде преработено, или заменено.
За да бъдат приети AI решенията като част от ежедневието, технологичните компании трябва да използват тези технологии, за да служат за доброто на човечеството, а не само за генериране на приход. За да се възползват настоящите и бъдещите поколения, трябва да приложим тази невероятна технология по правилния начин, тоест отговорно.
автор: Рахул Ядав, главен технологичен директор на Milestone Systems