Всички наши въпроси при създаване на която и да е нова технология трябва да са насочени към това как решението ще донесе повече благополучие за отделния човек и за обществото, казва Селам Могес, софтуерен инженер в Apella (снимка: Мария Малцева / TechNews.bg)
Развитието на ИТ системите поставя предизвикателства за технологичния свят, защото чертае нови граници за етиката при създаване на приложения. Това е аспект, за който недостатъчно се замисляме, когато проектираме каквато и да е нова ИТ система.
Какви са последиците за всички хора от обществото, когато проектираме дадено приложение? Ще се чувстват ли по-добре всички? Как ще се отрази новото технологично чудо на усещането за общност? А на околната среда? Дали няма да има някой, който да се почувства унижен, оскърбен, пренебрегнат?
Такива въпроси трябва да си зададем, преди да пуснем „на вода” каквото и да е ново приложение или друга нова технология, призова Селам Могес, софтуерен инженер в компанията за медицинско оборудване Apella, по време на своята презентация на конференцията DevReach 2023, организирана от Progress в София Ивент Център.
Всички наши въпроси по време на създаването на която и да е нова технология трябва да са насочени към това как решението ще донесе повече благополучие за отделния човек и за обществото, посочи Могес.
Нека си представим скенера за сигурност на летището. Ние всички трябва да минем през него, за да можем да се качим на самолета си. Но понякога той неочаквано започва да пищи и всички се обръщат, разказа Могес. Причината може да е всякаква, например метална основа на копчето на панталона – но резултатът е, че пътникът се притеснява, всички се вторачват в него, настава конфуз. Ето за такива ситуации на смущение и неудобство трябва да внимаваме, когато проектираме каквато и да е нова технология, каза Могес.
Днес това е особено голямо предизвикателство, защото изкуственият разум се използва все повече, но той няма етични съображения. Ако една полицейска система, например, е склонна да изкара цветнокожите хора по-вероятни престъпници, това вече е изкривяване, което не бива да се допуска.
Предизвикателствата на AI се простират и много отвъд мислимото и техните последствия ще са дългосрочни, стана ясно от посланието на софтуерната инженер. Така например, много хора вече използват генеративни алгоритми за създаване на текстово и визуално съдържание, но все още няма политики за регулиране на работата на изкуствения разум. А това създава конфликти, например в сферата на авторските права. Дори да приемем, че още днес ще се появи адекватна нормативна рамка, вече са налице милиони творби, генерирани в периода от създаването на AI приложения като DALL-E до днес.
Водещ мотив при създаване на каквато и да е нова технология трябва да е доброто потребителско преживяване, което не причинява разочарование или обида. Аргументите за това са поне два. Първият е лошото потребителско преживяване: когато хората се чувстват зле от работата с дадена система, те няма да искат ползват технологията. Вторият аргумент са разходите. Всяко препроектиране на съществуващо приложение коства време и разходи, защото отваря нов цикъл на дизайн, тестване, валидиране и пускане на пазара.
Бихме могли да мислим за етиката като за способността на нашата технология да включва всички възможни представители на обществото – хора от различни религии, пол, възраст, способности. Всяка полезна функция, която вграждаме, реално носи полза за широката общественост.
Един от най-забележителните примери е снишаването на бордюрите в края им, предназначено за по-лесно пресичане на улицата за хора в инвалидни колички. Оказва се, че това малко подобрение е нещо, което почти всички хора ползват – трудно ходещите възрастни хора с бастуни и патерици, дамите с тежки пазарски колички, велосипедистите, скейтбордистите, майките с бебешки колички. Това е отличен пример как една добра нова функция може да благоприятства цялото общество.
В стремежа си да създаваме по-добри технологии трябва да се водим от принципа да не нанасяме вреда и да правим по-добър живота на хората. Това са въпросите, които следва да си задаваме отново и отново, каза Могес. Обратно, лошо проектираното приложение не подобрява живота на хората и дори нанася вреда, защото на практика съсипва труда на колегите ни.
Но нима можем да бъдем толкова съобразителни и далновидни, че да предвидим всички възможни варианти и вариации?! За да постигнем адекватност, развойните ни екипи трябва да са колкото се може по-пъстри. В тях е добре да има разнообразни хора, защото те ни дават различни гледни точки.
Един метод, който може да ни помогне да се задълбочим в етичните аспекти на своята нова разработка, е на етапа на проектиране да си представим всички хипотетични приложения на технологията, включително и сценария, в който системата се проваля и не намира реализация. Трябва тук да си зададем въпроса какви са причините, довели до срива. Вникването в това какви биха били възможните причини ще ни отведе до множество съображения, които трябва да вземем предвид от гледна точка на етичното проектиране на приложенията, заключи Могес.
