IBM направи огромна стъпка и отвори „черната кутия“ на изкуствения интелект
Нова облачна технология на IBM дава на бизнеса прозрачност при употребата на изкуствен интелект (AI), като позволява по-пълно оползотворяване на неговите възможности.
Софтуерната услуга, която автоматично открива отклонения и обяснява как AI взима решения, работи на IBM Cloud и помага на организациите да управляват системите за изкуствен интелект, предоставени от различни фирми.
IBM Research ще пусне в общността на отворения код инструментариум за откриване и намаляване на отклонения в AI, както и образователна информация. В допълнение, IBM Services ще работи с различните бизнеси, за да им помогне да разучат и използват новата услуга.
„Ние даваме нова прозрачност и контрол на бизнеси, които използват изкуствен интелект и са изправени пред най-голям потенциален риск от неправилно взимане на решения“, каза Бет Смит, генерален мениджър на Watson AI в IBM.
Разработките лежат върху данни от ново изследване на Института за бизнес стойност на IBM, което разкрива, че докато 82% от предприятията обмислят внедряване на AI, то 60% от тях се опасяват от проблеми с отговорността, а 63% от тях не разполагат с таланти, които да управляват технологията.
Софтуерната услуга може да бъде програмирана да следи уникалните фактори за взимане на решения във всеки работен процес на бизнеса, което й позволява да бъде персонализирана според конкретните нужди на организацията.
Възможностите на новия софтуер са достъпни чрез визуални табла за управление
Напълно автоматизирана, софтуерната услуга „обяснява“ на служителите взимането на решения и открива отклонения в моделите на изкуствения интелект по време на изпълнение на задачата – при самото изграждане на решения, хващайки потенциално неверни резултати, когато се появят.
Най-важното – услугата също така автоматично препоръчва данни, които да се добавят към модела, за да се намали всяко отклонение, което е открила.
Обясненията са предоставени с лесни за разбиране понятия, които показват кои фактори влияят върху решението, от една страна, и увереността в препоръката, от друга, както и факторите за тази увереност.
Също така, протоколите за точността, производителността и верността на информацията на модела, както и произходът на системите за AI лесно могат да бъдат проследени и използвани за цели на организацията като обслужване на клиенти, регулации или нужда за съгласие (напр. GDPR).
Всички тези възможности са достъпни чрез визуални табла за управление, които дават на бизнеса и потребителите способност да разбират, обясняват и управляват решения, ръководени от AI, намалявайки необходимостта от специализирани умения за работа с изкуствен интелект.