AI на Microsoft разбира естествен език по-добре от човек

Алгоритъмът за разбиране на естествен език Microsoft DeBERTa превъзхожда човешките възможности в един от най-сложните тестове за оценка на подобни алгоритми – SuperGLUE.

Към момента AI софтуерът на Microsoft за разбиране на естествен език (Natural Language Understanding, NLU) заема първо място в рейтинга с резултат от 90,3 точки, докато средната стойност на човешките възможности е 89,8 бала, съобщи компанията. SuperGLUE включва множество задачи, които са разработени за оценка на способностите AI-модели да разпознават и разбират естествения език. Например, да дават правилен отговор на въпрос на базата на прочетен абзац, да определят правилно се използват многозначни (полисемантични) думи в определен контекст и др.

Тестът е разработен от група изследователи през 2019 година. Когато беше представен SuperGLUE, разликата между най-добре представящия се AI модел и човека в класацията възлизаше на близо 20 точки. За да постигне текущия резултат от 90,3 точки, DeBERTa получи мащабна актуализация на архитектурата: сега тя се състои от 48 слоя и има 1,5 милиарда параметъра.

Microsoft планира да направи AI модела и неговия изходен код публични в GitHub. В допълнение, DeBERTa ще бъде интегриран в следващата версия на Тюринг модела на Microsoft (Turing NLRv4). Той се използва в продукти на Microsoft като Bing, Office, Dynamics и Azure Cognitive Services за подобряване на взаимодействието с чат ботове, генериране на съвети и отговори на въпроси, търсене, автоматизиране на поддръжката на клиенти, създаване на съдържание и други задачи в полза на стотици милиони потребители.

[related-posts]

За разлика от други модели, DeBERTa взема предвид не само значението на думите, но и техните позиции и роли. Например, в изречението „нов магазин, отворен до новия мол” (a new store opened beside the new mall), алгоритъмът може да разбере, че думите „магазин” и „мол” („търговски център”) играят различни синтактични роли.

Освен това алгоритъмът е в състояние да определи зависимостта на думите една от друга. Например, DeBERTa разбира, че връзката между думите „дълбоко” и „учене” е много по-силна, когато те са рамо до рамо (терминът „дълбоко обучение”), отколкото когато се появяват в различни изречения.

Въпреки че DeBERTa превъзхожда човешкото представяне в теста SuperGLUE, това не означава, че AI моделът е достигнал нивото на човек в разбирането на естествения език. За разлика от машините, хората умеят да използват знанията, придобити преди това при изпълнението на различни задачи, за решаване на нови – това се нарича композиционно обобщение. Следователно, въпреки обещаващите резултати от теста на DeBERTa, необходими са допълнителни изследвания, за да се развие това умение в модела.

Microsoft работи активно за подобряване на технологиите за изкуствен интелект. През октомври 2020 г. компанията представи прогресивен алгоритъм за изкуствен интелект, който автоматично генерира надписи за изображения, които в много случаи се оказват по-точни от написаните от хората. Това ще направи продуктите и услугите на Microsoft още по-приобщаващи и достъпни за повече потребители.

На първо място, автоматичното описание помага на хората със зрителни увреждания при работа с документи или уеб страници, а също така позволява достъп до съдържанието на всяко изображение, например при търсене или подготовка на презентации.