Изкуственият интелект е склонен да халюцинира, но скоро ще има лекарство за това
(снимка: CC0 Public Domain)
Младата компания RagaAI привлече финансиране в размер на $4,7 милиона за разработване на софтуерни инструменти, които опростяват откриването на дефекти в невронните мрежи. Става въпрос за такива проблеми на съвременните AI системи като т.нар. „халюцинации” и невъзможността на изкуствения интелект да предостави критична информация в определен момент от време.
Очаква се разработваните софтуерни решения да подобрят надеждността и безопасността на системите с изкуствен интелект. Стартъпът RagaAI е основан от бивш кадър на Nvidia и Texas Instruments – 44- годишният Гаурав Агарвал, който замисля създаване на такива инструменти след неприятен инцидент с тестване на система за автономно шофиране по пътищата на Калифорния.
Автоматиката на колата не успява да разпознае своевременно препятствие, възникнало по маршрута, в резултат на което Агарвал е принуден да приложи аварийно спиране и по този начин да избегне сблъсъка. В интервю за Блумбърг той разказва за проблемите с невронни мрежи, докато е работил в Nvidia и Ola.
Отстраняването на грешки в работата на системите с изкуствен интелект е важно в редица сценарии, които включват висока степен на отговорност – например при диагностициране на рак, поддръжка на самолети и използване на AI за подбор на персонал, смята Агарвал.
Стартъпът RagaAI е основан в Калифорния още преди AI ботът ChatGPT на OpenAI да навлезе на пазара. Неговата платформа позволява на корпоративни клиенти да проведат повече от 300 теста, които идентифицират тесните места в работата на системите с изкуствен интелект, вкл. проблеми с разпознаване на обекти и появата на „боклук”, както и неверни данни, представени като истина.
Освен това софтуерът на RagaAI позволява да се блокират атаки срещу езикови модели, които ги провокират да правят грешки. Основният екип от специалисти на стартъпа ще бъде разположен в Бенгалуру, Индия, а средствата, събрани по време на неотдавнашния кръг на финансиране, ще се използват за разширяване на компанията.
Според ръководителя на RagaAI, стартъпът вече си сътрудничи с няколко големи клиенти в областта на електронната търговия, аеронавтиката и медицинските изображения. С помощта на платформата те са успели да намалят с 90% броя на грешките в работата на системите с изкуствен интелект.