Когато лекарите използват технология за разпознаване на изображения с изкуствен интелект, за да откриват и премахват предракови образувания, известни като аденоми, по време на колоноскопии, процентът на откриване е по-висок. Но ако махнат изкуствения интелект, процентът им пада под първоначалното ниво.
Едно скорошно проучване показа, че използването на инструмент с изкуствен интелект води до 12,5% увеличение на процента на откриване на аденоми (ADR). Очаква се това подобрение в диагностиката да спаси много човешки животи.
Но когато лекарите загубят достъп до помощта от изкуствен интелект, способността им да откриват аденоми обикновено пада под нивото от преди да започнат да разчитат на изкуствен интелект, според проучване, публикувано в The LancetGastroenterology & Hepatology.
„Непрекъснатото използване на изкуствен интелект може да намали ADR на стандартната колоноскопия без изкуствен интелект, което предполага отрицателен ефект върху поведението на ендоскопистите”, заключава проучването.
Анализът, базиран на данни от четири ендоскопски центъра в Полша между септември 2021 г. и март 2022 г., сравнява промяната в нежеланите реакции (NDR) на стандартна колоноскопия без изкуствен интелект преди и след като ендоскопистите са започнали да използват изкуствен интелект в своите клиники.
„Нежеланите реакции (NDR) на стандартна колоноскопия са намалели значително от 28,4% (226 от 795) преди до 22,4% (145 от 648) след използването на изкуствен интелект, което съответства на абсолютна разлика от минус 6,0%”, се казва в проучването.
21-те автори на статията в Lancet отбелязват, че през 2019 г. Европейското дружество по гастроинтестинална ендоскопия (ESGE) е предупредило за риска от „деквалификация” в своите насоки за изкуствен интелект.
„Трябва да се вземат предвид възможните значителни рискове при внедряването, по-специално деквалификацията на ендоскопистите и прекомерната зависимост от изкуствен интелект, непредставителните набори от данни за обучение и хакерските атаки”, казва ESGE.
Авторите на анализа вярват, че тяхното проучване е първото, което разглежда ефекта от непрекъснатото използване на изкуствен интелект в клиничните резултати, и се надяват, че откритията им ще подтикнат по-нататъшни изследвания на въздействието на изкуствения интелект върху здравеопазването.
Изкуственият интелект, въпреки всичките си предполагаеми ползи за ефективността, може да наложи разходи за хората, които го използват. През юни изследователи от MIT публикуваха проучване, което установи, че използването на чатботове за LLM е свързано с по-ниска мозъчна активност.
Загрижеността за „деквалификацията”, поради автоматизация, датира от десетилетия. В скорошна статия изследователи от Purdue припомнят научния труд „Иронии на автоматизацията” на психолога Лисан Бейнбридж от 1983 г. , който изследва как автоматизацията на индустриалните процеси може да разшири проблемите за операторите на човешки системи, вместо да ги реши.
Учените от Purdue твърдят, че днес ситуацията е подобна за дизайнерите, които разчитат на изкуствен интелект.
„Нашите открития показват, че макар автоматизацията, задвижвана от изкуствен интелект, да се възприема като средство за повишаване на ефективността, прекомерното ѝ делегиране може неволно да възпрепятства развитието на уменията”, заключават те.
Компютърният учен от Принстънския университет Арвинд Нараянан наскоро заяви, че деквалификацията на разработчиците в резултат на изкуствен интелект е проблем. Но не като страха отпреди години, че компилаторите ще елиминират способността на хората да пишат машинен код – нещо, които никога не се случи.
„От друга страна, ако младши разработчик разчита твърде много на vibe кодиране и следователно изобщо не може да програмира сам на какъвто и да е език и не разбира принципите на програмирането, това определено е проблем”, заключава Нараянан.
