Изкуствен интелект в здравеопазването: подводни камъни

Изкуственият интелект може да помогне за по-ефективни здравни грижи, но учените се тревожат, че данните са носители на изкривени модели на поведение, които ИИ може да мултиплицира (снимка: CCO Public Domain)

„Изкуственият интелект се сочи като вестител на „златната“ ера в здравеопазването – поне в това, което западният свят познава. Сдъвквайки огромните обеми данни за пациентите от цели страни, изкуственият интелект може да отприщи тертипи и тенденции, които да помогнат за по-ефективните, по-целенасочени и по-икономични здравни грижи. Но учените с тревога установяват, че данните са носители на изкривени модели на поведение, които ИИ може да мултиплицира.

Когато група учени от Чикаго, Илинойс, се заемат да проверят дали алгоритъмът за машинно самообучение може да предскаже колко дълго ще стоят хората в болниците, изследователите са убедени, че правят на всички услуга. Задържането на хора в болница струва пари и ако мениджърите знаят кои пациенти по-скоро ще са готови да бъдат изписани, по-лесно ще управляват списъка с приоритети на лекарите, за да избегнат ненужни забавяния.

Това би било печеливша ситуация: болницата ще спести пари и хората могат да си тръгнат възможно най-скоро. Оказва се, че не е съвсем така.

Незабелязани странности

Започвайки работата си в края на 2017 г., учените обучават своя алгоритъм върху данните за пациентите от академичната болнична система на Университета в Чикаго. Вземайки данни от предишните три години, учените обработват числата, за да видят каква комбинация от фактори най-добре прогнозира продължителността на болничния престой. В началото те разглеждат само клинични данни. Но когато разширяват анализа си с друга информация за пациентите, изненадващо откриват, че една от най-добрите прогнози за продължителност на престоя е… пощенският код на човека.

Това е озадачаващо, отбеляза Nature. Какво общо има продължителността на престоя на човек в болница с мястото на живеене?

Докато изследователите се задълбочават, проблемът се усложнява. Пощенските кодове, които се свързват с по-дълъг престой в болниците, съответстват на бедни региони с преобладаващо афро-американско население. Хората от тези райони остават в болници по-дълго, отколкото тези от по-заможните райони с предимно бели хора.

Причината за това несъответствие убягва на екипа. Може би хората от по-бедните райони биват приемани с по-тежки болести? Или може би е по-малко вероятно да им бъдат предписани нужните лекарства?

Загадката дава начало на медико-етична главоблъсканица. Ако оптимизирането на болничните ресурси е единствената цел на програмата, то пощенските кодове на хората очевидно биха били мощен инструмент за прогноза за продължителността на болничния престой. Но използването на този метод на практика би отнело болнични ресурси от бедните, от чернокожите – и би го пренасочило към заможните бели хора. А това ще изостри съществуващите нередности в системата.

Боклук на входа, боклук на изхода

„Първоначалната цел беше повече ефективност, което само по себе си е добра цел“, казва Маршал Чин, който изучава здравно-медицинската етика в Университета на Чикаго и е един от учените, работили по проекта. Но справедливостта също е важна, допълва той – и това не е изрично взето предвид в дизайна на алгоритъма.

Тази история от Чикаго е като своевременно предупреждение за медицинските изследователи, които сa се насочили към прилагане на изкуствения интелект за подобряване на здравеопазването. Инструментите на ИИ могат да донесат големи ползи за хората, които в момента не са обслужвани добре от здравната система.

Така например, ИИ инструмент за рентгенография на гръдния кош в търсене на признаци на туберкулоза, разработен от стартиращата Zebra Medical Vision в Шефаим, Израел, вече работи в много болници в Индия, където ускорява диагностицирането на заболяването. Алгоритмите за машинно самообучение биха могли също да помогнат на учените да разберат кои хора как ще реагират на дадено лечение – навлизайки в епохата на „персонализирано“ здравеопазване.

Но цялата тази революция зависи от данните, които са достъпни за инструментите на изкуствения интелект. Ако тези данни отразяват една несправедлива здравна система, каквато е налице днес на много места по света, резултатът ще е мултиплициране на несправедливостта.

„В някои системи на здравеопазване има много базови неща, които се игнорират, най-вече от гледна точка на качеството на грижите, които хората получават“, казва Кадиджа Фериман, антрополог от инженерното училище в Нюйоркския университет Тадон, който изучава социалните, културните и етичните въздействия от използването на ИИ в здравеопазването.

Иначе казано, съществуващите неравенства се запазват в терабайтите здравни данни, които изкуственият интелект „сдъвква“. Това означава, че има риск, казва Фериман, инструментите на „златната“ ера на здравеопазването да задълбочат неравенствата.