Umělá inteligence v pojišťovnictví: Zázrak nebo noční můra?

Americká vláda testuje pilotní program, který používá umělou inteligenci k rozhodování o pojistném krytí pacientů. Přinese tato technologie zjednodušení byrokratického procesu, nebo jen posílí úzkoprofilnost systému?

Americké zdravotnické pojišťovnictví se chystá na zásadní změnu. Federální vláda zahájila pilotní projekt, jehož cílem je automizovat jeden z nejkontroverzněších procesů zdravotní péče – tzv. prior authorization. Jde o systém, kdy pojišťovna musí předem schválit léčebný postup, než si jej pacient může dovolit. Nová iniciativa by měla využít umělou inteligenci k urychlení rozhodovacího procesu. Stát ale zároveň bojuje s obavami, že AI by mohla situaci ještě více zkomplikovat.

Prior authorization je v USA známá jako jeden z největších problémů moderního zdravotnictví. Pacienti i lékaři si stěžují na zbytečné zpoždění léčby, kdy by měl algoritmus nebo úředník schválit už dávno vyhotovenou diagnózu. Řada případů skončila tragicky právě proto, že se schválení léčby oddalovalo. Očekávání je tedy jasné: AI by měla tento proces zrychlit a učinit jej více objektívním. Algoritmy by totiž neměly být svázány subjektivními postoji či personálním vytížením, jako se to děje u lidských rozhodovatelů.

Realita je ovšem složitější. Odborníci varují, že automatizace procesu skrze AI přináší i vážná rizika. Především existuje obava, že algoritmy zděděné z minulých rozhodovacích vzorů mohou perpetuovat diskriminaci. Pokud bude AI trénována na datech, která odrážejí historické nerovnosti v přístupu ke zdravotní péči, bude tuto nerovnost reproducovat. Navíc AI nemusí být schopna posoudit nuance jednotlivých lékařských případů, které by člověk intuitivně zvážil.

Skeptici také poukazují na to, že by pojišťovny mohly AI zneužít k ještě rigoróznímu odmítání vybraných léčeb. Místo aby algoritmus sloužil pacientům a lékařům, může se stát nástrojem k redukci nákladů na úkor kvality péče. Klíčová proto bude regulace a transparentnost – veřejnost musí vědět, podle jakých pravidel AI rozhoduje.

Pilotní program americké vlády je proto v mnoha ohledech testem, který překročí hranice zdravotnické péče. Pokud se podaří vytvořit system, který je skutečně přínosný, mohly by jej následovat i jiné země včetně České republiky. Naopak selhání by mohlo natrvalo poškodit důvěru v AI v medicíně. Výsledky budou sledovány pozorně – nejen ze strany lékařů a pacientů, ale i ze strany regulatorů na celém světě.

Zdroj: Ars Technica

Rubrika: AI & Technologie