Maine zavádí přísné zákony pro AI v psychoterapii. Terapeuti nemohou léčit pomocí umělé inteligence

Americký stát Maine schválil nový zákon, který výrazně omezuje používání AI nástrojů v psychoterapii. Regulace by měla chránit pacienty, ale podle analytiků má také několik závažných mezer.

Stát Maine se stal průkopníkem v oblasti regulace umělé inteligence v duševním zdraví. Přijatý zákon jasně zakazuje terapeutům a psychologům používat AI systémy jako přímý léčebný nástroj přímo pro pacienty. Toto opatření lze vnímat jako odpověď na rostoucí obavy, které se datují do období hromadného nasazování AI v medicíně bez patřičného dohledu.

Cílem legislativy je chránit zranitelné skupiny pacientů, kteří se na profesionály obrací v duševní nouzi. Novinkou je explicitní zákaz rozhodovat se o léčebném postupu výhradně na základě doporučení algoritmu. Legislativa tak reaguje na případy, kdy byl pacientům doporučen nevhodný léčebný postup nebo byl podcenění psychologické problémy, které algoritmus nezachytil. Maine se tak zařadilo mezi státy, které se snaží předejít možným zdravotnickým chybám vzniklým automatizací zdravotnické péče.

Přesto obsahuje zákon několik problematických mezer, které jej činí méně účinným, než by mohlo být. Regulace například přesně nedefinuje, co se rozumí „AI nástrojem pro klientskou péči" a neví určitých šedých zón. Není jasné, zda se zákon týká i pomocných AI aplikací, které terapeuti používají k organizaci poznámek z terapií, analýze trendů nebo preparaci informací. Pokud by se aplikoval na všechny AI nástroje bez výjimky, mohl by paralyzovat moderní terapeutickou praxi. Pokud by se vztahoval jen na konkrétní chatboty sloužící jako primární terapeuta, pak by mnoho obcházejících řešení zůstalo bez regulace.

Právnická interpretace zákona bude zásadní. Legislativa neobsahuje konkrétní definice, jaké sankce čekají terapeuta, který zákon porušuje, ani jak budou porušení zjišťována a vymáhána. Absence jasného mechanismu pro dohled a kontrolu může vést k situaci, kdy se zákon stane papírovým tygerem - vyhlášeným, ale fakticky nevynutitelným.

Kroky Maine však nejsou osamocené. V Evropě se podobné regulace prosazují prostřednictvím AI Aktu, který přímo zakazuje vysokorizikové aplikace umělé inteligence v oblasti zdravotnictví a duševního zdraví. Rozdíl spočívá v tom, že evropská legislativa je podrobnější a má jasné mechanismy vymáhání. Maine tak ukazuje, že regulační snahu USA a Evropy lze sjednotit právě v oblasti péče o duševní zdraví.

Pro americké terapeuta znamená rozhodnutí Maine zásadní posun v tom, jak budou moci AI integrovat do své praxe. Nicméně, pokud budou existovat nejasnosti v interpretaci, mohou být nuceni konzultovat právníky nebo čekat na soudní výklady předtím, než zavádět jakékoliv AI řešení do své terapeutické praxe. To potenciálně zpomaluje inovace v tomto odvětví a může vést k tomu, že pacienti nebudou mít přístup k některým potenciálně prospěšným technologiím.

Zdroj: Forbes Innovation

Rubrika: Business