Regulátor varuje: Závod se umělou inteligencí v bankovnictví se vymyká kontrole

Britský finanční regulátor varuje, že rychlý rozvoj umělé inteligence v sektoru služeb vytvořil závod ve zbrojení, který ohrožuje dohled nad miliony lidí spoléhajících se na AI při finančních rozhodnutích.

Britská finanční autoriteta (FCA) vyzývá na posílení svých regulačních pravomocí, aby mohla efektivně sledovat rostoucí vliv umělé inteligence v oblasti finančních služeb. Představitelé regulátora varují, že tradiční přístupy k dohledu již nestačí na to, aby zvládly tempo, kterým se technologie zavádí do investičních a spořících aplikací.

Rizika pro miliony uživatelů

Problém není pouze v množství fintech aplikací, které nyní využívají AI pro poskytování osobních finančních rad. Hlavní obavy se týkají transparentnosti těchto systémů a jejich předvídatelnosti. Když si běžný Brit stahuje aplikaci pro správu finančních prostředků nebo investment poradce s umělou inteligencí, často netuší, podle jakých algoritmů mu systém doporučuje konkrétní řešení. Podle slov oficiálů FCA tvoří tuto situaci závod v inovacích, který sektoru příliš uléhá.

Výzva pro britské regulátory

Představitelé britské finanční inspekce nyní otevřeně hovoří o nutnosti získat silnější nástroje pro dohled. Jedná se o právo lépe nahlížet do fungování AI modelů, která jsou často držena jako obchodní tajemství firem, a také o možnost rychleji reagovat na potenciální rizika. Bez těchto pravomocí se FCA cítí být v pozici, kdy běžela v závodě se zbrojením – neustále se snaží dohonit inovace, které se vyvíjí mnohem rychleji, než je schopna posoudit z hlediska rizika pro spotřebitele.

Dopad na osobní finance britských domácností

Situace v Británii není výjimkou, ale případ, který by měl znepokojit všechny státy, jejichž občané aktivně využívají moderní finanční aplikace. Podle průzkumů již miliony Britů každodenně spoléhají na AI poradce při rozhodování o svých investicích, spořicích účtech nebo půjčkách. Pokud tyto systémy fungují na základě zkreslených dat nebo pokud jsou jejich algoritmy nedostatečně testovány, hrozí z toho vyplývající ztráty právě těmto milionům lidí.

Britské finanční služby tak čelí kritickému okamžiku, kdy je nezbytné nalézt rovnováhu mezi inovacemi a ochranou spotřebitele. FCA si uvědomuje, že bez posílení svých kapacit a pravomocí nebude schopna efektivně chránit veřejnost před potenciálními riziky, která s sebou přináší nekontrolovaný rozvoj AI v tak citlivé oblasti, jakou je řízení osobních financí.

Zdroj: Ars Technica

Rubrika: AI & Technologie