USA zvažuje vytvoření regulační agentury pro audit AI modelů

Americká vláda údajně zvažuje zřízení nezávislé agentuře podobné Finře, která by prováděla přezkum a certifikaci umělé inteligence. Cílem by bylo zajistit bezpečnost a spolehlivost AI systémů ve finančním sektoru a dalších odvětvích.

Podle zdrojů blízkých americké administrativě pracuje Washington na návrhu vytvoření nové regulační instituce, která by se zaměřila na dozor a evaluaci modelů umělé inteligence. Tato agentura by měla fungovat na podobném principu jako Financial Industry Regulatory Authority (Finra), která dlouhodobě dohlíží na činnost investičních společností a zprostředkovatelů na americkém finančním trhu.

Nová instituce by měla být zodpovědná za systematický přezkum AI algoritmů a jejich bezpečnostní certifikaci. Hlavním cílem by bylo zabránit potenciálním rizikům spojených se zaváděním umělé inteligence do citlivých sektorů ekonomiky, především pak do finančnictví, kde mohou chyby nebo manipulace modelů způsobit závažné škody. Agentura by pravděpodobně stanoveovala jasné standardy pro vývoj, testování a nasazení AI systémů.

Zvýšený dohled je reakcí na rostoucí obavy jak zákonodárců, tak regulátorů z možných rizik spojených s nekontrolovaným šířením pokročilých AI systémů. Veřejnost a odborníci na bezpečnost v posledních měsících upozorňují na nedostatečný dohled nad umělou inteligencí a na potenciální nebezpečí, kterými mohou být celospolečenské dopady těchto technologií.

Americký přístup sleduje podobné tendence v Evropě, kde se regulace AI stává součástí legislativního procesu. Právní předpisy se zaměřují nejen na bezpečnost, ale také na transparentnost tvorby modelů a jejich trénovacích dat, práva spotřebitelů a předcházení diskriminaci.

Návrh vytvoření agentury je stále v počáteční fázi a není jisté, zda bude schválen v navrhované podobě. Ačkoli by taková instituce mohla přinést větší porádek do prostředí AI vývoje, kritici varují před možným zpomalením inovací a zvýšením administrativní zátěže pro technologické firmy.

Zdroj: Seeking Alpha

Rubrika: Business