Řízení AI agentů v podnicích zaostává: firmy nasazovaly bez kontroly

Výzkum společnosti VentureBeat odhalil, že podniky nasadily AI agenty bez patřičných mechanismů řízení a kontroly. Nyní se snaží chybu napravit a zahajují investice do bezpečnějších řešení.

Ambiciózní nasazování umělé inteligence v podnicích postupuje rychleji, než se stihly vypracovat kontrolní mechanismy. To je hlavní závěr obsáhlého výzkumu agentury VentureBeat Research, která v červnu realizovala pět paralelních průzkumů pokrývajících všechny vrstvy technologického stacku zaměřeného na AI agenty. Zjištění je jednoznačné: podniky věděly, že jdou do rizika, a udělaly to přesto.

Situace, v níž se teď ocitly těmto firmám, není vůbec příjemná. Nasadily výkonné nástroje pro automatizaci bez dostatečných bezpečnostních prvků, auditovacích nástrojů a procesů vedoucích k transparentnosti a zodpovědnosti. Nyní se vrhají na retrospektivní řešení — začínají instalovat kontroly a systémy řízení tak, aby jejich AI agenti operovali v souladu s korporátními standardy. Finanční důsledky jsou značné.

Masivní reinvestice do kontroly a bezpečnosti

Čísla vypovídají sama za sebe. Napříč všemi pěti měřenými vrstvami kontroly se 57 až 68 procent respondentů chystá během příštích dvanácti měsíců buď přejít k novému dodavateli, nebo přidat nového řešitele do své infrastruktury. Podstatná část těchto podniků také plánuje významné rozpočtové zvýšení na governance AI agentů. Půjde o jednu z největších reinvestičních vln v podnikové technologii letošního roku.

Zajímavé přitom je, že vysoké vedení mnoha společností si problém uvědomovalo již v okamžiku nasazení. Zběsilý tempu zavádění AI řešení byla prioritou, kontrola přišla na řadu až později. Tato strategie — často nevědomě či vědomě vyřešená tak, že se firma postaví čelně problému později — se nyní vrací jako technický i finanční dluh.

Governance AI: stále vyvíjející se oblast

Výzkum odhalil, že governance v oblasti AI agentů zůstává jednou z nejméně rozvinutých oblastí podnikového IT. Podniky mají jasné procesy pro správu tradičních aplikací, dat i cloudových služeb, ale v případě autonomních AI agentů operují často spíše na bázi pokus-omyl. Nepřekvapuje tak ani to, že mnoho firem nyní aktivně hledá externích poradců, kteří by je navedly správným směrem.

Výsledek výzkumu VentureBeat Research by měl sloužit jako varování pro ostatní podniky plánující své AI strategie. Implementace kontrolních mechanismů a governance od počátku je podstatně levnější a jednodušší, než je dodatečně instalovat do již běžícího systému. Podniky, které se rozhodly pro opatrný přístup kombinující nasazení s rovnoběžným budováním kontroly, se nyní nacházejí v podstatně lepší pozici.

Rubrika: AI & Technologie