Agentní AI rozbíjí základní předpoklady bezpečnosti. Systémy nejsou připraveny

Autonomní AI agenti mohou provést tisíce operací dříve, než zareaguje člověk. Bezpečnostní experti varují, že tradiční modely ochrany dat nejsou připraveny na revoluci, kterou s sebou nese agentní umělá inteligence.

Bezpečnostní průmysl čelí jedné z největších výzev své existence. Zatímco tradičně stavěl své systémy na předpokladu, že člověk je středem rozhodovacího procesu a má dostatek času reagovat na hrozby, agentní umělá inteligence tyto domněnky úplně mění. Moderní AI agenti jsou schopni provádět tisíce akcí, operací a rozhodnutí v době, kdy člověk stihne jen co co se dívat na obrazovku svého počítače.

Rychlost jako nová bezpečnostní hrozba

Nový způsob, kterým pracují autonomní AI systémy, fundamentálně zpochybňuje fungování současných bezpečnostních modelů. Tradiční přístupy k ochraně identity, autentizaci a detekci hrozeb byly navrženy pro rychlost lidských bytostí. Experti na bezpečnost z prestižní konference Black Hat varují, že i nejmodernější bezpečnostní infrastruktura může být při takovéto rychlosti překvapena. AI agent může v řádu minut či sekund otestovat miliony kombinací hesel, prozkoumat všechny přístupové body systému nebo se pokusit o krádež dat dříve, než si to správce systému vůbec uvědomí.

Identita a ověření v novém světě

Jednou z nejpalčivějších problémů, kterým čelíme, je otázka autentifikace a správy identit. Klasické modely založené na heslech, vícefaktorovém ověřování nebo biometrii byly vyvinuty s předpokladem, že se jejich prostředky během ověřování chovat budou jako normální uživatel. AI agent však může pracovat s údaji o identitě zcela jiným způsobem – s metodičností, kterou člověk nemůže dosáhnout. Otázka „jak poznáme, kdo si žádá o přístup" se náhle stává mnohem složitější a zároveň naléhavější.

Ekonomika bezpečnosti se bortí

Dalším problémem, na který upozorňují experti, jsou náklady. Současné bezpečnostní modely počítají s jistými náklady na detekci a prevenci útoků. Agentní AI však může přinést nový typ hrozby – nákladově efektivní, automatizovaný útok, který generuje finanční ztráty v dříve neznámém měřítku. Pokud by se na vaši společnost zaměřil škodlivý AI agent schopný automatizovat útok na miliony účtů nebo transakcí, tradičních nákladů na bezpečnost by se může Show nedostávat.

Připravit se na budoucnost

Bezpečnostní odborníci shodně tvrdí, že základní předpoklady, na kterých stojí dnešní bezpečnostní architektura, musí být zásadně přehodnoceny. Není stačí se spoléhat na reaktivní přístupy – kde se nejdříve detekuje útok a pak se reaguje. Budoucnost bezpečnosti bude závisět na proaktivních opatřeních, které zvládnou předvídat a bránit se útokům rychlostí, která se blíží kognitivním možnostem AI systémů. Organizace, které se na tuto transformaci nepřipraví, budou čelit bezprecedentním rizikům v období, kdy agentní AI vstoupí do širší praxe.

Zdroj: Forbes Innovation

Rubrika: Business