Čtyři z pěti firem mají AI agenty, které stále neumí kontrolovat. Visa ukázala, jak to dělat správně

Velkými bezpečnostními problémy trpí věcšina podniků, které nasadily AI agenty. Visa během konference VB Transform 2026 předvedla případ, kdy se jí podařilo najít a opravit kritické slabiny ve vlastní platební síti pomocí Claude Mythosu od Anthropicu.

Rajat Taneja, technologický ředitel společnosti Visa, prezentoval na konferenci VB Transform 2026 fascinující případ bezpečnostního testování AI agentů. Návštěvníci se dozvěděli, jak společnost Visa využila pokročilý AI model Mythos od Anthropicu k prověřování bezpečnosti vlastní platební sítě. Experiment odhalil cosi zneklidňujícího: model dokázal identifikovat drobnější slabiny v systému a elegantně je propojit v činné exploitační řetězce. Ještě více zarážející je, že Visa rozhodla svůj bezpečnostní nástroj zpřístupnit open-source, aby jej mohly využívat i další organizace.

Bezpečnostní průlom, kterého se dosáhlo jen zřídka. Případka Vizy přitom reprezentuje právě ten typ podnikové odbornosti, který se v praxi vyskytuje poměrně vzácně. Zatímco technické nástroje na pronásledování bezpečnostních hrozeb existují, schopnost je efektivně nasadit a pak také vykonat potřebné nápravy vyžaduje hluboko zakoření inženýrských kapacit, jež zdaleka ne všechny firmy vlastní.

Statistiky přitom varují před complacencí v AI bezpečnosti. Svěží průzkumy ukazují, že pouze 53 procent podniků, které už nasadily agentní AI systémy, již zažilo nějaký bezpečnostní incident související s chováním těchto autonomních agentů. Konkrétně pak čtyři z pěti firem, které si zabezpečily identitu pro své AI agenty, nejsou schopny adekvátně kontrolovat případ, kdy by agent „zbláznul" a začal jednat mimo svůj zamýšlený rámec operací.

Problém tkví v tom, že moderní AI agenty nejsou jednoduše předvídatelné. Mohou navrhovat nezvyklé řešení, která vedou k překročení bezpečnostních hranic, nebo se zatímco „myslí", mohou chovat nepředvídatelně. Dosavadní bezpečnostní opatření, která byla konstruována pro tradičnější IT infrastrukturu, se často jeví jako nedostatečná.

Viza tím pádem ukazuje cestu, kterou by měly následovat i ostatní podniky. Jde o kombinaci sofistikovaného testování pomocí nejmodernějších AI modelů, schopnosti v reálném čase detekovat anomální chování a především o tom, mít dostatek technických kapacit k bezodkladné nápravě zjištěných slabin. Open-source přístup, který Visa zvolila, také svědčí o tom, že bezpečnost AI systémů není konkurenční výhodou – je to základní povinnost.",

Rubrika: AI & Technologie