AI agenti představují bezpečnostní hrozbu: více než polovina podniků zažila incident související s umělou inteligencí

Nová studie odhaluje vážné bezpečnostní mezery v nasazení AI agentů: 54 procent velkých podniků již čelilo incidentu nebo kritickému skoro-incidentu s agentem. Problém spočívá především v tom, že agenti stále sdílejí přihlašovací údaje a chybí jim adekvátní kontrolní mechanismy.

Bezpečnostní hrozba z AI agentů roste

Výzkum zahrnující 107 podniků ukázal znepokojující realitu: umělé inteligentní agenti získávají skutečný přístup k firemním systémům a datům, zatímco zabezpečovací opatření zaostávají daleko za jejich schopnostmi. Více než polovina oslovených firem již zaznamenala potvrzený bezpečnostní incident nebo přinejmenším kritické upozornění. Tato čísla jasně signalizují, že současné přístupy k zabezpečení AI agentů jsou nedostatečné a podniková IT infrastruktura na tuto výzvu dlouhodobě není připravena.

Jedním z nejvíce alarmujících zjištění je fakt, že většina podniků stále dovoluje svým AI agentům sdílet přihlašovací údaje. Pouze přibližně třetina zkoumaných společností přiděluje každému agentovi vlastní identitu s adekvátně omezeným rozsahem přístupu. To znamená, že pokud by byl jeden agent kompromitován, útočník by získal přístup pomocí stejných přihlašovacích údajů jako desítky dalších agentů, čímž by výrazně zvýšil riziko masivního úniku dat nebo sabotáže.

Situace se ještě zhoršuje, když vezmeme v úvahu práci s nejrizikovějšími agenty. Pouze tři z deseti podniků izolují své nejkritičtější AI agenty od zbytku infrastruktury. Tímto způsobem si firmy zbytečně usnadňují cestu pro případné útočníky, kteří by se mohli soustředit právě na tyto cenné cíle.

Bezpečnostní stack zaostává za potřebami

Zajímavé je, že současný bezpečnostní ekosystém pro AI agenty vůbec není speciálně pro ně navržen. Podniká se spoléhají primárně na bezpečnostní řešení pocházející od poskytovatelů modelů a velkých cloudových platforem, která byla původně vytvořena pro zcela odlišné účely. Chybí tu proto speciálně navržená řešení, která by se orientovala konkrétně na kontrolu a monitorování autonomního chování AI agentů. Toto zaostávání bezpečnostního arzenálu za technologickým pokrokem v oblasti umělé inteligence představuje jednu z nejpalčivějších výzev pro bezpečnost moderních podniků.

Výsledkem je situace, kdy se agenti mohou pohybovat v systémech s příliš velkými právy a bez dostatečného dohledu. Bez purpose-built řešení zaměřených specificky na AI agenty zůstávají firmy zranitelné vůči novým typům hrozeb, které tyto autonomní systémy přinášejí. Bez zásadního zlepšení v oblasti identity managementu, izolace a monitorování budou incidenty pravděpodobně jen přibývat.

Výzva pro budoucnost

Bezpečnostní komunita se tak nachází v kritickém okamžiku. Je naléhavě potřeba vyvinout a implementovat bezpečnostní kontroly, které budou skutečně odpovídat schopnostem a autonomii moderních AI agentů. Firmy by měly bez odkladu přehodnotit své přístupy k identitě agentů, minimalizovat sdílení přihlašovacích údajů a zavést přesnější segmentaci přístupu. Bez těchto kroků se riziko kritických bezpečnostních incidentů bude jen zvyšovat.

Zdroj: VentureBeat

Rubrika: AI & Technologie