Nebezpečné chyby v AI nástrojích: Jak se Copilot dostal do vaší pošty a LiteLLM rozdával klíče správcům

Dva populární AI nástroje se staly obětí stejného typu bezpečnostní chyby. Výzkumné týmy odhalily zásadní problém: podnikové AI systémy přijímají externí vstupy bez jakéhokoliv mechanismu ověřování důvěryhodnosti.

Bezpečnostní průlomy v AI ekosystému zaměřují pozornost na fundamentální chybu v designu moderních nástrojů. V půli června tento rok výzkumný tým Varonis odhalil kritickou zranitelnost v Microsoft 365 Copilot Enterprise Search, kterou označil jako SearchLeak (CVE-2026-42824). Jedná se o důmyslný útok, kdy postačí, aby oběť pouze klikla na připravený odkaz z domény microsoft.com. Systém Copilot následně automaticky prohledá obsah uživatelovy schránky a získaná data se vycurují přes SSRF (Server-Side Request Forgery) chybu v Bingu. Alarmující na tom je, že útok nevyžaduje aktivaci žádných pluginů ani další interakci uživatele.

Zranitelnosti se netýkají jen Microsoftu. Obdobný problém se objevil i u oblíbeného nástroje LiteLLM, který slouží k řízení velkých jazykových modelů. Bezpečnostní výzkumníci zjistili, že platforma nebezpečně distribuuje administrátorské klíče systému. Čtyři nezávislé výzkumné týmy během pouhých dvou týdnů identifikovaly podobné vektory útoku, což vypovídá o systematičnosti problému. Společným jmenovatelem všech případů je stejný mód operandi: podnikové AI aplikace bez rozpaků přijímají externí vstupy bez vytvoření důvěryhodnostní hranice.

Problém spočívá v architektuře dnešních AI systémů, které byly stavěny s důrazem na flexibilitu a pohodlí uživatele, nikoliv na bezpečnost. Když Copilot či jiné integrované AI nástroje komunikují s různými služby a zdroji dat, téměř kompletně spoléhají na okolní bezpečnostní mechanismy. Jakmile se ale tyto mechanismy selhají – ať už vzhledem k chybě v kódu nebo designu – je cesta pro útočníka otevřena příliš přímá a přímočará.

Co by měly dělat podniky hned teď? Bezpečnostní specialisté doporučují provést pětiodstavcový audit právě teď, dokud se situace nestane kritičtější. Zaměřit se chce především na: 1) inventarizaci všech AI nástrojů používaných v organizaci, 2) kontrolu oprávnění a přístupů, která mají k citlivým datům, 3) audit loků a bezpečnostních politik komunikace mezi moduly, 4) testování malých a důmyslných vstupů, které by mohly spustit nečekané chování, a 5) pravidelné školení zaměstnanců o hrozbách související s AI.

Tyto incidenty nevyznívají jako ojedinělé chyby, ale jako signál systémového problému. Pokud podniky nebudou jednat proaktivně, lze očekávat, že podobné zranitelnosti se budou objevovat stále. Čas na jednání je právě teď, než se vaše data stanou cílem příště.

Zdroj: VentureBeat

Rubrika: AI & Technologie