Slopsquatting: Nové nebezpečí z umělé inteligence ohrožuje bezpečnost softwaru

Slopsquatting je nebezpečná forma kybernetického útoku, která zneužívá halucinace umělé inteligence v nástrojích pro vývoj kódu. Vývojáři, kteří se spoléhají na AI asistenty, si tak nevědomě otvírají dveře hackerům přímo do svých projektů.

Nový druh hrozby z oblasti umělé inteligence

Bezpečnostní komunita v posledních měsících upozorňuje na nebezpečný fenomén nazvaný slopsquatting. Jedná se o sofistikovaný typ útoku na bezpečnostní řetězec softwarového vývoje, který zneužívá způsob, jakým fungují moderní AI nástoje pro kódování. Na rozdíl od tradičních útoků typu typosquatting, kde útočníci vytváří doménové či balíčkovací jména podobná těm legitimním, slopsquatting pracuje s halucinacemi umělé inteligence. Hackeři prostě čekají, až si vývojáři vyžádají radu od AI asistenta, který jim nabídne řešení, které vypadá věrohodně, ale obsahuje skrytý škodlivý kód.

Princip útoku je trvale efektivnější než tradiční metody. Když vývojář zadá AI nástrojům jako GitHub Copilot nebo ChatGPT dotaz na určitou knihovnu nebo funkci, AI engine někdy vygeneruje kód, který se odvolává na neexistující balíčky nebo moduly. Pokud se tyto vymyšlené závislosti shodují s balíčky, které si útočník předem registroval, výsledek je očividný – malware se dostane přímo do vývojového procesu. Vývojář pak nevinně integruje takto infikovaný kód do své aplikace, aniž by tušil, že propaguje bezpečnostní hrozbu.

Problém nabývá na vážnosti zejména proto, že AI halucinace jsou téměř nepredikovatelné. Model může pro stejný dotaz dvakrát poskytnout úplně jiné odpovědi, včetně odkazů na neexistující závislosti. Navíc vývojáři často důvěřují výstupu AI nástrojů více, než by měli, a nechají se vést jeho sebevědomým tónem. Pokud AI asistent navrhne knihovnu, která vypadá rozumně a je součástí velké rodiny balíčků, mnoho vývojářů ji bez hlubší kontroly přidá do svého projektu. Tímto způsobem se malware šíří přímo skrze legitimní vývojový pipeline.

Název „slopsquatting" kombinuje slangový termín „AI slop" (označující levný či některdy nekvalitní obsah generovaný AI) s klasickým pojmem „typosquatting". Zatímco typosquatting se zaměřoval na záměrné opisy domén a balíčků, slopsquatting střílí do černého – čeká, až AI halucina sama vymyslí nějakou neexistující závislost, kterou si pak útočník „obsadí".

Jak se před slopsquattingem bránit? Odborníci doporučují několik kroků: nesledovat slepě doporučení AI nástrojů, vždy ověřit existenci a reputable pověsti knihoven a balíčků před jejich přidáním do projektu, používat nástroje pro správu závislostí, které automaticky kontrolují bezpečnost, a především být kritičtí vůči výstupům AI. V současnosti by měl být každý vývojář vědom, že AI asistenti nejsou všemocní orákuly – jsou to statistické modely náchylné k chybám. Čím více se spoléháme na AI v kritických procesech vývoje, tím větší pozornost musíme věnovat verifikaci jejich výstupů.

Slopsquatting tak představuje přesun v taktice kybernetických útočníků, kteří se adaptu jí na nové technologické prostředí. Nepadá se tak proti jednotlivým vývojářům, ale proti samotnému systému, kterým se software vytváří. Aby se tato hrozba eliminovala, bude zapotřebí lepší vzdělávání vývojářů, bezpečnostních praktik a také větší zodpovědnosti od poskytovatelů AI nástrojů.

Rubrika: AI & Technologie