Velké jazykové modely mají kritickou slabinu, kterou nelze zcela vyřešit

Výzkumníci objavili fundamentální nedostatek v architektuře velkých jazykových modelů, který je činí zranitelným vůči novým typům útoků. Bezpečnostní experti varují, že tuto vadu nejde jednoduše odstranit bez zásadního předesignování AI systémů.

Hluboký problém v jádru umělé inteligence

Výzkumníci z MIT a dalších vědeckých pracovišť přišli s alarmujícím zjištěním: velké jazykové modely trpí fundamentální architektonickou vadou, která je zásadně ohrožuje na poli bezpečnosti. Podle jejich analýzy nejde o běžnou chybu, kterou by bylo možné zaplátkou opravit v příští verzi softwaru. Jedná se o inherentní vlastnost způsobu, jakým tyto systémy fungují a zpracovávají informace.

Vada spočívá v tom, jak modely transformují vstupy a generují výstupy. Právě tato základní operace je velmi podléhavá speciálním typům útoků, které původní tvůrci systémů neočekávali. Bezpečnostní specialisté nyní hledají cesty, jak zvýšit odolnost těchto modelů, ale přiznávají, že úplná ochrana není vůbec realistická bez zásadnějších změn v jejich designu.

Nové hrozby pro ChatGPT a konkurenty

Objevená zranitelnost má obrovský dosah, protože se týká prakticky všech velkých jazykových modelů dostupných na trhu – od OpenAI ChatGPT přes Anthropic Claude až po Google Gemini. Útočníci mohou tímto způsobem manipulovat výstupy modelů, přimět je k vygenerování nebezpečného obsahu nebo získat citlivé informace. Problém spočívá v tom, že vzhledem ke globálnímu rozšíření těchto nástrojů v byznese i mezi běžnými uživateli se tato slabina týká prakticky všech, kdo je používá.

Tichý návrat geotermální energie

Kromě bezpečnostních výzev si v technologickém světě stoupá pozornost i starému hráči: geotermální energii. Několik projektů v USA a Evropě se snaží oživit staré, dlouho nevyužívané geotermální elektrárny. Zdá se, že moderní technologie včetně AI pro predikci zemětřesů a lepší techniky vrtání činí geotermální energii znovu atraktivní. Vzhledem k rostoucím požadavkům na čistou energii pro datová centra a AI servery se tato technologie stává jednou z perspektivnějších cest, jak zajistit spolehlivou energetickou základnu pro digitální transformaci.

Návrat k geotermální energii reprezentuje pragmatický přístup k energetické budoucnosti – kombinuje ověřené technologie s moderními inovacemi, aby se vyřešily aktuální výzvy klimatické krize a rostoucích energetických nároků digitálního světa.

Zdroj: MIT Technology Review

Rubrika: AI & Technologie