Bílý dům požaduje nemožné: Úplná ochrana AI před hackováním

Administrativa USA chce, aby společnost Anthropic úplně zablokovala všechny pokusy o obcházení bezpečnostních prvků své AI. Odborníci však tvrdí, že tohle je prakticky nemožné dosáhnout.

Americká administrativa nařídila společnosti Anthropic nemožný úkol. Podle informací, které má redakce TrendMagazine.cz z relevantních zdrojů, pokud chce technologická firma znovu uvést na trh svůj pokročilý AI model, musí zajistit absolutní odolnost proti všem typům obcházení bezpečnostních opatření. To jsou ale požadavky, které experti označují za nerealizovatelné v praxi.

Bezpečnostní specialisté z akademického a průmyslového prostředí se shodují na jednom: vytvořit systém umělé inteligence, který bude zcela odolný vůči všem druh manipulacím a obcházením, prostě není možné. Hackeři a výzkumníci v oblasti bezpečnosti pravidelně objevují nové metody, jak obejít ochranné mechanismy v AI systémech. Tyto takzvané „jailbreaky" se týkají způsobů, jak donutit model, aby ignoroval své základní instrukce a bezpečnostní pravidla.

Problém je v samotné povaze umělé inteligence a způsobu, jakým jsou tyto systémy natrénované. Žádný algoritmus nebo bezpečnostní protokol nemůže teoreticky pokrýt všechny možné scénáře a kombinace vstupních dat, které by se daly zneužít. I když by vývojáři implementovali ty nejpřísnější kontroly, vždy bude existovat potenciální mezera, kterou mohou objevit noví útočníci. Právě to dělá požadavky Bílého domu z technické stránky velmi problematickými.

Antropic stojí tak před dilematem, který řeší celá industriie AI. Na jedné straně je tlak od regulačních orgánů, aby AI systémy byly co nejbezpečnější. Na druhé straně je vědecká realita, která odmítá absolutní záruku. Společnost bude muset najít kompromis – vyvinout co nejrobustnější ochranu, kterou je technologicky možné implementovat, s vědomím, že dokonalost není dosažitelná.

Situace se stává symbolem širší debaty o regulaci umělé inteligence v USA. Zatímco je bezpečnost nepochybně důležitá, politici a úředníci se někdy ocitají v pozici, kdy vyžadují řešení, která překračují hranice současné vědy a techniky. Tato napětí budou pravděpodobně tvořit základnu pro dlouhodobou diskusi o tom, jak nejlépe chránit veřejnost, aniž by se zarazila inovace v tomto kriticky důležitém technologickém sektoru.

Zdroj: WIRED

Rubrika: AI & Technologie