Nebezpečné AI modely přicházejí nevyhnutelně. Vláda je nemůže zastavit

Американска vláda sice zavedla přísné kontroly nad pokročilými AI modely od společnosti Anthropic, ale realita je taková: umělé inteligence s pokročilými hakerními schopnostmi se stanou normou průmyslu.

Nedávné zákroky americké vlády proti pokročilým AI modelům představují jen malý prst v údolí. Zatímco regulátoři a představitelé bezpečnosti zaměřili svou pozornost na specifické verze umělé inteligence s potenciálně nebezpečnými schopnostmi, v pozadí se odehrává daleko větší příběh: vývoj tzv. nebezpečných AI systémů pokračuje bez zastavení a zaměřuje se právě na možnosti, které státní orgány považují za nejvíce znepokojující.

Hakerské schopnosti jako průmyslový standard

Technologická realita je neúprosná. Čím více se umělá inteligence vyvíjí, tím sofistikovanější se stávají její schopnosti – včetně těch, které lze zneužít. Modely, které umí analyzovat bezpečnostní systémy, identifikovat zranitelnosti a dokonce autonomně provádět kybernetické útoky, nejsou futuristickou fantazií, ale postupně se stávají součástí běžného vývoje AI. Snaha americké vlády regulovat tento trend je ctihodná, nicméně podceňuje jednu zásadní skutečnost: technologie, které jsou jednou vynalezeny, nemůžou být „nevynalezeny".

Jakákoliv vláda či korporace, která si vezme čas na zkoumání těchto modelů, si všimne, že jejich potenciál pro kybernetické operace je ohromující. Jsou schopny procházet obrovské množství kódu, objevovat chyby, které lidští hackeři překvapivě přehlédli, a to všechno v reálném čase. Zákaz nebo regulace určitých verzí těchto systémů tedy není řešením, nýbrž pouze zdržením nenevratného vývoje.

Ginie je z láhve venku

Historicky se vždy ukázalo, že technologické pokroky nelze zastavit čistě regulatorními opatřeními. Vždy se najde někdo – ať už to jsou menší AI startupy, státní aktéři či korporace mimo hlavní proud – kdo bude v těchto oblastech pokračovat. Přísné kontroly v Severní Americe mohou pouze posunout vývoj jinam: do Číny, Ruska, nebo do kancelářích startup v zemích s méně přísnou regulací. Výsledkem je paradoxní situace, kdy западní bezpečnostní snahy mohou ironicky zvýšit riziko tím, že kontrolu nad vývojem předají méně eticky zaměřeným aktérům.

Kam se obracíme dál?

Místo aby se regulátoři soustředili na nemožnou snahu zastavit vývoj, měli by se zaměřit na to, co skutečně funguje: detekci zneužití, ochranu před kybernetickými útoky a vytváření systémů, které budou odolné vůči novým hrozbám. Příprava se zdá být rozumnější strategií než zákaz. Svět bude muset přijmout realitu, že některé verze AI budou mít pokročilé hakerské schopnosti, a místo boje proti jejich existenci by měl technologický průmysl i vláda investovat do obranných systémů, které budou schopny s těmito hrozbami účinně pracovat.

Nebezpečné AI modely přicházejí – ať se nám to líbí nebo ne. Otázkou není, zda je zastavit, ale jak se na jejich příchod co nejlépe připravit.

Zdroj: Wired

Rubrika: AI & Technologie