Jak bezpečnostní bariéry AI omezují práci výzkumných specialistů

Bezpečnostní opatření velkých AI společností jako OpenAI a Anthropic čím dál více komplikují práci výzkumných specialistů v oblasti kybernetické bezpečnosti, kteří se zabývají hledáním neznámých zranitelností a vývojem nástrojů k jejich zneužívání.

Moderní AI modely se stal důležitými pomocníky pro výzkumné specialisty v oblasti kybernetické bezpečnosti. Ty však stojí v čím dál větší míře před problémy, které jejich práci komplikují. Společnosti OpenAI a Anthropic zavádějí stále přísnější bezpečnostní opatření a filtrování obsahu, která podle mnohých výzkumných pracovníků brání jejich legitimnímu snažení odhalit bezpečnostní slabiny v systémech.

Légitimnému výzkumu se dostává překážek

Výzkumné týmy zaměřené na ofenzivní bezpečnost – tedy na hledání a zneužívání zranitelností před jejich objevením útočníky – se ocitají v pasti. Právě AI nástroje by jim mohly výrazně usnadnit analýzu kódu, vyhledávání potenciálních slabých míst nebo tvorbu exploitů. Když však tyto systémy odmítnou pomoc s úkoly, které systémy hlasitě klasifikují jako „nebezpečné", přichází odborníci o cenné pomůcky. Bezpečnostní výzkumníci tvrdí, že jejich práce má přesný opak účinku, než jaký se bání – nenosí škodu, ale naopak chrání uživatele tím, že odhaluje slabiny dříve, než je zneužijí skuteční útočníci.

Problém rozlišování mezi výzkumem a zneužíváním

Hlavní problém spočívá v tom, že AI modely – a jejich bezpečnostní filtry – nejsou schopny dostatečně dobře rozlišit mezi legitimním bezpečnostním výzkumem a skutečným zneužíváním. Příkazy pro nalezení zranitelnosti v systému vypadají pro AI stejně, ať už je zadává bezpečnostní odborník snažící se systém chránit, nebo útočník s rčením úmyslem. Výzkumníci si proto stěžují, že když se snaží používat AI nástroje jako CodeCRex nebo GPT-4 k analýze potenciálních bezpečnostních slabých míst, systémy automaticky odmítnou spolupracovat s vágním odkazem na bezpečnostní politiku.

Dopad na inovace a bezpečnost

Ironie situace spočívá v tom, že přísná omezení AI systémů ironicky mohou vést k menší bezpečnosti. Když nemohou odborníci efektivně využívat nejmodernější nástroje k hledání chyb, zůstávají jim jen pomalejší tradiční metody. To znamená, že některé zranitelnosti zůstávají neobjevené déle, než by měly, a čím dál více se ocitají v rukou těch, kdo je opravdu chtějí zneužít. Výzkumné týmy navíc někdy musí přejít na méně etické řešení nebo se obracet na méně bezpečné alternativy.

Hledání řešení

OpenAI a Anthropic si jsou vědomé těchto obav a postupně pracují na zlepšování svých bezpečnostních politik. Některé společnosti již zavedily speciální procesy pro ověřené bezpečnostní výzkumníky, kteří mohou požádat o vyšší úroveň přístupu. Přestože se jedná o krok správným směrem, mnozí odborníci tvrdí, že procesem jsou příliš složité a pomalu. Klíčová lekcí pro celý průmysl je, že bezpečnost AI systémů nespočívá jen v jejich uzamčení, ale také v uvědomění si, jak správně podporovat ty, kdo se ji snaží zlepšovat.

Zdroj: TechCrunch

Rubrika: AI & Technologie