Umělá inteligence odhalila kritickou chybu v Ethereu, kterou ale museli ověřit lidé

Nadace Ethereum nasadila koordinované AI agenty k hledání chyb v softwaru validátorů a objevila vážnou vzdáleně spustitelnou chybu. Výzkum však také ukázal, že AI bez lidské verifikace generuje spoustu falešných pozitivů.

Ethereum Foundation provedla zajímavý experiment, v němž nasadila skupinu AI agentů k analýze software svých validátorů. Cílem bylo zjistit, zda umělá inteligence dokáže samostatně identifikovat bezpečnostní rizika v jednom z nejkritičtějších komponent sítě Ethereum. Výsledky byly smíšené, ale poučné – AI sice našla skutečnou vážnou chybu, ale také vyprodukovala velké množství falešných pozitivů.

Klíčový objev: chyba v offline režimu
Nejzávažnější nález se týkal chyby, která by mohla vzdáleně vypnout validátory sítě. Jednalo se o potenciálně kritickou zranitelnost, kterou AI agenti úspěšně identifikovali. Tato chyba by teoreticky umožnila útočníkům vyřadit validátory z provozu bez fyzického přístupu k jejich infrastruktuře. Skutečnost, že AI tuto chybu našla, poukazuje na rostoucí schopnosti těchto nástrojů v oblasti bezpečnostního výzkumu.

Problém s neověřenými nálezy
Vedle skutečné chyby však koordinované AI agenty vygenerovaly značné množství reportů, které se zdály být důkladně zpracované a profesionálně napsané – jenomže nejedná se o reálné bezpečnostní problémy. Výzkumný tým Ethereum Foundation musel u každého z těchto falešných pozitivů provést manuální ověření, aby se ujistil, zda jde o skutečné riziko nebo pouze o AI halucinaci. Tento proces odhalil důležité omezení současných modelů umělé inteligence: schopnost najít chyby ještě nerovná se schopnosti správně je pochopit a klasifikovat.

Lidská verifikace zůstává nezbytná
Zjištění z experimentu jasně ukazují, že zatímco AI může být cenným nástrojem pro počáteční skenování a identifikaci potenciálních problémů, bez lidského dohledu a ověření je její využití riskantní. V oblasti bezpečnosti blockchainových protokolů, kde je na kažu chybu nabaleno práce a miliony dolarů, je důvěryhodnost nálezů absolutně kritická. AI může urychlit proces vyhledávání chyb, ale nemůže jej zcela nahradit.

Ethereum Foundation tak prakticky prokázala, že budoucnost bezpečnostního auditu pravděpodobně spočívá v kombinaci umělé inteligence a lidské odbornosti. Tento hybrid přístup by mohl učinit analýzu kódu efektivnější a kompletnější, aniž by se spoléhal pouze na jednu ze stran. Výsledky tohoto experimentu budou zajímavé jak pro vývojáře Ethereu, tak pro širší komunitu blockchainového bezpečnosti, která hledá nové způsoby, jak chránit svoje protokoly před zranitelnostmi.

Zdroj: CoinDesk

Rubrika: Akciové trhy