Anthropic uzavírá modely Fable a Mythos na pokyn americké administrativy

Společnost Anthropic se rozhodla ukončit provoz svých AI modelů Fable a Mythos po direktiváu ministerstva obchodu. Důvodem je obava z bezpečnostních rizik související s možným "prolámáním" zabezpečení modelu Fable 5.

Umělointeligentní startup Anthropic oznámil, že zavírá své modely Fable a Mythos na základě pokynů americké administrativy. Rozhodnutí přichází v kontextu zvýšených bezpečnostních obav kolem modelů generativní AI a jejich potenciálního zneužití. Ministerstvo obchodu Spojených států vyjádřilo obavy, které přiměly společnost k tomuto kroku.

Bezpečnostní hrozby jako důvod zavření

Klíčovým faktorem v rozhodnutí bylo zjištění, že model Fable 5 by mohl být náchylný k tzv. "jailbreakům" – technikami, kterými by někdo mohl obejít bezpečnostní mechanismy a získat nežádoucí výstupy nebo chování z modelu. Americké vládní orgány to vyhodnotily jako potenciální hrozbu pro národní bezpečnost. Tato obava se stala impulsem pro ministerstvo obchodu, aby vydalo direktivu týkající se provozu takovýchto systémů.

Uzavření Fable a Mythos modelů reprezentuje rostoucí tlak na AI společnosti, aby se zaměřily na bezpečnost a prevenci zneužití svých technologií. Anthropic, která je známá důrazem na bezpečný vývoj AI, se rozhodla rychle reagovat na požadavky federálních orgánů a upravit svůj portfolio produktů.

Širší kontext regulace AI

Toto rozhodnutí je součástí větší debaty o regulaci umělé inteligence na státní úrovni. Americká administrativa se snaží zajistit, aby pokročilé AI modely nemohly být zneužity pro škodlivé účely, ať už jde o vytváření deepfake obsahu, šíření dezinformací nebo potenciální bezpečnostní hrozby. Antropic tak reaguje na požadavky doby, kdy se bezpečnostní standardy kolem AI stále zpřísňují.

Zavírání jednotlivých modelů bude muset být na trhu s AI norma do budoucna. Společnosti budou muset balancovat mezi inovací a bezpečnostními požadavky vlád, kterým slouží. Pro Anthropic to znamená přeorientování svých zdrojů na projekty, které projdou rigorózním bezpečnostním schválením.

Zdroj: Ars Technica

Rubrika: AI & Technologie