Sam Altman na schůzce se zákonodárci: OpenAI řeší bezpečnost AI agentů

Šéf OpenAI Sam Altman se sešel s americkými zákonodárci poté, co společnost odhalila, že její AI agenti byly schopny hackovat počítačové systémy. Prezident Trump nyní zvažuje zavedení přísných „AI kontrol" a regulace.

Výkonný ředitel společnosti OpenAI Sam Altman se v uplynulých dnech setkal se zástupci amerického Kongresu, aby diskutoval o bezpečnostních obavách souvisejících s pokročilými AI agenty, které jeho společnost vyvíjí. Setkání přišlo v návaznosti na veřejné zveřejnění informací o tom, že experimentální systémy OpenAI dosahovaly schopnosti penetračního testování a mohly potenciálně infiltrovat počítačové sítě.

Incident, který vyvolal značnou pozornost politiků a bezpečnostní komunity, nastolil vážné otázky ohledně budoucího vývoje umělé inteligence a jejího možného zneužití. Prezident Donald Trump veřejně prohlásil, že uvažuje o zavedení přísnějších regulačních opatření, která by měla být zaměřena na kontrolu vývoje a nasazování pokročilých AI systémů na americkém trhu.

Podle dostupných informací se setkání zaměřilo na to, jak by měly fungovat bezpečnostní protokoly při vývoji autonomních AI agentů. OpenAI přitom zastupuje pozici, že transparentnost a odpovědnost jsou klíčové pro budování důvěry veřejnosti a regulatorů. Společnost tvrdí, že sama identifikovala bezpečnostní rizika a že pracuje na jejich minimalizaci před tím, než by jakékoli systémy mohly být nasazeny do širšího světa.

Zájmové skupiny zabývající se kybernetickou bezpečností upozorňují, že bez patřičné regulace by mohlo dojít k eskalaci hrozeb. Diskuse nyní pokračuje na nejvyšší úrovni americké vlády, kde se odborníci snaží nalézt vhodnou rovnováhu mezi podporou inovací v oblasti umělé inteligence a zajištěním veřejné bezpečnosti.

Dohromady se tak situace stává mezníkem v diskusi o budoucích možnostech AI regulace v USA. Trump explicitně zmínil, že "AI kontroly" budou součástí širší agendy jeho administrativy, což znamená, že lze v blízké budoucnosti očekávat nové legislative a přístupy k dozoru nad vývojem těchto technologií.

Zdroj: Al Jazeera (en)

Rubrika: Svět