Meta spouští nový AI nástroj. Hned jsem si jím vytvořila deepfake své kamarádky

Meta představila nový nástroj umělé inteligence pro úpravu obrázků, který ale vzbuzuje bezpečnostní obavy. Uživatelé si mohou velmi snadno vytvářet deepfaky i bez souhlasu osob na fotkách.

Společnost Meta nedávno uvedla na trh svojí nejnovější AI technologii zaměřenou na editaci a generování obrázků. Nástroj má být všem uživatelům Instagramu přístupný a slibuje jednoduchou a intuitivní úpravu fotek. Jenže zkušenost z prvních dnů používání ukazuje, že s sebou tato technologie přináší řadu vážných bezpečnostních rizik a etických problémů.

Samotný experiment s novým nástrojem jasně demonstruje, jak snadné je zneužití této technologie. Během chvíle lze bez sebemenšího úsilí vytvořit falešné snímky svých přátel a známých v situacích, které nikdy neproběhly. Ať už jde o vtipkování, nebo o cosi daleko temavějšího – technologie prakticky žádné překážky nekladou. Nejznepokojivější je přitom to, že osoba, která je na obrázku, si nemusí být vůbec vědoma, že se její podobizna takto zneužívá.

Bezpečnostní a právní rozpaky

Tvorbou deepfaků bez souhlasu se otevírá Pandořina skříňka. Existují totiž reálné hrozby, které spojujeme se zneužíváním syntetických obrázků – od sexuálního vydírání přes šíření falešných informací až po poškozování reputace. Meta sice v minulosti slibovala, že bude s umělou inteligencí zacházet odpovědně, ale toto rozhodnutí si jí určitě nezískává na popularitě mezi ochránci soukromí a bezpečnosti.

Uživatelé Instagramu by si měli být vědomi, že mají možnost konkrétní AI funkce v nastavení účtu vypnout. Pokud chcete chránit svůj obraz a předejít potenciálnímu zneužití, je vhodné si toto nastavení zkontrolovat bez zbytečného odkladu. Meta by však měla zvážit, zda je rozumné takto mocný nástroj dávat do rukou miliard uživatelů bez patřičnějších bezpečnostních opatření a kontrolních mechanismů.

Celá situace znovu otevírá starý spor o tom, kde přesně leží hranice mezi inovací a odpovědností. Technologie samy o sobě nejsou zlé, ale jejich zneužití může způsobit reálné škody. Je tedy na Metě, aby této problematice přiměřeně přistoupila a nastavila adekvátní bezpečnostní standardy.

Zdroj: CNET

Rubrika: AI & Technologie