Soud odmítl pokus xAI zablokovat minnesotský zákaz aplikací na vytváření nahých fotek

Firma xAI se pokusila zablokovat minnesotský zákaz aplikací, které umožňují vytváření syntetických nahých fotografií. Soud její žalobu zamítl a zákon tak může vstoupit v platnost.

Soud odmítl žádost společnosti xAI o zablokování přísného minnesotského zákona zaměřeného na potlačení aplikací, které umožňují tzv. "nudifikaci" fotografií. Rozsudek je důležitou výhrou pro stát v boji proti technologiím, které mohou být zneužívány k vytváření intimního obsahu bez souhlasu osob na snímcích.

Zatímco firma xAI se prostřednictvím právního sporu snažila zákaz zastavit, soudce rozhodl, že může pokračovat. Minnesota se tak stává jedním z prvních států v USA, který přijímá tak přísné opatření proti aplikacím umožňujícím vytváření syntetických nahých obrázků. Zákon je zaměřen na ochranu fyzických osob před zneužitím jejich obrazu a před sexuálním nátlakem či vydíráním.

Technologie umožňující "nudifikaci" - tedy generování nahých verzí fotografií skutečných lidí - se v posledních letech stala předmětem rostoucí společenské debaty. Zvlášť znepokojivá je možnost zneužití těchto aplikací pro vytváření falešného kompromitujícího obsahu, který může být používán k obtěžování nebo vydírání obětí. Případy, kdy byly takto vytvořené fotografie šířeny bez vědomí osob na nich zobrazených, vzbuzují pádné důvody pro regulaci.

Minnesotský zákon by měl podstatně omezit distribuce a provoz těchto aplikací v rámci státu. Producenti software obávající se tvrdých sankcí budou muset zajistit, aby jejich produkty v souladu se zákonem nefungovaly nebo aby obsahovaly dostatečné bezpečnostní prvky. Zákon přispívá k rostoucímu trendu státní regulace umělé inteligence a jejích potenciálně škodlivých aplikací.

Rozhodnutí soudu signalizuje, že soudní systém začíná brát vážně rizika spojená s neregulovanými technologiemi pro generování obsahu. I přesto, že technologické firmy argumentují svobodou slova a inovace, ochrana občanů před újmou získává na váze. Podobné iniciativy se nyní zvažují i v dalších státech a zemích po celém světě.

Zdroj: TechCrunch

Rubrika: AI & Technologie