San Francisco se postavil Applu a Googlu: Musí smazat aplikace na vytváření nemorálních fotografií

Úřad městského právníka v San Francisku zaslal technologickým gigantům předvolání k zastavení distribuce třinácti aplikací na výměnu obličejů. Tyto nástroje jsou především zneužívány k sexuálnímu obtěžování žen a dívek.

Úřad právníka San Francisca se rozhodl zakročit proti rostoucímu problému zneužívání umělé inteligence. V tomto týdnu odeslal společnostem Apple a Google oficiální výzvu k zastavení činnosti, kterou podrobně zdokumentoval. Jde o 13 aplikací určitého typu, které představují vážnou hrozbu pro bezpečnost a důstojnost žen a dívek.

Tyto aplikace pracují na principu výměny obličejů a umožňují jejich uživatelům vytvářet sexuálně explicitní obsah bez souhlasu zobrazovaných osob. Podle úřadu městského právníka jsou tyto nástroje téměř výhradně zneužívány k vytváření takzvaných "nude" fotografií – tedy manipulovaných snímků, které zobrazují lidi bez oblečení. Obzvláště znepokojující je fakt, že hlavními cíli těchto aplikací jsou nezletilé děti a mladé ženy.

Žádost zaslána Applu a Googlu je jasná: obě společnosti musí přestat profitovat na distribuci těchto aplikací prostřednictvím svých obchodů. Apple App Store a Google Play Store slouží jako primární kanály, kterými se tyto nástroje dostávají k uživatelům. Úřad argumentuje tím, že technologičtí giganti nesou podíl odpovědnosti za šíření těchto nástrojů, které umožňují sexuální vyobrazování bez souhlasu.

Fenomén zneužívání umělé inteligence pro vytváření sexuálního obsahu se v poslední době rapidně rozšířil. Oběti si často uvědomí, že se jejich fotografie objevily v upravené podobě až poté, co se obsah začíná šířit internetu. Dopad na psychiku těchto osob, zejména dospívajících dívek, je devastující a dlouhodobý.

Iniciativa San Francisca představuje jednu z prvních významných regulačních akcí v tomto ohledu. Pokud by Apple a Google výzvě vyhověly, mohlo by to nastavit precedens pro podobné kroky v dalších jurisdikcích. Současně však zůstává otázka, jak účinná bude čistě regulační cesta v boji proti technologiím, jejichž vývoj postupuje mnohem rychleji, než schopnost právních systémů reagovat.

Zdroj: Wired

Rubrika: AI & Technologie