YouTube a X se staly vstupní branou do aplikací na vytváření nepříslušných obnažených fotografií

Nová studie odhalila znepokojivý trend: sociální sítě YouTube a X aktivně usnadňují přístup k webům, kde si mohou uživatelé za pouhý dolar koupit nelegální sexuální deepfaky vytvořené bez souhlasu znázorněných osob.

Bezpečnostní výzkum přinesl alarmující zjištění o tom, jak hlavní sociální média slouží jako prostředník pro dostupnost nebezpečného obsahu. Vedoucí sociální sítě YouTube a platforma X (bývalý Twitter) se podle dokumentované studie staly „vstupními branami" pro aplikace a weby umožňující tvorbu tzv. nudifikovacího obsahu – tedy syntetických sexuálních obrázků vytvořených bez souhlasu znázorněných osob. Tento trend představuje vážné riziko pro ochranu soukromí a důstojnosti jednotlivců, zejména žen, které jsou nejčastějšími cílům tohoto typu zneužívání.

Dostupnost za pár korun představuje vážný problém

Výzkum dokumentuje, jak snadně si může kdokoliv koupit takové služby za minimální cenu – často za méně než americký dolar za jeden upravený obrázek. Platforma YouTube a X jsou podle studie primárními kanály, kterými se uživatelé o těchto službách dozvídají. Propagační videa, reklamy a organicky sdílený obsah na těchto sítích přímo vedou lidi na problematické weby. Tento jev ilustruje, jak selhávají kontrolní mechanismy velkých technologických gigantů při ochraně svých uživatelů před škodlivým obsahem a nezákonnými službami.

Problém je umocněn tím, že tvůrci těchto aplikací často operují z jurisdikcí, kde není tvorba nonconsensual deepfakes právně postižena, nebo působí pod střechou společností s nejasnou odpovědností. Cena služby je navíc alarmantně nízká, což činí takovéto útoky na soukromí značně dostupné pro širší okruh potenciálních pachatelů. Oběti těchto praktik si často nemají ani vědomí, že se staly terčem, dokud se s takovými obrázky nesetkají na internetu.

Výzva pro regulaci a odpovědnost platforem

Studie znovu otevírá diskusi o odpovědnosti velkých sociálních sítí za obsah, který na jejich platformách cirkuluje, a za propagační mechanismy, které jej šíří. Kritici dlouhodobě upozorňují, že YouTube a X selhávají v prevenci sexuálního obtěžování a zneužívání prostřednictvím syntetických médií. Platformy se často hájí argumentem, že jsou jen prostředníky, nikoli tvůrci obsahu, avšak jejich algoritmy a doporučovací systémy aktivně podporují virální šíření problematického materiálu.

Legislativci v různých zemích zatím reagují nejednotně. Zatímco některé státy přistupují k tvorbě specifických zákonů zakazujících nonconsensual deepfaky, globální standardy dosud chybí. Pro efektivní řešení by bylo třeba kombinace právního rámce, agresivnější politiky sociálních sítí a zvýšené edukace veřejnosti o rizicích těchto technologií. Bez zásadnějších kroků se problém bude pravděpodobně nadále rozrůstat.

Zdroj: Wired

Rubrika: AI & Technologie