Vysoká škola v Pensylvánii se bránila proti skandálu s umělými nahými fotkami

Americká střední škola čelí kritice poté, co se dozvěděla o tom, že chlapci vytvářeli umělé nahé fotografie na padesáti devíti spolužaček pomocí AI generátoru. Škola však mohla zůstat v mlčení kvůli mezerám v právní úpravě.

Skandál v Pensylvánii obnažuje vážné problémy v právním rámci ochrany mladistvých před sexuálním zneužíváním v digitálním věku. Americká střední škola se nyní potýká s veřejným hněvem, když vyšlo najevo, že několik chlapců systematicky vytvářelo sexuálně explicitní obrázky svých spolužaček bez jejich vědomí a souhlasu. Postiženo bylo přibližně padesát devět dívek, přičemž některé z nich zjistily existenci těchto umělých snímků zcela náhodou.

Případ si zaslouží pozornost especially proto, jak se školní management rozhodl jednat situaci. Namísto okamžité a transparentní komunikace s rodiči a výchovným postupem vůči pachatele škola údajně zůstala k situaci neutrální a nepodnikla významné kroky k prevenci dalších případů. Právní prázdnota zde hraje klíčovou roli – v některých amerických státech, včetně Pensylvánie, nejsou zákonem explicitně zakazovány takzvané deepfake fotografie nezletilých osob, pokud se jedná o čistě digitálně vygenerovaný obsah bez použití skutečných fotografií.

Právníci upozorňují na to, že současná legislativa zaostává za technologickým vývojem. Zatímco fyzické zneužívání děti je jasně trestné, právní definice sexuálního obsahu zahrnují obvykle skutečné lidi. Umělé obrázky vytvořené pomocí AI však často spadají do právní šedé zóny, což umožňuje pachateli se vyhýbat tradičním trestům za tvorbu dětského pornu. Tato situace vytvářela pro školu možnost inaction, kterou podle všeho přímo využila.

Důsledky pro oběti však byly značné. Postižené dívky se potýkaly s traumatem, úzkostí a sociálním vyřazením. Mnoho z nich se přiznalo, že se cítilo degradováno a hanebně v prostředí své vlastní školy. Jejich rodiče naopak čelili situaci, kdy instituce, která měla chránit jejich děti, se zdála být více zainteresována na minimalizaci skandálu než na řešení problému.

Tento případ se stal katalyzátorem pro diskusi o potřebě modernizace zákonů týkajících se ochrany mládeže v digitálním prostředí. Několik estados a legislativních těles již pracuje na nových právních normách, které by explicitně zakazovaly vytváření a šíření sexuálního obsahu s využitím AI, bez ohledu na to, zda se jedná o skutečné či syntetické obrazy. Americké školství mezitím čelí zvýšenému tlaku na vytvoření jasných politik a postupů pro nakládání s takovými situacemi.

Případ Pensylvánie je varováním pro všechny vzdělávací instituce. Zatímco právní systém se snažit dohnat zaostávání, školám a dalším střediskům práce s mládeží připadá odpovědnost jednat v zájmu bezpečnosti svých žáků hned a rozhodně, bez ohledu na právní mezeры. Transparentní komunikace s rodiči, podpora obětem a jasné důsledky pro pachatele by měly být standardní přístupem, kterého by se všechny instituce měly держаться.

Zdroj: Ars Technica

Rubrika: AI & Technologie