San Francisco si vezme na pomoc regulátory: Apple a Google musí smazat aplikace na nudifikaci fotografií

Orgány v San Francisku nařídily společnostem Apple a Google, aby odstranily z obchodů aplikace sloužící k vytváření syntetických nahých fotografií. Podle odhadů orgánů na těchto aplikacích významně vydělávaly.

Vedení San Franciska podniklo rozhodný krok proti aplikacím, které slouží k vytváření digitálních nahých fotografií skutečných lidí bez jejich souhlasu. Apple a Google dostali jasný příkaz odstranit takzvané nudifikační aplikace ze svých oficiálních obchodů – App Store a Google Play Store. Tento krok představuje výrazný tlak na technologické giganty, kterým regulátoři vytýkají, že těmito škodlivými nástroji profitují.

Úředníci San Franciska ve svých zjištěních uvedli, že společnosti Apple a Google si pravděpodobně vydělaly miliony dolarů na poplatcích vybíraných od vývojářů těchto kontroverzních aplikací. Nudifikační aplikace, které umožňují syntetizovat nebo manipulovat fotografie tak, aby znázorňovaly lidi bez oblečení, se v poslední době staly terčem celosvětové kritiky. Experti varují, že tyto nástroje mohou být zneužívány k sexuálnímu obtěžování, vydírání a porušování soukromí.

Pro společnosti Apple a Google jde o daleko více než jen o odstranění aplikací ze svých obchodů. Tento verdikt signalizuje rostoucí ochotu regulačních orgánů zasahovat do obsahu digitálních platforem a trvat na odpovědnosti velkých technologických firem. Zároveň to vystavuje na nudo ekonomiku aplikačních obchodů, kde tradiční kontrolní mechanismy dlouhodobě selyhávaly.

Problém nudifikačních aplikací se netýká pouze San Franciska. V posledních měsících se staly terčem kritiky i v Evropě a dalších částech světa. Několik zemí a regionů již zvažuje nebo zavádí přísněji regulace pro služby využívající umělou inteligenci k manipulaci s lidskou podobou bez souhlasu daných osob.

Odpověď Apple a Googlu na tuto výzvu bude důležitá nejen pro ochranu soukromí uživatelů, ale i pro budoucnost regulace technologického průmyslu. Otázkou zůstává, zda se jedná o jednorázový zásah, nebo jestli si regulátoři vezou v brzké době na pomoc další ostrá nařízení vůči dalším problematickým aplikacím či funkcionalitám dostupným v digitálních obchodech.

Zdroj: Ars Technica

Rubrika: AI & Technologie