Meta zhasila svůj nový Instagram AI editor: Co se vlastně stalo?

Společnost Meta v dramatickém kroku stáhla funkci automatické úpravy fotek s umělou inteligencí pouhých osm dní po jejím spuštění na Instagramu. Důvodem byl kontroverzní prvek, který vyvolal vášnivé diskuse o manipulaci obrazu.

Sociální síť Instagram se brzy podělila se svými uživateli o novinku, která měla změnit způsob, jakým se s fotografiemi pracuje přímo v aplikaci. Funkce umělé inteligence na generování a úpravu obrázků přišla se zajímavým poselstvím — stačilo kliknout a algoritmus by se postaral o zlepšení vašeho snímku. Jenže nadšení nováčků rychle ustoupilo kritice, a Meta se rozhodla funkci zcela zrušit.

Problém tkví v tom, že součástí nástroje byla kontroverzní nastavení, které vzbuzovalo značné obavy mezi uživateli i veřejností. I když přesné detaily funkcí Meta dlouho nechtěla zveřejnit, kritici upozorňovali na to, že AI umělá inteligence by mohla příliš výrazně měnit vzhled osob na fotografiích. Tímto způsobem by mohla dojít k manipulaci původních snímků způsobem, který by nebyl na první pohled patrný. V éře, kdy se dezinformace šíří online stále snadněji, představuje taková technologie vážný problém.

Meta neměla na vybrání — tlak z řad uživatelů, aktivistů i odborníků zabývajících se bezpečností digitálních technologií byl příliš silný. Méně než týden po spuštění se technický gigant rozhodl pro ústup a nástroj zcela odstranit z platformy. Rozhodnutí bylo rychlé a razantní, což signalizuje, jak vážně si společnost bere obavy veřejnosti.

Tato epizoda otevírá důležitou diskusi o tom, jak daleko by měly jít sociální sítě v prosazování technologií s umělou inteligencí. Zatímco inovace v oblasti editace fotografií mohou být užitečné, jejich případný dopad na autentičnost obsahu a schopnost uživatelů orientovat se v digitálním světě je nezanedbatelný. Meta svým rychlým tahem sice ukázala, že je schopna poslechnout si svou komunitu, zároveň však vyvolala otázky, proč se podobné problémy neodhalí dříve, tedy ještě před samotným uvedením funkcí na trh.

Incident s AI editorem Instagramu je varováním nejen pro Meta, ale pro celý sektor technologických společností. Uživatelé jsou stále ostražitější vůči nástrojům, které by mohly sloužit k manipulaci realitou, kterou sdílejí online. Pokud chtějí výrobci technologií získat a udržet si důvěru svých uživatelů, budou muset být při vývoji a testování nových funkcí mnohem opatrnější a více otevření vůči zpětné vazbě. Příběh Instagramu AI editoru tedy může poslačovat jako vzor — nejen v tom, co se stalo, ale také v tom, jak se na to společnost rozhodla reagovat.

Zdroj: Forbes Innovation

Rubrika: Business