Evropané se brzy dozvědí, jak hluboko je umělá inteligence zakořeněna v jejich životech

Nová evropská pravidla budou vyžadovat, aby se uživatelé dozvěděli, když komunikují s umělou inteligencí nebo vidí obsah vytvořený či editovaný AI. Obává se však vlny "notification fatigue", kdy bude nepřetržité upozorňování na AI kontraproduktivní.

Evropská regulace digitálního prostoru se chystá na zásadní změnu. Nové předpisy Evropské unie budou postupně zavádět povinnost transparentnosti, která občanům jasně sdělit, když přichází do kontaktu s umělou inteligencí. Jde o měkký, ale důležitý signál – Brusel chtě nechtě připravuje Evropany na to, jak všudypřítomná je AI již dnes a jak masivně bude její přítomnost v budoucnosti růst.

Nadcházející vlna disklosur

Podle nových EU pravidel budou muset společnosti jednoznačně informovat uživatele, když komunikují s chatbotem, nebo když se podívají na fotku, kterou vytvořila generativní AI. Podobně jako jsme se postupem času zvykli na upozornění o cookies, budeme muset absorbovat i stálý proud informací o tom, že právě čteme obsah vytvořený nebo editovaný algortmy. Cíl je jasný: poskytnout lidem kontrolu a vědomí. Realita však může být podstatně složitější.

Technologické společnosti a regulátoři si uvědomují jednu zásadní hrozbu: tzv. "disclosure fatigue". Pokud se uživatelé stanou svědky neustálého proudu notifikací, varování a upozornění na přítomnost AI, může dojít k paradoxní situaci. Místo aby si byli vědomi a informovaní, jednoduše budou skrolovat dál a upozornění automaticky ignorovat – přesně jako se stalo s popisy cookies. Lidé by se mohli stát imunní vůči informacím, které měly být klíčové pro jejich rozhodování.

Skrytá všudypřítomnost AI

Problém spočívá v tom, že umělá inteligence není jen chatbot nebo generátor obrázků. AI již nyní pracuje za kulisami při tisíci věcech – od algoritmů doporučujících obsah na sociálních sítích, přes automatické překladače, až po systémy filtrující spam v emailech. Když budou společnosti nuceny upozorňovat na každou takovouto interakci, čeká nás explóze upozornění. Uživatelé by se mohli cítit zahlceni a rozesmutělí.

Zároveň se jedná o důležitý krok směrem k transparentnosti. Evropané by měli vědět, že jejich data nebyla analyzována člověkem, ale algoritmem. Měli by si být vědomi, že doporučení, která vidí v e-shopu, nejsou náhodou, ale výsledkem složitých AI modelů. Měli by pochopit, že ta fotka v reportáži na webu nemusela být pořízena fotoaparátem, ale vytvořena v počítači.

Nová norma digitálního života

Evropská unie se tak chystá spustit masivní experiment v transparentnosti. Pokud se podaří vyvážit informovanost s praktičností, mohla by se stát celosvětovým vzorem. Pokud se ale upozornění na AI stanou stejně ignorovanými jako cookies a GDPR banery, bude to znamenat, že nám všem uniká jedna zásadní poučka: že informace bez schopnosti jich efektivně zpracovat nejsou v podstatě informacemi vůbec. Jak se nový digitální život evropských občanů bude vyvíjet, bude jedním z klíčových ukazatelů evoluce vztahu mezi technologií a regulací v příštích letech.

Zdroj: Wired

Rubrika: AI & Technologie