Umělá inteligence nestačí: Proč lidé musí chránit sociální sítě před umělou inteligencí

Automatické modery pomocí AI nejsou schopny účinně chránit online komunity před škodlivým obsahem. Zejména ty generované samotnými algoritmy potřebují lidský dozor, aby se mohly sociální sítě vyvinout bezpečně.

Sociální sítě se dlouhé roky spoléhaly na kombinaci automatických filtrů a lidských moderátorů s cílem udržovat zdravé online komunity. Mnohé platformy nyní ale čeká nový problém: když se inteligentní algoritmy začaly používat k vytváření obsahu, paradoxně se zvýšily nové bezpečnostní výzvy. Ukazuje se totiž, že umělá inteligence sama o sobě není dostatečným štítem proti hrozbám, které AI sama vytváří.

Algoritmy nemohou rozlišit kontext a záměr tak, jak to zvládají lidé. Zatímco AI filtr dokáže relativně snadno identifikovat určitá klíčová slova nebo vizuální znaky potenciálně nebezpečného obsahu, chybí jí schopnost porozumět nuancím lidské komunikace. Obsah, který je v jednom kontextu vtipem a v jiném propagandou, algoritmus jen těžko vyhodnotí správně. Diskriminační komentáře skryté pod vrstvou ironie nebo kulturních odkazů zůstávají filtry neviditelné. Účelně dezinformační příspěvky se mohou skrývat za zdánlivě nevinnými otázkami.

Navíc se objevují zcela nové druhy hrozeb přímo související s nástupem generativní AI. Falešné obrázky a videa vytvořená algoritmy, které vypadají snad příliš autenticky, falešné profily generované umělou inteligencí nebo vysoce personalizovaný spam tailored konkrétnímu uživateli – to všechno jsou výzvy, na které tradiční AI moderační nástroje nejsou připraveny. Jedna AI technologie se tedy stává problémem pro druhou.

Lidští moderátoři mají tu výhodu, že mohou porozumět kontextu, kulturním nuancím a záměru uživatele. Rozumí lokálním mémům, slangům a způsobům komunikace specifickým pro určité komunity. Mohou reagovat empaticky na ohlášený obsah a vytvářet rozhodnutí s vědomím komplexity situace. Zatímco AI pracuje na základě pravidel a vzorů, lidé umí improvizovat a přizpůsobovat se měnícím se hrozbám v reálném čase.

To vůbec neznamená, že by se AI měla upustit ze hry. Naopak – když je správně nastaven, může automatizace urychlit první screening obsahu, upozornit na potenciální problémy a zbavit moderátory rutinní práce. Ale měla by být apenas prvním sitkem, nikoli jediným. Klíč spočívá v hybridním přístupu: AI identifikuje, ale lidé konečně rozhodují. Jen tak mohou sociální sítě zůstat bezpečným prostorem pro komunikaci, přestože samy používají umělou inteligenci k vytváření obsahu.

Paradoxně tedy právě v éře automatizace získávají na hodnotě ti nejnákladnější prvky – kvalitní lidské moderátory a jejich odbornost. Platformy, které do nich budou investovat, budou pravděpodobně dlouhodobě úspěšnější než ty, které se budou spoléhat čistě na algoritmy. Péče o online komunity je zkrátka věc pro lidi, kterou jednoduše машины nemůžou zvládat samy.

Rubrika: AI & Technologie