Vodoznak SynthID od Googlu je odolný, ale vůbec neřeší problém umělé dezinformace

Technologie Googlu SynthID sice efektivně chrání obsah generovaný umělou inteligencí před manipulacemi, avšak její samotná existence nestačí k řešení rostoucího problému dezinformací v digitálním světě. Budoucnost internetu bude vyžadovat komplexnější přístupy k ověřování informací.

Google představil svoje řešení pro identifikaci obsahu generovaného umělou inteligencí – technologii SynthID, která funguje jako digitální vodoznak. Tento systém přiděluje obsahu vytvořenému AI skrytý identifikátor, který se vyznačuje vysokou odolností vůči pokusům o manipulaci. Testy provedené společností ukazují, že vodoznak zůstává rozpoznatelný i poté, co projde různými úpravami – od komprese přes změnu formátu až po běžné úpravy v editorech.

Příslibem SynthID není zabezpečení, ale transparentnost. Systém má pomoci uživatelům, platformám a moderátorům obsahu pochopit, kdy se setkávají s výtvorem umělé inteligence. V teoretické rovině se jedná o krok správným směrem – v digitální éře, kdy lze fotografie a videa prakticky dokonale padělat, se zdá být jistá forma verifikace nesmírně důležitá. Jenže realita je podstatně složitější.

Hlavní problém spočívá v tom, že watermark řeší pouze kus problému. SynthID pomáhá odhalit obsah vytvořený AI, ale nic neříká o pravdivosti a přesnosti toho, co AI vygeneruje. Generativní modely jsou známé tím, že s velkou sebedůvěrou produkují fakticky nesprávné informace – takzvaní „halucináci". Obsah může být nejčistěji vygenerován AI podle všech pravidel a přesto obsahovat své vědomě šířené lži. Vodoznak není zárukou věrohodnosti, pouze potvrzením původu.

Dezinformační hrozba v nadcházejícím období vzroste na nové úrovně. Jak AI modely postupují do širší populace a jejich používání se demokratizuje, zvyšuje se riziko jejich zneužití. Útočníci mohou vytvářet desítky falešných videí, články nebo sociální příspěvky v řádu minut. I když budou všechny označeny watermarkem SynthID, mnoho platforem nebo jednotlivců jej nemusí ověřovat. Navíc se objevují již první způsoby, jak vodomraky obcházet – ať už jejich překrýváním či umělou degradací obrazu.

Skutečné řešení bude vyžadovat mnohem širší přístup. Budeme potřebovat kombinaci technických opatření, mediální gramotnosti, odpovědné legislativy a především silného kulturního konsenzu na straně platformy a společnosti. Samotný watermark je jen jedním nástrojem z bohaté sady, kterou musíme využívat. Jak se technologie vyvíjí, bude orientace v tom, co je skutečné a co falešné, stále obtížnější. Vůle podpořit vědecky fundované přístupy k verifikaci informací se stane kritickou.

Zdroj: Ars Technica

Rubrika: AI & Technologie