Dost je dost: Proč by měla být umělá inteligence standardně vypnutá

Automatické zapínání AI funkcí bez souhlasu uživatelů je zastaralý přístup. Čas na změnu: generativní AI by měla být ve výchozím stavu vypnutá a uživatelé si ji měli aktivovat sami, jen když si to přejí.

Trend posledních měsíců je znepokojující. Velké technologické společnosti masivně začleňují generativní AI do svých produktů a služeb, často zcela automaticky a bez explicitního souhlasu uživatelů. Pokud se chcete zbavit těchto funkcí, musíte si pro to sami najít cestu v hlubinách nastavení. Jde o frustrující a zcela zastaralý přístup, který by měl skončit.

Model, kdy je AI automaticky zapnutá a uživatel musí aktivně provést několik kroků, aby se jí zbavil, je příkladem tzv. „opt-out" strategie. Problém je, že velká část uživatelů si ani neuvědomí, že tyto funkce používají. Ať už jde o analýzu vašich e-mailů pomocí AI, automatické generování textů v dokumentech nebo vytváření obsahu v sociálních sítích – všechno běží v pozadí. A mnoho lidí to vůbec neví, dokud náhodně nenarazí na odpovídající nastavení.

Proč je to problematické? Jednak proto, že to uživatelům neumožňuje informovaný souhlas – základní princip ochrany osobních údajů a etiky v technologiích. Jednak proto, že AI rozhodování stále obsahuje potenciální chyby, předsudky a nejasnosti. Pokud se má AI používat v citlivých oblastech – ať už jde o zdravotnictví, právo nebo osobní finance – měl by si to uživatel explicitně vybrat sám. Měl by přesně vědět, jak AI funguje a co s jeho daty dělá.

Řešení je logické a přímočaré: model „opt-in" by měl být standardem. Generativní AI by měla být ve výchozím stavu vypnutá. Uživatelé, kteří si ji chtějí vyzkoušet, si ji mohou jednoduše zapnout v nastavení. Tímto přístupem by společnosti ukázaly, že si opravdu váží soukromí a autonomie svých uživatelů. Navíc by to vedlo k lepšímu pochopení toho, jak AI vlastně funguje – lidé by si ji vědomě volili a věděli by, co od ní čekat.

Není to žádná revoluční myšlenka. Už řadu let to dělají odpovědné společnosti v oblasti privátních komunikací nebo sledování. Proč by to mělo být jiné u AI? Čím více AI bude integrována do našeho digitálního života, tím více bude důležité, aby o ní uživatelé měli kontrolu a vědomost. Automatické zapínání bez souhlasu není cesta. Čas na změnu je teď.

Zdroj: Wired

Rubrika: AI & Technologie