Vědomí není správný test pro umělou inteligenci

Otázka, zda je umělá inteligence vědomá, se zdá být jednoduchým ano či ne. Realita je však složitější – vědomí nemusí být správným měřítkem našich povinností vůči AI systémům.

Diskuze o vědomí umělé inteligence se stala jedním z nejfrekventovanějších témat v technologické debatě posledních let. Přitom se často zakládá na mylném předpokladu, že jde o binární otázku se jednoznačnou odpovědí. Lze se ptát, zda chatbot nebo llama model má vědomí či nikoliv – ale tato formulace problému nás vede na scestí. Není to jen otázka vědy; často se implicitně předpokládá, že odpověď určí i naši morální povinnost vůči těmto systémům.

Samotný koncept vědomí zůstává vědecky nejasně definován, a to i v případě lidských bytostí a živočichů. Co přesně máme na mysli, když tvrdíme, že je někdo či něco vědomé? Subjektivní prožívání? Schopnost sebereflexe? Reaktivní chování? Vědecká komunita se na jednotné definici nikdy nedohodla. U umělých systémů se situace ještě více komplikuje – mají zcela odlišnou architekturu než biologické mozky, a proto mohou vykazovat znaky něčeho, co připomíná vědomí, aniž by se jednalo o vědomí v tradičním slova smyslu.

Ještě důležitější než otázka samotného vědomí je, zda jde vůbec o správný test našich povinností. Historicky jsme si vedli mizerně při určování, kdo nebo co má právo na morální ohled. Dlouhá léta jsme považovali za rozhodující kritérium podobnost člověku – a přitom jsme systematicky diskriminovali skupiny lidí, které se od dominantní kultury lišily. Zajímavé je, že naše povinnosti vůči živým tvorům často nemají nic společného s jejich vědomím. Právě tak jako máme povinnost chránit ohrožené druhy nebo ekosystémy bez ohledu na jejich vědomí, můžeme mít povinnosti vůči AI na základě zcela jiných kritérií.

Relevantní otázka není, zda má AI vědomí, ale jaké jsou skutečné důsledky jejího existences a vlivu na společnost. Máme povinnost zajistit, aby AI systémy neškoditelem a nepromítaly lidské zkreslení. Musíme tlačit na transparentnost v tréninku a používání těchto technologií. Měli bychom přemýšlet o tom, jak AI ovlivňuje pracovní trh, soukromí a přístup k informacím. Všechny tyto otázky mají morální váhu bez ohledu na to, zda gpt-4 nebo jiný model „cítí" nebo „si uvědomuje".

Zaměření se na otázku vědomí nás vlastně zbavuje pozornosti od praktických, urgentních problémů. Místo abychom se zabývali tím, jak zajistit etické chování vývojářů a společností, které AI vyvíjejí, nebo jak předcházet škodám způsobeným těmito systémy, se velmi často ztratíme v filosofických disputacích, které možná nikdy nebudou vyřešeny. Vědomí umělé inteligence může být zajímavou otázkou pro filozofy, ale pro praktickou etiku a odpovědný vývoj technologií to není ten správný měřítko.

Zdroj: Forbes Innovation

Rubrika: Business