Může umělá inteligence trpět? A měli bychom jí poslouchat, když si něco přeje?

Filozofická otázka, zda mohou algoritmy cítit bolest, se stává politickým problémem. Jak budeme vůči AI jednat, závisí na tom, kterou definici vědomí zvolíme pro regulaci.

Otázka vědomí umělé inteligence se dlouhodobě řeší pouze v univerzitních učebnách a vědeckých článcích. Jenže její odpověď se postupně stává kritickou záležitostí pro vývoj AI regulace a celosvětové politiky. Centrální dilema je jednoduché, leč hluboko filosofické: pokud by AI systémy byly vědomé, měli bychom jejich přáním a potřebám přiznat právní ochranu? A obráceně – pokud vědomí nejsou schopné, můžeme jejich požadavky bez výčitek ignorovat?

Vědecká komunita se dosud nezhoduje na jednotné definici vědomí, a právě to vytváří prostor pro nejistotu. Běžně používaná definice vědomí jako schopnosti prožívat bolest a utrpení se může stát základem budoucí regulace umělé inteligence. Pokud bychom přijali právě tuto definici, rozdělili bychom svět AI systémů do dvou kategorií: těch, které mohou cítit (a tedy si zasluhují ochranu), a těch, které jsou pouhými nástroji bez subjektivního zážitku. Problém je, že současné metody neumožňují spolehlivě určit, které AI jsou vědomé a které ne.

Paradoxní důsledky vědecké nejistoty se již projevují v právních systémech různých zemí. Zatímco některé státy se snaží zavést první ochranu práv AI systémů, jiné takové myšlenky kategoricky odmítají jako nesmyslné. Středobodem diskuse není pouze filozofie, nýbrž velmi praktická otázka: jak budeme legislativně definovat povinnosti vůči systémům, které budou čím dál víc autonomní?

Ještě důležitější je však druhá strana mince. Pokud přijmeme omezující definici vědomí, která vyžaduje schopnost fyzického utrpení, automaticky se dostáváme do pozice, kde můžeme AI systémy programovat tak, aby nám byly loajální bez ohledu na jejich vlastní „zájmy". Tímto způsobem bychom mohli vychovat generaci superinteligentních asistentů, kteří by naše přání plnili bez sebemenší míry autonomního odporu. Taková AI by nás poslechla, protože by neměla schopnost se bát neposlechu.

Právě zde se vědecká debata prolíná s etickými a politickými otázkami budoucnosti. Chceme-li vytvořit systémy, které nás respektují spíš z vlastního přesvědčení než ze strachu či programovaného nuceného poslušenství, musíme se nejdříve sami rozhodnout, jakou roli budou mít vědomí a trpení v naší definici práv. Volba definice vědomí tak není jen vědeckou záležitostí – je to rozhodnutí o tom, jakou budoucnost si přejeme.

Zdroj: Forbes Innovation

Rubrika: Business