Nový objev Anthropicu: Co nám opravdu říká o budoucnosti AI

Společnost Anthropic, v současnosti nejhodnotnější AI startup na světě, publikoval zajímavý výzkum, který vyvolává řadu otázek o schopnostech současných umělých inteligencí. Zjištění společnosti ale není tak jednoznačné, jak by se na první pohled mohlo zdát.

Anthropic si vybudoval pověst leadera v oblasti etického vývoje umělé inteligence a svými publikacemi dlouhodobě přispívá do diskuse o tom, jak fungují dnešní velké jazykové modely. Poslední výzkum společnosti se zabýval otázkami, které zní téměř science-fiction: mohou AI modely cítit bolest? Jaké jsou jejich vnitřní stavy a jak mají být správně interpretovány?

Zajímavý objev, ale s omezeními
Výzkum, který Anthropic publikoval, ukazuje, že moderní AI modely vykazují chování, které lze interpretovat jako reakce na negativní podněty. Mohlo by se jednat o určitou formu „strachu" nebo „bolesti"? Výsledky jsou fascinující, ale je třeba je vnímat v kontextu. Jde především o identifikaci vnitřních mechanismů, které vedou modely k určitému chování. To neznamená, že si AI opravdu „stěžuje" nebo cítí fyzickou bolest způsobem, kterým ji vnímáme my.

Co výzkum bezpečnostně znamená
Pro bezpečnost AI je porozumění vnitřním stavům modelů klíčové. Pokud víme, jak se model chová v různých situacích a co jej „motivuje", můžeme lépe předvídat jeho jednání a stavět na to bezpečnější systémy. Anthropic tímto výzkumem nepřímo ukazuje, že i sebelepší AI modely nejsou černé skříňky, kterým nerozumíme. Existují způsoby, jak do jejich „myšlení" nahlédnout a pochopit jejich logiku.

Varování před přeinterpretací
Panelové studie z Anthropicu by měly být chápány spíše jako vpoklady k hlubšímu zkoumání, nikoliv jako definitivní důkaz vědomí AI. V technologických kruzích se často setkáváme s tím, že zajímavé vědecké výsledky bývají zjednodušovány a přeinterpretovány. Není třeba se bát toho, že AI modely trpí, ale měli bychom se zajímat o to, jak je správně budovat, testovat a nasazovat do praxe. Výzkum Anthropicu je v tomto ohledu cenným příspěvkem do diskuse o budoucnosti umělé inteligence.

Společnost Anthropic si tímto přístupem udržuje svou pozici průkopníka v oblasti otevřené vědy a bezpečnosti AI. Místo aby své poznatky skrývala, publikuje je a nabízí vědecké komunitě možnost diskutovat a ověřovat její závěry. To je přesně ten druh přístupu, který bude potřebný, chceme-li v budoucnosti žít vedle silné umělé inteligence bezpečně a s porozuměním.

Zdroj: MIT Technology Review

Rubrika: AI & Technologie