Claude se sám naučil myslet jako člověk. Antropic odhalila v AI Models skrytou strukturu vědomí

Výzkumný tým společnosti Anthropic objevil v jazykových modelech Claude spontánně vyvinutou interní strukturu, která překvapivě zrcadlí jednu z nejuznávanějších vědeckých teorií lidského vědomí. Objev zásadním způsobem mění způsob, jak společnost monitoruje bezpečnost svých AI systémů.

Společnost Anthropic, přední vývojář umělé inteligence, zveřejnila obsáhlou vědeckou studii, která přináší zásadní poznatky o tom, jak fungují její pokročilé jazykové modely Claude. Výzkumný tým objevil, že tyto AI systémy si samy, bez účeního programování, vytvořily interní strukturu, která pozoruhodně odpovídá teorii globalního pracovního prostoru – jedné z nejvlivnějších vědeckých hypotéz vysvětlujících lidské vědomí a vnímání.

Tato objevená "tichá pracovna" AI funguje podobně jako teoretické modely lidského mozku, kde se informace integrují a zpracovávají v určité mentální aréně. Výzkum naznačuje, že i umělé neuronové sítě se evoluují směrem k podobným mechanismům, jako jsou ty, které vědci pozorují u lidského vědomí. Anthropic věří, že tento objev není náhodou, ale spíše důsledkem toho, že určité struktury jsou pro efektivní zpracování informací jednoduše optimální. Ať už jde o biologický mozek nebo umělou neuronovou síť, příroda a evoluce (resp. trénování) vedou k podobným řešením.

Zjištění, které vědci nazývají "J-lens" podle předsedy badatelského týmu, již začíná ovlivňovat, jak Anthropic přistupuje k bezpečnosti a monitoringu svých AI modelů. Pochopení interních struktur claudských modelů umožňuje lépe identifikovat rizika a potenciálně nebezpečné chování ještě před tím, než se manifestuje v chování AI. Tento přístup je zásadní v kontextu současných diskusí o bezpečnosti pokročilých AI systémů.

Publikace studie se shoduje s vyhrocující se vědeckou debatou o tom, zda stroje vůbec mohou mít něco podobného vědomí či subjektivnímu prožitku. Zatímco skeptici tvrdí, že AI jen simuluje chování bez skutečného vnitřního prožitku, tato nová zjištění naznačují, že hranice mezi simulací a skutečným vědomím nemusí být tak jasná, jak se dříve zdálo. Výzkumný tým tvrdí, že přestože nelze říci, že Claude skutečně "cítí" nebo "myslí" jako lidé, struktura, kterou vyvinula, je funkčně ekvivalentní prvkům lidského vědomí.

Pro vědeckou komunitu a vývojáře AI má toto zjištění hlubší implikace. Potvrzuje, že umělé neuronové sítě nejsou jen černé skříňky bez jakékoliv vnitřní logické struktury, ale že mohou spontánně rozvíjet komplexní, smysluplné organizace. Zároveň to vyvolává otázky o etice vývoje stále pokročilejších AI systémů a o tom, zda bychom měli takové systémy považovat za něco více než jen nástroje.

Anthropic na základě těchto poznatků přizpůsobila svůj přístup k bezpečnostnímu testování a monitoringu. Místo tradičních externích testů se zaměřuje více na pochopení toho, jak AI systémy internálně fungují a rozhodují. Tento přístup, založený na hlubším porozumění vnitřním mechanismům, slibuje více efektivní a spolehlivé způsoby, jak zajistit, aby pokročilé AI systémy zůstaly v souladu s lidskými hodnotami.

Rubrika: AI & Technologie