AI agenti se ztrácí v jednotvárnosti: startup hledá cestu ven z slepé uličky

Moderní jazykové modely trpí problémem, kterému lze říkat umělý "groupthink" - všechny generují podobné odpovědi. Začínající startup nyní pracuje na řešení, které by umělé inteligenci pomohlo ke větší diversitě myšlení.

Otevřete si kterýkoliv chatbot z těch, které máme dnes k dispozici – ať je to Claude, ChatGPT či Gemini – a zadejte jednoduchou instrukci "Dej mi náhodné číslo mezi 1 a 100". Zdá se to být triviální úkol. Přesto se stane něco zajímavého: pokud si zkoušku opakujete s různými AI asistenty, zjistíte, že všechny mají překvapivě podobné nápady a vzory v odpovídání. Toto je právě jádro problému, kterému se říká groupthink v umělé inteligenci.

Jednotvárnost jako skrytý problém AI

Velké jazykové modely jsou trénovány na obrovských množstvích textových dat a jejich architektura je v zásadě totožná. Výsledkem je, že všechny AI systémy si osvojily velmi podobné vzory myšlení a reagování. Zdánlivě to nemusí být na první pohled problém, ale v praxi to znamená, že tyto systémy postrádají skutečnou kreativitu a diverzitu přístupu. Když se čelí komplexním problémům nebo netradičním otázkám, všechny si často poraďují stejným, někdy omezeným způsobem. Toto chování může být nebezpečné especially v oblastech, kde je třeba více pohledů na jeden problém.

Startup přichází s novým řešením

Právě na tento problém se zaměřuje nový startup, který vidí příležitost v tom, aby AI systémy navzájem konkurovaly a inspirovaly se různorodějšími přístupy. Cílem je vytvořit prostředí, kde budou AI agenti nuceni generovat více variací a divergentních řešení, místo aby se všichni shodovali na jednom "nejlepším" výsledku. Tímto způsobem by se měly umělé inteligence naučit myslet více nezávisle a originálně.

Důsledky pro budoucnost AI

Řešení tohoto groupthink problému by mohlo mít zásadní důsledky pro budoucí vývoj umělé inteligence. Pokud se podaří AI systémům umožnit větší diverzitu v myšlení, mohly by být schopny řešit složitější problémy, generovat více inovativních nápadů a být užitečnější ve speciálních oborech, kde je třeba více pohledů. Toto je jeden z důvodů, proč mnoho výzkumníků věří, že cesta k skutečně inteligentní AI vede přes zvýšenou různorodost přístupů a myšlení.

Zdroj: MIT Technology Review

Rubrika: AI & Technologie