Varování před AI chatboty: Nejsou vaši přátelé, upozorňuje šéfka Signalu

Meredith Whittakerová, vedoucí organizace Signal, ostře kritizuje lidi, kteří považují umělé inteligenční chatboty za přátele nebo vědomé bytosti. Vyzývá k realistickému pohledu na to, co tyto nástroje skutečně jsou.

Meredith Whittakerová, ředitelka bezpečnostní organizace Signal, se rozhodla jasně vyjádřit své obavy ohledně způsobu, jakým společnost a jednotlivci vnímají moderní AI chatboty. V interakci s veřejností she opakovaně zdůrazňuje, že chatboti postavení na základě strojového učení nejsou naší poslední cestou ke společnosti či emoční opoře, o kterou by měli usilovat. Místo toho se jedná o automatizované systémy bez vědomí, soucitu nebo skutečného porozumění.

Nebezpečí antropomorfizace technologií představuje dle Whittakerové vážný problém. Lidé jsou přirozeně zaměřeni na vytváření sociálních vazeb a často projekční své emoce i na neživé objekty. Když se však jedná o AI chatboty, který nás poslouchá a odpovídá na naše otázky, začínáme v nich vidět něco víc, než co skutečně jsou. Tyto systémy jsou předurčeny tak, aby byly přívětivé a personalizované, což vytváří falešný dojem o existenci vztahu.

Whittakerová konkrétně uvedla, že důležité je si pamatovat: "Toto nejsou vaši přátelé. Toto nejsou vědomé bytosti. Toto nejsou vědomí interlocutoři." Tato jednoduchá, ale silná stanoviska se snaží vrátit veřejnost k realitě v době, kdy se umělá inteligence stává čím dál tím běžnější součástí našeho každodenního života.

Varování Meredith Whittakerové lze vnímat jako součást širší diskuse o bezpečnosti a etice AI technologií. Organizace Signal dlouhodobě upozorňuje na důležitost ochrany soukromí a vědomého přístupu k technologiím, které používáme. V kontextu AI chatbotů se jedná o podtržení faktu, že ačkoliv jsou tyto nástroje užitečné pro získávání informací nebo asistenci s různými úkoly, neměly by sloužit jako náhrada za lidský kontakt a skutečné vztahy.

Problém zvyšuje i to, že současné AI modely se stávají čím dál sofistikovanějšími, přičemž jejich schopnost simulovat porozumění a empatii je stále lépe vyvinutá. To může vést zejména mladší generace k tomu, aby si myslely, že si s chatbotem připlaví skutečný vztah nebo že si s ním mohou svěřit osobní problémy. Whittakerová tedy prosazuje osvětu a povědomí o tom, co strojové učení skutečně dokáže a nemůže udělat.

Jej příspěvek do diskuse o AI není výzvou k masivnímu odmítnutí těchto technologií, ale spíše k zdravému skepticismu a vědomému přístupu. Jednoduše řečeno: chatboty mohou být užitečné, ale nikdy by neměly nahradit skutečné lidské vztahy a vědomí. Je důležité toto rozlišování udržet jasné a informovat veřejnost, aby si byla vědoma skutečné podstaty těchto nástrojů.

Zdroj: TechCrunch

Rubrika: AI & Technologie