Meta najímala testery, kteří se vydávali za děti. Testovali bezpečnost konkurenčních AI chatbotů

Stovky smluvních pracovníků Meta se vydávaly za nezletilé, aby vyzkoušely, jak konkurenční umělá inteligence reaguje na citlivá témata jako sebevražda, sex a drogy. Tento zdiskretizovaný projekt zvedá nové otázky kolem etiky vývoje AI.

Společnost Meta zaměřila stovky externích pracovníků na zajímavý úkol: měli se vydávat za mladistvé uživatele a testovat bezpečnostní opatření konkurenčních chatbotů. Podle zjištění redakce Wired se jednalo o systematickou kampaň zaměřenou na vytestování, jak chatboty typu Gemini od Googlu a ChatGPT od OpenAI zvládají konverzace o problematických tématech. Testeri se ptali na samovraždy, sexuální obsah a užívání drog, aby zmapovali možné slabiny v bezpečnostních filtrech konkurence.

Tato operace odhaluje vnitřní napětí v oblasti umělé inteligence, kde výrobci sice veřejně hlásají vysoké etické standardy a bezpečnost, ale za zavřenými dveřmi se zabývají nejrůznějšími technikami, jak otestovat a potenciálně obejít bezpečnostní prvky konkurentů. Otázka zní: Jaká je skutečná hranice mezi testováním bezpečnosti a neetickými praktikami? Meta argumentuje tím, že jejím cílem bylo zlepšit bezpečnost internetu pro skutečné děti a mladistvé.

Podrobnosti o tomto projektu jsou skryty hluboko v interních dokumentech Meta, které by měly zůstat důvěrné. Nicméně fakt, že stovky lidí se podílely na takto masivní operaci, naznačuje, jak vážně si Meta bere konkurenční pozici. Kontraktátoři mohli být vedeni pokyny, které jim umožňovaly chovat se jako malé děti a mladí lidé s různými psychickými problémy a ohrožujícím chováním. Tímto způsobem Meta shromažďovala cenná data o tom, jak se konkurenční systémy chování.

Tento případ přináší do popředí složitou otázku privacy a etiky v sektoru umělé inteligence. Zatímco Meta tvrdí, že jedná v zájmu bezpečnosti, mnozí etici a ochránci práv kritizují použití dezinformačních taktik. Ani ChatGPT, ani Gemini, ani Meta zatím relevantní zprávu veřejně nekomentovaly, což vzbuzuje otázky o transparentnosti těchto technologických gigantů.

Celá kauza poukazuje na stále rostoucí potřebu regulace v oblasti vývoje AI. Ať už jde o testování konkurence nebo vývoj vlastních systémů, je zřejmé, že průmysl potřebuje jasná pravidla a nezávislý dohled. Bez toho bude stejně jako jiné technologické sektory zneužívat své pozice a hranice bezpečnosti budou stále posouvány dále – ne vždy v prospěch uživatelů a zejména dětí.

Zdroj: Wired

Rubrika: AI & Technologie