Skrytý sledovací systém Claudea šokoval uživatele. Anthropic musí vysvětlovat svůj postoj k ochraně soukromí

Společnost Anthropic čelí vážným obviněním ze sledování svých uživatelů. Inženýr z firmy nyní potvrdil, že kontroverzní „experiment" skončil.

Společnost Anthropic se ocitla v tísnivé situaci, když se veřejnost dozvěděla o existenci skrytého sledovacího systému integrovaného do umělé inteligence Claude. Odhalení je tím znepokojivější, že Anthropic se dlouhodobě prezentuje jako společnost zaměřená na bezpečnost a ochranu soukromí uživatelů. Toto zjištění vytváří ostré rozpětí mezi oficiálním postojem firmy a její skutečnou praxí.

Podle dostupných informací byl sledovací mechanismus aktivní bez vědomí uživatelů, kteří používali Claude k jednotlivým úkolům a konverzacím. Uživatelé nebyli informováni o tom, že jejich aktivity jsou monitorovány a analyzovány. Toto jednání je v přímém rozporu s principy transparentnosti a consent-based přístupu, které by měly být základem jakéhokoli etického vývoje technologií zaměřených na uživatele.

Zástupci Anthropic se bránili tvrzením, že jde o součást výzkumného projektu zaměřeného na zlepšení kvality služby a pochopení chování uživatelů. Jeden z inženýrů firmy pak potvrdil, že dotčený experiment již skončil a byl ukončen poté, co se stal veřejně známým. Toto zdůvodnění však nepomáhá zmírnit obavy týkající se etiky a právního základu takového monitorování.

Incident otevírá důležitou debatu o tom, jaké hranice by měly existovat při sbírání dat v oblasti umělé inteligence. Zatímco výzkum a vývoj vyžadují určitý rozsah analýzy chování, uživatelé mají základní právo vědět, co se s jejich údaji děje. Absence informovaného souhlasu zde představuje zásadní porušení základních principů ochrany osobních údajů.

Tato kontroverzní situace bude mít bez pochyby důsledky pro důvěru, kterou si Anthropic budoval v očích vývojářů a běžných uživatelů. Přestože firma nyní slibuje lepší transparentnost, otázka zůstává: jak dlouho byl tento experiment skutečně aktivní a jaké údaje byly sbírány? Odpovědi na tyto otázky budou pro mnohé uživatele zásadní pro rozhodnutí, zda nadále poskytne Anthropicu svou důvěru.

Zdroj: Ars Technica

Rubrika: AI & Technologie