Google se vrací ke svému AI: Satelitní snímky byly podvržené

Společnost Google vypnula funkci umělé inteligence v Mapách poté, co se uživatelé začali zabývat vytvářením falešných satelitních snímků. Vývojáři tak ocenili důležitost kvalitní kontroly před spuštěním nových funkcí.

Populární technologický gigant Google se rozhodl stáhnout jednu ze svých experimentálních funkcí poháněné umělou inteligencí. Důvodem byla problematická situace, kdy se uživatelé Google Maps začali věnovat generování nepřesných a zcela vymyšlených satelitních snímků zemí. Funkce, která měla původně sloužit jako užitečný nástroj pro vizualizaci oblastí, se tak stala nástrojem pro šíření matoucích a potenciálně zavádějících obrázků.

Nová AI technologie v Maps byla součástí ambitního plánu Googlu na rozšíření umělé inteligence do svých nejpoužívanějších produktů. Funkce měla uživatelům umožňovat generování satelitních pohledů na místa, která ještě nebyla fotografie pokryta, nebo aktualizovat zastaralé snímky. Vývojáři věřili, že tímto způsobem budou moci poskytnout uživatelům kompletnější mapy zemského povrchu. Naopak se však ukázalo, že bez příslušné kontroly kvalitou může taková technologie více uškodit než pomoci.

Bezpečnostní a reputační rizika plynoucí ze šíření dezinformací se tak stala hlavním tématem diskusí v technologické komunitě. Experti poukazují na to, že generované snímky byly často zcela nesprávné a mohly by být zneužity pro šíření nepravdivých informací o určitých lokalitách či infrastruktuře. Takový scénář by mohl mít vážné následky pro lidi, kteří by se na tyto falešné obrázky spoléhali při plánování cest nebo podnikání.

Google nyní pracuje na vylepšeních bezpečnostních mechanismů a prověřování výstupů AI systémů. Společnost zdůraznila, že bezpečnost a přesnost informací jsou pro ni prioritou. Tento incident tak slouží jako důležitá lekce pro celý průmysl zabývající se vývojem umělé inteligence – že je nezbytné zavádět důrazné testování a kontrolu kvality ještě předtím, než se nové funkce dostanou do rukou milionů uživatelů po celém světě.

Situace také podtrhuje rostoucí obavy ohledně potenciálního zneužití AI technologií. Jak se umělá inteligence stává stále sofistikovanější a dostupnější, výrobci musí být extrémně opatrní při zajišťování toho, aby jejich produkty nemohly být snadno použity pro vytváření dezinformací nebo podvodů. Google případ potvrzuje, že byť má nejlepší záměry, tak bezpečnost a etika musí být součástí vývoje od samého začátku.

Zdroj: Seeking Alpha

Rubrika: Business