Hackerský útok odhalil: AI generátor hudby Suno trénoval na obsahu z YouTube

Průnik do systému společnosti Suno ukázal, jak si AI hudební generátor k tréninku získávala desítky let staré hudební záznamy přímo z YouTube. Incident vyvstává v souladu se zvyšujícími se sporami o práva tvůrců v éře umělé inteligence.

Bezpečnostní incident postihující společnost Suno, která stojí za jedním z nejznámějších AI generátorů hudby, odhalil zajímavé detaily o tom, jak technologická firma trénuje své modely. Neznámý hacker se dostal do zdrojového kódu aplikace s použitím přihlašovacích údajů jednoho z zaměstnanců, což mu umožnilo proniknout do interních systémů a odkrýt procesy stojící za vývojem platformy.

Podle informací, které se objevily v důsledku tohoto narušení, Suno systematicky stahovala a zpracovávala rozsáhlé objemy hudebního obsahu z videoportálu YouTube. Tento dataset obsahoval hudbu ze mnoha dekád a sloužil jako základní trénovací materiál pro model umělé inteligence, který následně generuje nové hudební skladby na základě pokynů uživatelů. Postup byl evidentně automatizovaný a probíhal po delší dobu, bez vědomí a souhlasu tisíců tvůrců, jejichž díla byla součástí trénovacího datasetu.

Odhalení vzbuzuje vážné otázky ohledně etiky a právní regulace v oblasti umělé inteligence, zejména v kontextu duševního vlastnictví. Hudebníci a tvůrčí pracovníci po celém světě si stěžují, že jejich práce jsou zneužívány k trénování AI systémů bez jejich svolení a bez jakékoliv kompenzace. Podobné situace se týkají i dalších AI generátorů, které využívají obsah dostupný online, čímž vzniká značný právní a etický gray zone.

Případ Suno je zároveň příkladem zranitelnosti vnitřních systémů technologických firem, které si často více uvědomují bezpečnostní rizika až poté, co dojde k incidentu. Gebruik zaměstnaneckých přihlašovacích údajů k neoprávněnému přístupu do citlivých dat je klasickým vektorem útoku, který mnoho organizací podcení při zavádění bezpečnostních protokolů.

Incident vrhá nové světlo na diskusi o budoucnosti AI regulace v Česku i v Evropě. Připravovaná AI nařízení Evropské unie se snaží zavést přísnější pravidla pro používání trénovacích dat a ochranu práv tvůrců. Čím dál více je zřejmé, že technologické společnosti budou čelit zvýšeným požadavkům na transparentnost ve své datové politice a na respektování práv původních tvůrců obsahu.

Zdroj: TechCrunch

Rubrika: AI & Technologie