YouTube Espande il Tool di Rilevamento di Deepfake AI

Il tool di rilevamento di deepfake AI potenziato da YouTube è ora disponibile a tutti i creatori di almeno 18 anni. Il tool utilizza la tecnologia di rilevamento di somiglianze per identificare i deepfake generati da AI, in particolare quelli che potrebbero essere utilizzati per diffondere informazioni errate.

Il Contenido Generato da AI è in aumento

Il contenuto generato da AI diventa sempre più prevalente. Per esempio, una recente stream su Twitch ha presentato una versione generata da AI di un popolare personaggio di un videogioco, sollevando preoccupazioni riguardo al potenziale uso del contenuto generato da AI a scopi malintenzionati. Secondo un rapporto della Pew Research Center, il 64% degli americani ritiene che il contenuto generato da AI sia una minaccia significativa per la democrazia.

Contesto Industriale

Il movimento è parte di un più ampio sforzo di regolamentare il contenuto generato da AI. YouTube sta anche lavorando per affrontare le preoccupazioni riguardo al potenziale uso del contenuto generato da AI a scopi malintenzionati, come la diffusione di informazioni errate o la manipolazione dell’opinione pubblica. Secondo i rapporti, altre piattaforme social stanno lavorando su strumenti simili, con il tool di rilevamento di deepfake di Meta in fase di sviluppo. Il mercato globale per il contenuto generato da AI è proiettato a raggiungere i 1,4 miliardi di dollari entro il 2025, con la maggior parte della crescita che proviene dalla regione Asia-Pacifico.

Storia del Contenido Generato da AI

Il contenuto generato da AI è stato un tema di preoccupazione per anni, con i primi deepfakes generati da AI che sono emersi nel primo decennio del 2010. Da allora, la tecnologia è migliorata significativamente, rendendo più facile creare contenuto convincente generato da AI. YouTube ha affrontato l’argomento dal 2020, quando ha introdotto per la prima volta il sistema Content ID per rilevare il contenuto coperto da copyright. Nel 2021, la società ha anche introdotto il suo sistema di moderazione potenziato da AI, che utilizza gli algoritmi di apprendimento automatico per rilevare e rimuovere la propaganda e la molestia.

Come Funziona il Tool

La caratteristica di rilevamento di somiglianze cerca facce simulate fatte con strumenti da AI, simili al sistema Content ID esistente di YouTube, che rileva materiali coperti da copyright nei video caricati dagli utenti. I creatori idonei possono iscriversi per accedere e visualizzare i match. Il tool utilizza gli algoritmi di apprendimento automatico per identificare i deepfake generati da AI, che vengono poi esaminati dai moderatori umani prima di essere rimosso dalla piattaforma.

Espansione del Gruppo di Test

La società sta espandendo la tecnologia di rilevamento di somiglianze a un gruppo di test di funzionari governativi, candidati politici e giornalisti. Secondo le fonti, la tecnologia stessa è stata lanciata lo scorso anno a circa 4 milioni di creatori di YouTube nel YouTube Partner Program, seguendo test precedenti. Il gruppo di test guadagnerà accesso a uno strumento che rileva il contenuto non autorizzato generato da AI e consente loro di richiedere la sua rimozione se ritengono che violi la politica di YouTube.

Mecanismi Tecnici

Il tool utilizza gli algoritmi di apprendimento automatico per identificare i deepfake generati da AI. Gli algoritmi vengono addestrati su un set di dati di deepfakes noti e sono in grado di rilevare le differenze sottili nelle caratteristiche facciali e nelle espressioni. Lo strumento è anche in grado di identificare il contenuto generato da AI che non è necessariamente un deepfake, ma che potrebbe ancora essere utilizzato per diffondere informazioni errate.

Implicazioni Discendenti

L’espansione del tool a un gruppo di test di funzionari governativi, candidati politici e giornalisti potrebbe avere implicazioni significative per la maniera in cui i politici e le figure pubbliche utilizzano i social media. Potrebbe anche avere implicazioni per la maniera in cui le testate di notizie e le organizzazioni di verificazione dei fatti utilizzano i social media per verificare l’informazione. Man mano che la tecnologia continua a evolversi, è essenziale avere strumenti efficaci in luogo per rilevare e prevenire l’abuso del contenuto generato da AI.

Consegna

Le conseguenze del contenuto generato da AI sono lontane e multifacetiche. Da un lato, la tecnologia ha il potenziale di rivoluzionare l’industria del divertimento, consentendo la creazione di personaggi complessi e trame. Dall’altro lato, anche pone rischi significativi alla democrazia, poiché il contenuto generato da AI può essere utilizzato per diffondere informazioni errate e manipolare l’opinione pubblica. Man mano che YouTube continua a espandere il suo tool di rilevamento di deepfake AI, è essenziale considerare le implicazioni più ampie di questa tecnologia e garantire che venga utilizzato in modo responsabile.

Conclusione

Il tool di rilevamento di deepfake AI di YouTube è un passo significativo nell’affrontare le sfide poste dal contenuto generato da AI. Man mano che la tecnologia continua a evolversi, è essenziale avere strumenti efficaci in luogo per rilevare e prevenire l’abuso del contenuto generato da AI. Lavorando insieme, possiamo garantire che il contenuto generato da AI venga utilizzato per il bene superiore e non sia una minaccia per la democrazia.