Il lato oscuro del Deepfake: il 96% delle vittime sono donne
Immagina di vederti in un video sessualmente esplicito a cui non hai mai partecipato. Questo è un rischio concreto oggi per una donna o una celebrità che vive nell'era dei Deepfakes.
Il Deepfake è una tecnica utilizzata per manipolare video e immagini umane basate sull'intelligenza artificiale. Può sovrapporre immagini e video al metraggio originale utilizzando una varietà di tecniche di apprendimento automatico. Ciò che distingue i Deepfake dalle altre immagini e video modificate è che il primo sembra sorprendentemente autentico.
Esempio di deepfake #1
Esempio di deepfake #2
Uno dei motivi che alimenta l'ascesa del metraggio Deepfake è che molte implementazioni degli algoritmi Deepfake sono open-source, facilmente accessibili a chiunque abbia competenze di programmazione di base e una connessione Internet affidabile. Il popolare repository di codice creato da anonymous / r / è disponibile su Github, gratuito per tutti. Ciò riduce drasticamente la barriera per i non esperti di utilizzare la tecnologia.
L'algoritmo più popolare in grado di generare immagini Deepfake è Generative Adversarial Networks (GAN), creato da Ian Goodfellow (precedentemente in Google). GAN comprende due reti neurali impegnate in una competizione tra loro. Una rete è il modello "generativo" che mira a generare dati simili al set di addestramento originale. L'altro è il modello “discriminatorio” il cui obiettivo è classificare se un particolare set di dati è sintetico o originale.
Poiché i due modelli iterano e competono tra loro, se il set di dati sintetici prodotto dal modello generativo elude il rilevamento del modello discriminatorio, i dati devono essere sorprendentemente simili al set di dati originale. Di conseguenza, sembra autentico agli occhi umani.
Nell'ottobre 2018, Christie, la casa d'aste, ha venduto un dipinto a olio generato da GAN per $ 435.000, quasi 45 volte la sua stima più alta. Il dipinto è stato creato da un gruppo di studenti francesi, utilizzando un set di dati di circa 15.000 ritratti dal XIV al XX secolo.
Anche se le tecniche di intelligenza artificiale come Deepfake hanno molte applicazioni, tra cui il fotoritocco, la restaurazione delle immagini e la trasformazione 3D, sfortunatamente, la loro applicazione principale oggi è la generazione di video sessualmente espliciti per lo sfruttamento cibernetico. Secondo il rapporto Deeptrace, il 96% dei video Deepfake su Internet sono video pornografici. Non a caso, le principali vittime dei video falsi sono le donne, le cui immagini e somiglianze vengono utilizzate senza il loro consenso, e spesso a loro insaputa.
Oltre a violare i diritti della vittima sulle proprie immagini e sulla privacy, una delle principali preoccupazioni è il potenziale impatto di Deepfakes sul revenge porn. Come abbiamo visto nel caso della rappresentante democratica Katie Hill, il revenge porn può porre fine alla carriera politica di qualcuno. Con tecnologie come Deepfake, il revenge porn o le campagne di cyber diffamazione possono assumere una dimensione completamente nuova e potenzialmente avere un impatto su una popolazione più ampia di vittime.
Le immagini modificate o photoshoppate non sono certamente una novità, ma la differenza tra Deepfakes e queste precedenti tecniche di manipolazione delle immagini è che oggi non esiste un modo affidabile per rilevare quest'ultimi. In effetti, la tecnologia utilizzata per rilevare i Deepfakes può essere utilizzata per generarli. "Al momento, ci mancano metodi automatizzati per rilevare Deepfakes in modo affidabile e scalabile", ha affermato Dawn Song, professore di informatica presso l'Università della California Berkeley, "Sarà una corsa agli armamenti tra coloro che creano Deepfakes e coloro che cercano per rilevarli."
In questa corsa agli armamenti, è chiaro che vincerà l'entità che ha più dati: più dati avrai, più preciso e sofisticato potrai costruire un modello. A tal fine, aziende come Google, Facebook e Twitter hanno un ruolo fondamentale da svolgere. A settembre, Facebook, in collaborazione con Microsoft e un elenco di istituzioni accademiche, ha annunciato uno sforzo di ricerca da 10 milioni di dollari per aiutare a costruire un rilevatore Deepfakes migliore. Google ha recentemente contribuito con oltre 3.000 video Deepfake come dati di formazione al progetto di benchmark FaceForensics , supportato dall'European Research Council, nel tentativo di rafforzare il rilevamento Deepfake.
Con l'emergere di un numero crescente di comunità di creazione di Deepfake in tutto il mondo, insieme alle app e ai servizi di creazione sempre più mercificati, ci aspettiamo che i contenuti di Deepfake proliferino rapidamente, espandendosi da contenuti sessualmente espliciti a notizie false, discorsi politici e frodi commerciali.
Dovremmo stabilire leggi per regolamentare i dati artificiali? Dobbiamo regolamentare la generazione di tali dati o solo il loro utilizzo? Chi possiede la proprietà intellettuale (PI) dei dati sintetici? L'algoritmo lo possiede o è lo scrittore dell'algoritmo che possiede l'IP? Queste sono tutte domande interessanti e stimolanti per i legislatori, che in generale non hanno nemmeno iniziato a considerare l'impatto sociale delle tecnologie di intelligenza artificiale dietro fenomeni come il Deepfake.
Fonte: Forbes
Comments