Rilevare i falsi profondi in geografia

Compiuto uno studio empirico per sezionare il meccanismo algoritmico di falsificazione delle immagini satellitari con caratteristiche del paesaggio inesistente.

Puoi fidarti della mappa sul tuo smartphone o dell'immagine satellitare sullo schermo del tuo computer?

La crescente convergenza tra Intelligenza Artificiale e GIScience ha sollevato una preoccupazione per l'emergere di una geografia falsa e profonda e delle sue potenzialità nel trasformare la percezione umana del mondo geografico.

Finora sì, ma potrebbe essere solo questione di tempo prima che il crescente problema dei “deep fakes” converga con la scienza dell'informazione geografica (GIS). Ricercatori come il professore associato di geografia Chengbin Deng (1) stanno facendo il possibile per superare il problema.

Deng e quattro colleghi - Bo Zhao e Yifan Sun dell'Università di Washington, e Shaozeng Zhang e Chunxue Xu dell'Oregon State University - sono co-autori di un recente articolo su Cartography and Geographic Information Science (2) che esplora il problema. In “Deep fake geography? When geospatial data encounter Artificial Intelligence”, esplorano come potrebbero essere costruite e rilevate false immagini satellitari. La notizia della ricerca è stata raccolta da paesi di tutto il mondo, tra cui Cina, Giappone, Germania e Francia.

«Onestamente, probabilmente siamo i primi a riconoscere questo potenziale problema», ha detto Chengbin Deng.

La scienza dell'informazione geografica (GIS) è alla base di tutta una serie di applicazioni, dalla difesa nazionale alle auto autonome, una tecnologia attualmente in fase di sviluppo. L'intelligenza artificiale ha avuto un impatto positivo sulla disciplina attraverso lo sviluppo dell'intelligenza artificiale geospaziale (GeoAI), che utilizza l'apprendimento automatico o l'intelligenza artificiale (AI) per estrarre e analizzare i dati geospaziali. Ma questi stessi metodi potrebbero essere potenzialmente utilizzati per fabbricare segnali GPS, false informazioni sulla posizione sui post dei social media, fabbricare fotografie di ambienti geografici e altro ancora.

Insomma, la stessa tecnologia che può cambiare il volto di un individuo in una foto o in un video può essere utilizzata anche per realizzare immagini fake di ogni tipo, comprese mappe e immagini satellitari.

Secondo il dottor Chengbin Deng «Dobbiamo mantenere tutto questo in conformità con l'etica. Ma allo stesso tempo, anche noi ricercatori dobbiamo prestare attenzione e trovare un modo per differenziare o identificare quelle immagini false. Con molti set di dati, queste immagini possono sembrare reali all'occhio umano».

Per capire come rilevare un'immagine costruita artificialmente, bisogna prima costruirne una. Per fare ciò, hanno utilizzato una tecnica comune nella creazione di deep fake: Cycle-Consistent Adversarial Networks (CycleGAN), un algoritmo di deep learning non supervisionato in grado di simulare media sintetici.

Le reti generative avversarie (GAN) sono un tipo di intelligenza artificiale, ma richiedono campioni di addestramento - input - di qualsiasi contenuto siano programmati per produrre. Una scatola nera su una mappa potrebbe, ad esempio, rappresentare un numero qualsiasi di diverse fabbriche o attività commerciali; i vari punti di informazione immessi nella rete aiutano a determinare le possibilità che può generare.

I ricercatori hanno alterato un'immagine satellitare di Tacoma, Washington, intervallando elementi di Seattle e Pechino e facendola sembrare il più reale possibile. Gli studiosi non stanno incoraggiando nessuno a provare una cosa del genere da soli, anzi, al contrario.

«Non si tratta della tecnica; si tratta di come gli esseri umani utilizzano la tecnologia», ha detto Deng. «Vogliamo usare la tecnologia per il bene, non per scopi cattivi».

Dopo aver creato il composito alterato, hanno confrontato 26 diverse metriche di immagine per determinare se c'erano differenze statistiche tra le immagini vere e false. Differenze statistiche sono state registrate su 20 dei 26 indicatori, ovvero l'80%.

«Alcune delle differenze, ad esempio, includevano il colore dei tetti; mentre i colori del tetto in ciascuna delle immagini reali erano uniformi, erano screziati nel composito. Anche la falsa immagine del satellite era più fioca e meno colorata, ma aveva bordi più nitidi. Tali differenze, tuttavia, dipendevano dagli input utilizzati per creare il falso», ha spiegato Deng.

Questa ricerca è solo l'inizio. In futuro, i geografi potrebbero tracciare diversi tipi di reti neurali per vedere come generano immagini false e trovare modi per rilevarle. In definitiva, i ricercatori dovranno scoprire modi sistematici per sradicare falsi profondi e verificare informazioni affidabili prima che finiscano alla vista del pubblico.

Riferimenti:

(1) Chengbin Deng

(2) Deep fake geography? When geospatial data encounter Artificial Intelligence

Descrizione foto: I ricercatori hanno combinato le immagini satellitari di Tacoma, Washington, con Seattle e Pechino per creare un'immagine composita, quindi hanno identificato le differenze tra le immagini false e vere. - Credit: Chengbin Deng.

Autore traduzione riassuntiva e adattamento linguistico: Edoardo Capuano / Articolo originale: Map integrity: Researchers explore ways to detect ‘deep fakes’ in geography