AI e immigrazione: nuove e potentissime armi di sorveglianza e controllo, per ora solo per gli immigrati…

Videosorveglianza, IA e GDPR (1)(Articolo pubblicato in anteprima su AgendaDigitale.eu)

C’è un ambito in cui, in questo momento storico, c’è una larghissima e trasversale coalizione che unisce quasi tutti i paesi più ricchi o in via di rapido sviluppo. Un consenso generale, difficile da trovare su altri importantissimi temi: quello del controllo dell’immigrazione. Certo tutti pensano a Trump e agli Stati Uniti, che sono però solo uno degli attori. L’Australia, un paradiso per molti aspetti, da sempre applica politiche estremamente selettive ed ha approvato nuove leggi per la detenzione off-shore (in Papua Nuova Guinea e Nauru) e condanne molto severe (da 1 a 5 anni) per chi non collabora con le deportazioni. Il civilissimo Giappone ha politiche estremamente restrittive e preferisce investire sull’automazione piuttosto che accogliere migranti, anche dove ci sia la necessità di manodopera qualificata. La Turchia ha completato un muro di oltre 1000 Km ai confini con Iran e Siria e pratica detenzioni arbitrarie e deportazioni. Ma anche l’Europa ha rafforzato i controlli alle frontiere e sta creando centri di accoglienza in paesi terzi.

Naturalmente le nuove tecnologie, spesso AI powered, sono entrate prepotentemente in questo contesto. La raccolta e l’elaborazione di grandi quantità di dati, il tracking della posizione di cose e persone, l’analisi dei profili e il calcolo di “indici di pericolosità” dei migranti, la videosorveglianza intelligente sono tutti strumenti potenti e su cui si sta investendo moltissimo.

L’ICE americano (Immigration and Customs Enforcement, and Citizen and Immigration Services) ha speso 7.8 miliardi di dollari in tecnologie di controllo dell’immigrazione dal 2020 ad oggi[1]. La temporalità fa capire che questo non è un vezzo solo di Trump, perché la maggior parte dei contratti in essere sono stati attivati sotto l’amministrazione Biden.

La costruzione di questo arsenale iper-tecnologico viene da lontano. Vi sono in particolare due aziende americane che da anni forniscono tecnologie alle forze dell’ordine e ai militari: Palantir e Clearview[2]. La prima fornisce tecnologie per l’analisi di sterminate quantità di dati. Guardando i suoi bilanci colpisce il fatto che dalla fondazione (2003) al 2022 non ha mail prodotto utili. Anzi, ogni anno perdeva diverse centinaia di milioni. Guardando il grafico del fatturato e degli utili dal 2020 ad oggi di Palantir si capisce il trend di espansivo di queste aziende:

Revenues Palantir crescenti

[3]

Per l’altra azienda citata, Clearview, non vi sono dati pubblici completi. Però è uno dei fornitori più importanti di diverse agenzie americane. Tra i contratti più cospicui ci sono FBI, NYPD, ICE, Dipartimento di Giustizia, Dipartimento della Difesa, U.S. Customs and Border Protection e Dipartimento della Sicurezza Nazionale per citarne solo alcuni. Clearview si basa su un concetto semplice e un po’ border-line: l’utilizzo delle informazioni pubbliche su internet per schedare la popolazione. Punto. Non hanno limiti, quindi probabilmente ogni lettore che abbia uno o più profili social pubblici è schedato da Clearview. Io ho personalmente scritto al loro Privacy Officer per essere tolto dai loro archivi. Mai risposto. Per la serie #staisereno.

Se è vero che queste tecnologie sono in circolazione da anni, ora però l’intelligenza artificiale sta dando un’accelerata e una potenza senza precedenti ai controlli dei flussi migratori. La capacità di analizzare in tempo reale voci, testi e immagini e di riconoscervi un significato è sempre stato il sogno di molti governi più o meno democratici. In passato la raccolta e l’analisi delle informazioni richiedeva complicate e lente reti di spie e di informatori. Ora gli strumenti di AI riconoscono una persona da pochi fotogrammi. In realtà vanno anche oltre il riconoscimento facciale, perché possono identificare una persona anche senza vederne il volto analizzando la postura e l’andatura. Algoritmi predittivi sono in grado di stimare la pericolosità degli individui ed eventuali rischi di sicurezza. Strumenti di verifica automatizzata dell’identità e del background possono velocizzare le procedure, incrociando dati biometrici, storici e di contesto con immensi schedari come Clearview. Robot e droni con sofisticati sistemi di controllo e agenti autonomi possono controllare le frontiere.

Fin qui nulla di nuovo perché sono anni che si lavora in questa direzione. Quello che sta emergendo come novità è una spinta molto forte a deregolamentare l’utilizzo della tecnologia, che sia di AI o di altro tipo. Uno dei primi ordini esecutivi firmati da Trump ha revocato il precedente (del 2023) emesso da Biden per limitare i rischi dei sistemi di AI[4]. L’Europa certamente ha un atteggiamento più attento e cauto su questi temi e l’AI Act ne è un esempio. Tuttavia, anche l’AI Act sul tema controllo dei flussi migratori fa diversi passi indietro. Ad esempio, è permessa l’interpretazione delle emozioni tramite IA nei posti di frontiera e nei centri di controllo dell’immigrazione ed è consentito l’uso di algoritmi predittivi per l’identificazione di potenziali crimini, purché sottoposti a valutazione umana [5]. I sistemi per esaminare le richieste d’asilo e quelli per identificare le persone ai confini sono classificati come “ad alto rischio”, ma non vietati[6].

Il dato di fatto è che sul tema controllo dell’immigrazione si sta costruendo un vero arsenale, con armi sempre più potenti dove l’AI (e a breve gli agenti autonomi guidati dall’AI) ha un ruolo fondamentale. L’aspetto curioso (e inquietante) è che le tecnologie che molti paesi utilizzano per tenere i migranti fuori dai loro confini, sono usate da altri per sorvegliare e rinchiudere alcune popolazioni in territori definiti.  I due esempi più evidenti sono il controllo di Israele su Gaza[7] e quello della Cina sugli Uiguri[8].

Verrebbe da dire che c’è il rischio che nei prossimi anni alcune democrazie si trasformino in governi in mano a potenti oligarchie digitali con la disponibilità di arsenali immensamente potenti di sorveglianza, manipolazione e detenzione di massa. Verrebbe da dirlo, ma forse non sarebbe una previsione particolarmente originale. Forse sta già succedendo.

[1] The Surveillance Tools That Could Power Trump’s Immigration Crackdown – The New York Times

 

[2] https://www.agendadigitale.eu/sicurezza/privacy/uno-scudo-globale-contro-la-sorveglianza-digitale-ma-prima-educhiamo-noi-stessi/

[3] Grafico generato da Perplexity

[4] https://www.reuters.com/technology/artificial-intelligence/trump-revokes-biden-executive-order-addressing-ai-risks-2025-01-21/

[5] AI Act, le nuove regole in vigore dal primo febbraio sull’intelligenza artificiale: i dubbi sulle eccezioni «per la sicurezza nazionale» | Corriere.it

[6] Intelligenza artificiale. La nuova legge europea rischia di attivare una sorveglianza lesiva dei diritti dei migranti – Agenda17

[7] Israel: Stop using biometric mass surveillance against Palestinians – ARTICLE 19

 

[8]https://www.agendadigitale.eu/sicurezza/privacy/sorveglianza-di-massa-la-cina-non-e-poi-cosi-lontana-perche-potremmo-diventare-tutti-uiguri/

 

Perché gli sviluppatori (e molti altri professionisti IT) si stanno facendo fregare dallo “smart working” – Ovvero dell’importanza dell’amigdala

Una riflessione su una trappola in cui molti professionisti IT stanno cadendo…

(Why developers (and so many IT professionals) are being fooled by “smart working” – or around the importance of the amygdala)

Leggi tutto “Perché gli sviluppatori (e molti altri professionisti IT) si stanno facendo fregare dallo “smart working” – Ovvero dell’importanza dell’amigdala”

Coronavirus: il grande confronto tra diritto alla salute, sorveglianza, e privacy (un video dibattito e un po’ di link per approfondire…)

Interessante live streaming a cui ho partecipato ieri con Giorgia Zunino e Giuseppe Vaciago: “Coronavirus: il grande confronto tra diritto alla salute, sorveglianza e privacy”

Leggi tutto “Coronavirus: il grande confronto tra diritto alla salute, sorveglianza, e privacy (un video dibattito e un po’ di link per approfondire…)”

La lezione di Israele sulla business agility Parte 2: Gerusalemme (la diversità) e il kibbutz (l’umiltà)

Seconda parte della riflessione sulla business agility (organizational agility) a partire da quattro immagini di un paese in bilico tra eccellenza e caos, Israele. L’articolo che segue è la continuazione di: “La lezione di Israele sulla business agility – Parte 1

Leggi tutto “La lezione di Israele sulla business agility Parte 2: Gerusalemme (la diversità) e il kibbutz (l’umiltà)”

La lezione di Israele sulla business agility – Parte 1: Hebron (la necessità) e Tel Aviv (l’innovazione come ecosistema)

Una riflessione sulla business agility (o organizational agility) a partire da quattro immagini di un paese in bilico tra eccellenza e caos, Israele:

  • Hebron, ovvero della necessità
  • Tel Aviv, ovvero dell’innovazione come ecosistema
  • Il Kibbutz, ovvero dell’umiltà
  • Gerusalemme, ovvero della diversità

Leggi tutto “La lezione di Israele sulla business agility – Parte 1: Hebron (la necessità) e Tel Aviv (l’innovazione come ecosistema)”

Lettera ai miei figli sul futuro dell’Intelligenza Umana ai tempi dell’intelligenza artificiale: il modello Start Trek (serie classica e TNG)

Intelligenza umana e intelligenza artificiale: competizione o collaborazione? L’intelligenza artificiale soppianterà le competenze umane o le complementerà?  In questa lettera ai miei figli propongo un modello, non nuovo: quello di Star Trek (serie Classica e TNG).

Leggi tutto “Lettera ai miei figli sul futuro dell’Intelligenza Umana ai tempi dell’intelligenza artificiale: il modello Start Trek (serie classica e TNG)”

Alice nella classe capovolta: la digital trasformation dove non te la aspetteresti (grazie all’Intelligenza Collettiva)!

Ricomincia l’anno scolastico. Tante speranze, tanti mal di pancia: il rapporto tra genitori e insegnanti è sempre più difficile, i ragazzi vivono ormai con la testa ovunque tranne che in classe, scuola e tecnologie sembrano essere due concetti antitetici. Eppure, come scoprirete leggendo questo brano dei protagonisti di Yottabyte e Brontobyte, anche in (alcune) scuole sta avvenendo una vera e propria rivoluzione digitale. Basta guardare le cose capovolte.

Leggi tutto “Alice nella classe capovolta: la digital trasformation dove non te la aspetteresti (grazie all’Intelligenza Collettiva)!”

Innovazione (in sanità e non solo): e se dovessimo imparare dalle mamme e da Melinda?

L’innovazione ha molte facce, ma più ne leggo e ne parlo e più penso che stiamo vivendo il paradosso di un’innovazione fossilizzata, vittima di una visione monoculare. “Ma non esiste prospettiva senza due punti di vista”, come canta anche Fedez. Un esperimento sociale sui protagonisti di Yottabyte e Brontobyte mi ha dato alcuni spunti di riflessione per le vacanze, che condivido…

Leggi tutto “Innovazione (in sanità e non solo): e se dovessimo imparare dalle mamme e da Melinda?”

Linguine al pesto di avocado, gelato dell’albero e… innovazione! (Made in China 2025)

La geografia dell’Hi-tech (ossia delle innovazioni tecnologiche di punta) si sta modificando velocemente. Paesi che fino a qualche anno fa erano leader indiscussi si stanno ripiegando su se stessi, mentre altri stanno lavorando intensamente per conquistare il nuovo primato. Cosa c’entri tutto questo con il pesto di avocato e il gelato dell’albero, lo scoprirete leggendo il resoconto di questa cena dei protagonisti di  Yottabyte e Brontobyte

 

Leggi tutto “Linguine al pesto di avocado, gelato dell’albero e… innovazione! (Made in China 2025)”