Seconda parte de “Il gioco delle perle di silicio”. La prima parte (Le gole di Cerbero) è disponibile qui.

Ridurre l’AI alle tre gole di Cerbero, al male insomma, significherebbe non coglierne la complessità e le potenzialità. Fermarsi alle tre gole significherebbe cadere in una semplificazione di tipo distopico e apocalittico che non aiuta il ragionamento. L’AI è molto di più di questo e, se sapremo tenere a bada Cerbero, sarà la chiave dello sviluppo scientifico, economico e sociale dei prossimi anni. Perché l’AI già ora sta ricostruendo il mondo e spesso lo sta facendo decisamente meglio di quello che c’era prima. Usiamo la metafora dei tre Arcangeli per analizzare alcuni degli aspetti costruttivi dell’AI.

PRIMO ARCANGELO: Michele, ovvero l’azione e il combattimento

Michele, come forse qualcuno ricorderà da remote lezioni di catechismo, è l’arcangelo combattente, colui che affronta e sconfigge il male. Allora partiamo da lui perché uno degli aspetti interessanti dell’AI è che può essere utilizzata proprio per combattere le sue degenerazioni. Sappiamo che l’AI è utilizzata nei più moderni sistemi di cybersecurity per contrastare gli attaccanti, che sempre più spesso usano l’AI. Per citare uno dei tanti possibili esempi, gli strumenti di tipo UEBA (User and Entity Behaviour Analytics) utilizzano algoritmi di machine learning evoluti per analizzare i pattern comportamentali di utenti ed entità nei sistemi informatici e identificare così possibili anomalie, sintomo di un attacco in corso. Oppure pensiamo a tutte le applicazioni dell’AI per limitare il rischio e intervenire in caso di emergenza, come nella supervisione del trasporto aereo o in tutti i sistemi di controllo. La robotica, una delle gole di Cerbero quando non è tenuta sotto controllo, è anche quella scienza che ci permetterà di liberare milioni di uomini da lavori pericolosi o degradanti. In un futuro non lontano non ci saranno più uomini in miniera, non più artificieri umani a disinnescare le bombe (in parte è già così) e i robot anticiperanno gli umani in ogni esplorazione pericolose, dal fondo degli abissi marini a Marte.

Ci immaginiamo che in un futuro non lontano algoritmi di AI sofisticati potrebbero essere utilizzati per monitorare e governare l’utilizzo dei nostri dati. Il mio sogno ad esempio sarebbe quello di avere evidenza di come fluiscono i dati che, consapevolmente o meno, quotidianamente fornisco a Google, a Instagram, a Linked-in e ai diversi siti che navigo. Chi compra e chi vende i miei dati? Come vengono utilizzati? Insomma l’AI potrebbe aiutarci a superare la logica della “liberatoria” per l’uso dei dati (che i vari servizi ci propinano e che tutti noi accettiamo senza leggere per intero) per portarci alla vera libertà di fare scelte consapevoli, monitorabili e revocabili.

Inoltre, così come i sistemi UEBA aiutano le aziende a monitorare i comportamenti anomali e a trarre conclusioni su potenziali minacce, sistemi di AI di gestione del rischio potrebbero aiutare anche a monitorare le attività di sviluppo e l’utilizzo di armi letali autonome da parte dei diversi stati e verificare l’aderenza ai trattati e alle convenzioni internazionali (che in questo momento non esistono).

Purtroppo il liberismo degli ultimi anni non ci aiuta. Infatti in questo momento ci sono fortissimi incentivi economici che alimentano le tre gole di Cerbero, mentre non ci sono incentivi economici per i privati allo sviluppo di AI per limitare i rischi della sorveglianza di stato, del capitalismo dei big data e della robotica senza controllo. Credo che sia fondamentale che gli stati e le organizzazioni sovranazionali stimolino la ricerca applicata di soluzioni di AI di contenimento dei rischi. Perché ormai è chiaro: per arginare i rischi dell’AI l’uomo deve utilizzare l’AI. Oltre al necessario contesto normativo e di governo di cui parleremo nelle conclusioni.

SECONDO ARCANGELO: Gabriele, ovvero la conoscenza tramite i gemelli digitali

Gabriele è, nella tradizione sia cristiana che islamica, colui che annuncia e che porta il messaggio di Dio, che svela la volontà divina sul mondo. L’AI è certamente un potentissimo strumento di conoscenza che può aumentare le capacità dei ricercatori umani in modo smisurato. Si pensi ad esempio ai benefici che le sperimentazioni in silico stanno portando alle aziende farmaceutiche. Elaborati programmi di AI simulano il comportamento delle molecole dei farmaci in fase di test e permettono di abbreviare la durata dei trial clinici. Oppure combinano diverse molecole per suggerire ai ricercatori farmaci non esistenti. In generale, per ogni oggetto che esiste nel mondo fisico è possibile costruire un “gemello digitale” (o digital twin) su cui applicare il machine e il deep learning per imparare di più sul soggetto reale. Questo permette, come abbiamo visto, di sperimentare nuove cure per l’uomo, ma anche di predire quando la turbina di un aereo potrebbe rompersi, di identificare le interazioni pericolose tra i componenti di un edificio che potrebbero farlo crollare in caso di terremoto o di localizzare nuovi giacimenti di risorse preziose. L’IoT (Internet of Things) permette di raccogliere incredibili quantità di dati dall’ambiente che rendono i gemelli digitali dei predittori molto affidabili dei comportamenti dei gemelli reali. E sui gemelli digitali l’AI può effettuare simulazioni e test a velocità inimmaginabili nella realtà, fornendoci una conoscenza impensabile fino a qualche anno fa. Insomma, per conoscere il mondo (o, come direbbe Gabriele, per sapere quale sia la volontà divina sul mondo) in futuro potrebbe essere sufficiente applicare l’AI a delle copie (gemelli) digitali del mondo. Le cavie da laboratorio ringraziano.

TERZO ARCANGELO: Raffaele, ovvero la guarigione

Forse per il mio background universitario e professionale, forse per sensibilità personale, uno degli ambiti che più mi affascinano dall’AI e della robotica è quello relativo alle applicazioni alla diagnosi e cura di malattie e disabilità. In parte questo è incluso nel punto dedicato a Gabriele e alla conoscenza, ma ci sono anche altre applicazioni specifiche. Pensiamo agli arti artificiali e agli esoscheletri, con cui molte persone recuperano la mobilità perduta. I recentissimi, e talvolta inquietanti, lavori sull’interfaccia macchina/cervello aprono delle prospettive completamente nuove. Se questo è il futuro, c’è un presente fatto di soluzioni verticali a supporto della diagnostica per immagini. Interessante a questo proposito il recente documento della Società Italiana di Radiologia Medica (SIRM) intitolato “Intelligenza artificiale in radiologia”[1] che traccia un quadro etico-normativo prima e poi anche tecnologico. In sintesi, attualmente l’intelligenza artificiale è ancora nella sua infanzia e sta imparando le “funzioni” primarie: leggere, scrivere, parlare, vedere e riconoscere le immagini. L’enorme mole di dati digitalizzati fornisce l’alimento indispensabile per nutrire l’infanzia dell’AI. Tornando alla medicina, pensiamo alla quantità enorme di ore-medico utilizzate per analizzare “a vista” e refertare immagini radiografiche, ecografiche, tomografiche e di ogni altra provenienza. Molte di queste attività potrebbero essere automatizzate. Pensate ad esempio (e queste sono applicazioni reali, già utilizzate o in fase di test anche in strutture in cui ho lavorato) alla possibilità di dare in pasto ad un algoritmo di AI migliaia o milioni di mammografie provenienti dagli screening per il tumore al seno. L’AI potrebbe innanzitutto vagliare il materiale e proporre al senologo solo i casi sospetti o dubbi. Un risparmio di tempo immenso e la possibilità di aumentare gli screening con benefici enormi sulla salute! Certo non sfuggirà la delicatezza dal punto di vista medico-legale di questi meccanismi. Se l’AI si lascia “sfuggire” un caso a rischio di chi sarà la responsabilità? In caso di contenzioso come verranno gestite situazioni di questo tipo?

Nonostante questi risvolti giuridici spinosi, penso che l’AI e la robotica in sanità ci porteranno davvero ad una svolta epocale. Nel campo della diagnosi e cura, ad esempio di malattie come il cancro o di molte malattie genetiche, la capacità di macinare enormi quantità di dati ed effettuare simulazioni massive costituiscono armi micidiali. Nel campo della riabilitazione e del recupero funzionale la robotica sta già permettendo a persone paraplegiche di camminare e a molti altri di accorciare i tempi di recupero. Nell’ambito della prevenzione, incrociare in modo intelligente dati da fonti diverse estenderebbe enormemente le potenzialità attuali.

Interrompere il gioco delle perle di silicio

La domanda a questo punto viene spontanea: chi vincerà alla fine, Cerbero con le sue gole voraci e distruttive o gli Arcangeli, ossia le applicazioni dell’AI e della robotica che stanno ricostruendo e potenziando il mondo?

Ovviamente nessuno può predirlo con certezza, neanche le AI più evolute. Però c’è un meccanismo che da diversi anni si sta amplificando e che ritengo sia cruciale correggere perché gli Arcangeli abbiano più possibilità di Cerbero: la divisione dei saperi e la separazione tra culture. Per questo ho introdotto l’articolo con una citazione da “Il gioco delle perle di vetro”. Nel famoso libro di Hesse si immagina che tra il mondo reale e la casta degli intellettuali ci sia una profonda separazione. Questi ultimi vivono in un luogo a parte, chiamato appunto Castalia e si dedicano al gioco delle perle di vetro, la sublimazione dell’astrazione intellettuale e della separazione. Josef Knechts, il grande Magister Ludi, intuisce che questa è la via per il disastro e cerca di porvi rimedio [attenzione: spoiler ahead]: smette di giocare al gioco delle perle di vetro e lascia la Castalia per tornare nel mondo.

Oggi la situazione non è molto diversa: il pericolo non è immediato, forse la mia generazione potrà anche evitare i pericoli maggiori, ma il disastro è dietro l’angolo, così come la svolta positiva. La specializzazione del lavoro, introdotta nel XVIII secolo da figure come Adam Smith e poi spinta agli stremi da Taylor e i suoi seguaci, non si è fermata ed ha portato alla costruzione di saperi distinti e incomunicabili. I “tecnologi” e i “tecnocrati” vivono in una loro Castalia, completamente separata, che prende decisioni autonome e quasi sempre anticipa tutti gli altri. Si pensi alle azioni dei giganti tech come Google o Facebook, ma anche a situazioni più ordinarie, dove in un’azienda gli informatici parlano quasi sempre con un gergo incomprensibile ai più e vivono in uno stato di separazione. A seconda dell’azienda e della strategicità percepita del digitale, sono considerati a volte persone con superpoteri, a volte dei subnormali che vivono negli scantinati come in “The IT Crowd”. È come se avessimo inventato il “gioco delle perle di silicio”, il componente base su cui la Castalia digitale è edificata (almeno per ora). La separazione è dettata in alcuni casi da interesse, in altri da difficoltà comunicative. Nella prima categoria rientrano tutte le big tech con le loro fughe in avanti nell’AI e nella gestione dei dati: non hanno interesse ad entrare in relazione con altre culture (come quella giuridica o politica) che potrebbero rallentarne il percorso. Nella seconda categoria purtroppo rientriamo spesso molti di noi come professionisti del digitale, che per difficoltà oggettiva di comunicazione (manca una cultura digitale diffusa nelle aziende) o per comodità preferiamo a volte isolarci.

Peraltro anche gli altri saperi fondamentali in questo momento, come quello giuridico, filosofico e politico, ondeggiano tra il disinteresse e il distacco verso i temi digitali. Ci sono delle eccezioni ed ho conosciuto personalmente filosofi, giuristi e anche teologi appassionatamente coinvolti nel dibattito digitale. Questo significa che c’è speranza. Ma per lo più viviamo in Castalie separate. Solo che la Castalia del digitale viaggia a velocità sub-luce, mentre la filosofia, la giurisprudenza e la politica si muovono in calesse. Mentre stiamo faticosamente muovendo i primi passi per adeguare i processi aziendali al GDPR nei paesi europei, le grandi digital company (quasi tutte non europee) fanno man bassa di dati personali quasi senza regole. Qualcuno sta iniziando a parlare di accordi “simil GDPR” a livello mondiale, ma qui si sta viaggiando a piedi e forse con una gamba zoppa perché i tempi tendono all’infinito. Una luce nel buio si intravede però ad esempio nella nuova normativa dell’Unione Europea sull’intelligenza artificiale, che dal GDPR prende diverse buone pratiche[2].

C’è una soluzione? Forse a brevissimo no, ma il percorso credo debba essere quello indicato da Josef Knechts: ogni sapere deve uscire dalla propria Castalia e interrompere il proprio personale e spesso onanistico gioco delle perle di vetro (o di silicio) per cominciate a collaborare con gli altri saperi. Perché oltre alla innegabile complessità del mondo moderno, oggi abbiamo anche strumenti di condivisione e collaborazione mai visti prima. Internet e tutto quello che ha portato potrebbero essere il sistema nervoso di un nuovo livello nel percorso evolutivo della terra e dell’umanità. Dopo la geosfera e la biosfera, potremmo veramente essere all’alba della nascita della noosfera, ossia una interconnessione organica tra tutti gli uomini della terra capace di produrre un nuovo livello di pensiero. Naturalmente non è un’idea mia, ma originariamente del mineralogista russo Vladimir Ivanovič Vernadskij, poi fatta propria dal grandissimo Teilhard de Chardin. Vogliamo finire con la citazione di un altro grandissimo saggio? In questo mondo in cui ci spaventano il potere del capitalismo dei big data, le armi autonome e la sorveglianza di stato, serve un equilibrio tra l’idealismo di don Chisciotte, che ha il coraggio di immaginare quello che ancora non c’è, e il realismo di Sancho Panza, che vuole dei risultati (un castello direbbe lui) subito. E se il compito che abbiamo davanti ci sembra improbo, non dimentichiamoci l’ammonimento di questo saggio: bisogna agire ora, perché la matassa si ingarbuglia sempre più…

Salta in piedi, Sancho, è tardi, non vorrai dormire ancora,

Solo i cinici e i codardi non si svegliano all’aurora:

Per i primi è indifferenza e disprezzo dei valori

E per gli altri è riluttanza nei confronti dei doveri.

L’ingiustizia non è il solo male che divora il mondo,

Anche l’anima dell’uomo ha toccato spesso il fondo,

Ma dobbiamo fare presto perché più che il tempo passa

Il nemico si fa d’ombra e s’ingarbuglia la matassa…

 (F. Guccini – Don Chisciotte)

[1] https://www.sirm.org/wp-content/uploads/2020/05/DOCUMENTO-SIRM-SU-INTELLIGENZA-ARTIFICIALE-1-1.pdf

[2] https://www.cybersecurity360.it/legal/privacy-dati-personali/ecco-il-regolamento-ue-sullintelligenza-artificiale-complementare-al-gdpr-sulla-privacy/