(Articolo pubblicato in anteprima su AgendaDigitale.eu)
La riflessione che condivido mi è nata dalla mia recente esperienza di utilizzo di un famoso robot da cucina. L’ho ammetto, sono un entusiasta: non ho cucinato praticamente nulla nei miei primi 55 anni di vita, ora sforno in continuazione risotti, minestre, torte, pizzoccheri, ragù di nocciole (provatelo anche senza robot: strepitoso![1]), creme simil nutella, yogurt… L’ho acquistato prima di Natale come regalo per mia moglie, naturalmente su sua richiesta esplicita. Non avevo apprezzato però la finezza strategica della consorte: il suo obiettivo non era avere un robot da cucina, il suo (giusto) obiettivo era avere qualcun altro in famiglia che condividesse con lei l’onere della cucina. Infatti, dopo un’occhiata perplessa al robot, ha sentenziato che era troppo complicato per lei, forse più da ingegnere, perché non lo provi tu? Sapeva che non avrei resistito al fascino del connubio perfetto tra un processo ben strutturato e la tecnologia. E così è stato amore a prima vista. Poi ho cominciato a riflettere: è il robot che lavora per me, o sono io che lavoro per alimentare il robot da cucina?
La domanda potrebbe essere generalizzata così: siamo noi che usiamo la tecnologia o è la tecnologia che usa noi per diffondersi e prosperare? Si badi bene che la domanda potrebbe essere posta anche riguardo a piante o animali. Ad esempio, N. Harari, l’autore di “Sapiens. Da animali a dei”, fa un’analisi simile guardando la storia dell’agricoltura dal punto di vista del frumento. Siamo noi che abbiamo usato il frumento per nutrirci ed evolverci, o è il frumento che ha sfruttato noi per diventare una delle piante più diffuse del pianeta? E i cani? I gatti? Pochi animali hanno avuto il loro successo nel diffondersi e prosperare…
Ma torniamo alla tecnologia. Qualcuno mi ha detto qualche anno fa che, vista dall’esterno, la nostra civiltà sembrava avere come obiettivo primario quello di alimentare i social media. Con l’intelligenza artificiale (AI) questo fenomeno è esploso, ma il concetto è lo stesso. Ci sono due modalità con cui noi lavoriamo per l’AI, una implicita (o incosciente) e una esplicita. La modalità implicita è quella che L. Floridi[2] chiama “avvolgimento”. Infatti, negli ultimi anni l’umanità ha lavorato alacremente per creare l’ambiente ideale perché gli strumenti di intelligenza artificiale potessero prosperare. Da internet in poi (ma in parte anche prima), abbiamo digitalizzato massivamente dati, documenti e processi rendendo il mondo più adatto alle Intelligenze Artificiali e agli Agenti Artificiali che agli umani. Quindi abbiamo iniziato a lavorare per l’Intelligenza Artificiale ancora prima che la maggior parte di noi la incontrasse sul suo cammino, almeno in forma evidente. Perché l’AI viene da lontano (almeno dagli anni 50), ma la maggior parte delle persone ha iniziato ad utilizzarla dal 2023, dopo l’esplosione di chatGPT. Ma sono decenni che lavoriamo tutti per costruire il mitico “avvolgimento”.
La seconda modalità è quella esplicita. La modalità esplicita ha diversi risvolti, se ne citano due particolarmente significativi:
Catalogazione dei Contenuti per il Training AI: ci sono molte persone che ogni giorno lavorano a catalogare i contenuti utilizzati per il training dell’AI. Infatti, non basta mostrare ad un’AI ancora vergine delle immagini di gatti perché capisca che sono gatti… qualcuno dovrà dirle (nella fase di training) che si tratta di gatti. Questo lavoro non particolarmente appagante è spesso una forma di sfruttamento[3]. Lavoratori anche qualificati dal Sud America, dall’Asia e dall’Africa passano ore a catalogare immagini per paghe miserrime[4]. Nelle Filippine ci sono circa 2 milioni di persone che lavorano ore o giorni per pochi dollari[5] per attività di “data labeling” che fruttano miliardi alle big tech che vendono i prodotti. In un suo articolo l’MIT parla di “AI Colonialism”[6]. La crisi economica del Venezuela, per esempio, ha reso disponibili centinaia di migliaia di lavoratori istruiti che per pochi dollari si prestano a lavori di data labeling, un po’ per le aziende di AI e un po’ per i grandi produttori di auto. Questi ultimi, infatti, si stanno buttando sulla guida autonoma (rincorrendo Tesla) e questo richiede la catalogazione di un numero esorbitante di immagini. La paga può variare molto, ma in Venezuela si va dai 90 cents ai 2$ l’ora[7]. Wired ha addirittura trovato evidenze di sfruttamento del lavoro minorile per attività di data labeling, spesso con l’esposizione dei minori a contenuti violenti o inappropriati[8].
Oversight Umano e Mitigazione dei Bias
L’oversight umano è essenziale per mitigare i bias nei modelli AI. Gli esseri umani sono essenziali per limitare la probabilità di risposte non corrette o fuorvianti da parte dell’AI. Il tema non è nuovo. Ad esempio, nel 2019 uno studio dell’università di Berkley[9] dimostrò come gli algoritmi utilizzati per valutare le persone che richiedevano un mutuo penalizzavano pesantemente le comunità nere e latine, con minore accesso al credito e interessi più elevati. L’American Civil Liberties Union (ACLU) ha segnalato casi in cui i bias negli algoritmi di identificazione facciale, in particolare la scarsa accuratezza nell’identificazione delle persone di colore dovute verosimilmente ad un training molto focalizzato su visi caucasici, hanno causato arresti ingiusti e discriminatori[10]. I bias possono essere di tipo diverso[11]: degli algoritmi in se, dei dati di training ad esempio incompleti, dei dati di training contenenti essi stessi dei bias o pregiudizi, dell’accuratezza dei meccanismi di misura e di clustering, di selezione o esclusione incorretta di dati e infine bias nella fase di data labeling. E questo ci riconduce al tema precedente. Come si vede in ogni caso l’uomo ha un ruolo fondamentale sia nell’introduzione che nella mitigazione dei bias. E se il data labeling è un’operazione critica, la verifica della qualità del data labeling al fine di mitigare i bias lo è ancora di più. Ma, come si è visto, anche questo ricade nelle attività gestite da milioni di umani che, in condizioni precarie e sottopagati, svolgono uno dei compiti più importanti per l’economia di oggi e di domani.
La domanda sorge spontanea: stiamo costruendo un gigante su piedi di argilla?
Per un mercato che, secondo il recente report di Grand View Research[12], vale oggi 390.91 miliardi di dollari e che si stima varrà 1.811,75 miliardi di dollari nel 2030, veramente abbiamo bisogno di ricorrere allo sfruttamento dei poveri e degli svantaggiati del pianeta? Non beneficeremmo tutti grandemente di un vero e sostenibile “human in the loop”, con persone motivate, selezionate e pagate correttamente che verifichino la qualità del dato e delle etichette di catalogazione dei dati, che sono un po’ l’alimento base dell’AI?
Mi ritrovo sempre più spesso a pensare all’affermazione del Prof. Ethan Mollick[13]: “we are focusing on the kind of AI Apocalypse. […] Rather than just being worried about one giant AI apocalypse, we need to worry about the many small catastrophes that AI can bring.”[14] E purtroppo, lo abbiamo visto anche nelle ultime vicende geopolitiche, la tecnologia non governata sta diventando un fattore di instabilità più che di progresso.
A mio parere stiamo cadendo sempre più in fretta nel problema dei tre corpi. Per chi non avesse letto il bellissimo libro di Liu Cixin[15], stiamo costruendo da noi un mondo infernale come quello dei Trisolariani. Tre soli che, orbitando in un unico sistema, creano un’instabilità cronica che distrugge periodicamente tutto. Le gravità potenti e interconnesse del potere tecnologico, del potere economico e del potere militare (si veda l’analisi acuta di Ian Brenner in merito[16]) stanno aumentando la velocità e l’impredicibilità del sistema, con potenziali effetti catastrofici. Forse non è troppo tardi. Forse nell’attuale contesto geopolitico l’Europa che, a mio parere (pur con tutti i suoi limiti), è un faro di civiltà in un mondo complesso e instabile, può contribuire a far emergere un nuovo ordine mondiale di governo. Ci sono segnali lasciano intravedere la possibilità di un ruolo nuovo per il “vecchio continente”: di fronte all’instabilità e a volte alla schizofrenia degli Stati Uniti, all’aggressività della Russia e alle ambizioni della Cina, il primo mercato mondiale per importazioni ed esportazioni, può tornare a giocare un ruolo a tutto tondo per stabilizzare il nuovo sitema tr
[1] https://betulla.eu/ragu-piemontese-di-nocciole/
[2] “Etica dell’intelligenza artificiale” – L. Floridi – Ed. R. Cortina – 2022
[3] https://www.ilo.org/resource/article/artificial-intelligence-illusion-how-invisible-workers-fuel-automated
[4] https://news.csu.edu.au/opinion/ai-is-a-multi-billion-dollar-industry.-its-underpinned-by-an-invisible-and-exploited-workforce
[5] https://www.washingtonpost.com/world/2023/08/28/scale-ai-remotasks-philippines-artificial-intelligence/
[6] https://www.technologyreview.com/2022/04/20/1050392/ai-industry-appen-scale-data-labels
[7] https://www.technologyreview.com/2022/04/20/1050392/ai-industry-appen-scale-data-labels
[8] https://www.wired.com/story/artificial-intelligence-data-labeling-children/
[10] Wrongfully Arrested Because Face Recognition Can’t Tell Black People Apart | ACLU
[11] What is Machine Learning Bias (AI Bias)? | Definition from TechTarget
[12] https://www.grandviewresearch.com/industry-analysis/artificial-intelligence-ai-market#:~:text=The%20global%20artificial%20intelligence%20market%20is%20expected%20to%20grow%20at,USD%201%2C811.75%20billion%20by%202030
[13] https://time.com/6961559/ethan-mollick-ai-apocalypse-essay/
[14] “Ci stiamo focalizzando sul tipo sbagliato di Apocalisse da intelligenza artificiale. […] Invece di preoccuparci per un’apocalisse da intelligenza artificiale gigante, dovremmo preoccuparci delle tante piccole catastrofi che l’intelligenza artificiale può generare.”
[15] https://it.wikipedia.org/wiki/Il_problema_dei_tre_corpi
[16] https://www.youtube.com/watch?v=uiUPD-z9DTg
