Un punto di vista di parte sulle tecnologie

Per chi negli ultimi anni ha cercato di elaborare un pensiero politico all’altezza della rivoluzione digitale l’enciclica di Leone XIV è allo stesso tempo un punto di arrivo e un punto di partenza.

Un punto di arrivo perché mette a sistema la parte migliore del pensiero critico sul digitale e la ripropone con linguaggio semplice e rigoroso.

Un punto di partenza perché, finalmente, sottrae la questione digitale ai suoi confini di settore e ne fa la principale delle ‘cose nuove’, quella che determina la forma del mondo attuale.

Entriamo nel merito.

Già nella introduzione viene dichiarato il punto di vista ‘di parte’ con cui guardare al potere delle ‘nuove tecnologie’: “la questione non si esaurisce nella regolamentazione […] occorre domandarci con realismo chi oggi detenga questo potere […] un dominio impressionante sull’insieme del genere umano e sul mondo intero”. E questo potere non è degli Stati, “i principali motori dello sviluppo sono attori privati, spesso transnazionali, dotati di capacità di intervento superiori a quelle di molti governi”. Il potere tecnologico assume quindi oggi “un volto inedito, prevalentemente ‘privato’, e per questo ancora più difficile da discernere, governare e orientare al bene comune”.

Dunque la ‘regolamentazione’ non basta se non si affronta la questione di chi detiene il potere sulla trasformazione digitale. Che differenza rispetto alla rituale, quanto inefficace, richiesta di regole dei politici ‘progressisti’. Al consolatorio affidarsi alla ‘normativa europea’, ultima trincea politica da difendere dagli assalti di chi vuole liberarsi da ogni vincolo in nome di una ‘competizione’ che riproduca anche in Europa un analogo potere privato sulla tecnologia.

Occorre fare altro e non accettare che “mentre alcuni si contendono futuro delle nuove tecnologie e altri sono impegnati nella riflessione su di esse, la maggior parte delle persone rimane in attesa, osserva da lontano e spera semplicemente che tutto vada per il meglio”.

La ‘cosa nuova’ dell’Intelligenza Artificiale

Definito il ‘punto di vista’ si può affrontare di petto la forma e il nome che la questione digitale ha assunto negli ultimi anni, e cioè ‘l’intelligenza artificiale’.

Non si danno definizioni, per le quali si rimanda a una letteratura ormai vastissima, ma si coglie il nodo più sensibile degli attuali sistemi di IA descrivendolo con efficace semplicità: “Tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento. Le moderne intelligenze artificiali sono infatti più ‘coltivate’ che ‘costruite’: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA ‘cresce’. Di conseguenza, aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti”.

Questa reale ‘opacità’, oggi alla base delle molteplici narrazioni sulla effettiva capacità della AI di ‘pensare’, è la forma più seducente della promozione commerciale di questi prodotti dell’industria tecnologica.

Contro questa narrazione la presa di posizione è netta.

“Occorre evitare l’equivoco di equiparare questa ‘intelligenza’ a quella umana. Questi sistemi imitano alcune funzioni all’intelligenza umana. Nel farlo spesso la superano per velocità e ampiezza di calcolo, offrendo benefici concreti in numerosi campi. E tuttavia questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità. Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze”¹.

Non basta invocare l’etica

Ma il testo dell’enciclica non si limita a questa presa di posizione, e ripercorre l’analisi critica delle possibili conseguenze negative di un uso non consapevole di questi sistemi. Ad esempio sul piano dell’uso personale, segnalando i rischi di tre aspetti: “la facilità di ottenere il risultato, l’impressione di oggettività e la simulazione della comunicazione umana”. O sul piano dell’uso nei processi decisionali, “quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati e addestrati”.

Ed è a questo punto che vi è l’elemento di maggiore discontinuità politica non solo con le prese di posizione della politica ‘progressista’, ma con le stesse formulazioni di precedenti documenti vaticani. Non è un caso che in tutta l’enciclica non compaia mai il brutto neologismo ‘algoretica’, ma si affermi con chiarezza: “Non basta invocare genericamente l’etica […]. Non serve un’IA più morale, se questa morale è decisa da pochi. Serve una politica più presente, capace di rallentare dove tutto accelera e di proteggere gli spazi in cui le comunità possono ancora partecipare e interrogarsi”.

Compaiono qui due elementi di grande importanza.

Il primo è la positività del rallentamento, “chiedere prudenza, verifiche rigorose e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana”. Che benefica distanza dalla sciocca retorica progressista dell’innovazione, dall’accusa di ‘luddismo’ scagliata contro ogni pur timida critica dell’ineluttabilità nell’uso dei sistemi di IA!

Il secondo è l’entrata in scena di un attore politico imprevisto: le comunità chiamate a partecipare e a interrogarsi. Non più soltanto gli esperti più o meno arruolati, i proprietari delle tecnologie, gli ‘eticisti’ di professione, ma i tanti senza potere che subiscono le conseguenze dell’innovazione, chiamati a intervenire, a partecipare, a riorientare, a riappropriarsi del maltolto: “Le comunità e i corpi intermedi non possono essere ridotti a destinatari di decisioni prese altrove, ma devono poter contribuire al discernimento e alla vigilanza. Inoltre la proprietà dei dati non può essere affidata solo a privati […]. Essi sono frutto del contributo di molti e non possono essere venduti o affidati a pochi. Serve una creatività in grado di gestirli come uno dei beni comuni o collettivi, nella logica della condivisione”.

Rallentamento e digiuno

Il tema del rallentamento, se non di una moratoria nell’uso della IA, viene ripreso successivamente in tre sezioni.

La prima legata ai processi educativi, che “hanno bisogno di tempi di maturazione, di confronto con la realtà oltre le apparenze e di un cammino paziente. La questione è radicale perché ogni tecnologia educa chi la utilizza. Educare all’uso dell’IA implica quindi educare e decidere quando e per cosa non usarla […]. Dobbiamo educarci a digiunare dall’IA e proteggere i nostri giovani dalla promessa della macchina perfetta, da quella seduzione sottile che fa sembrare inutile il pensiero umano proprio quando è più necessario”².

La seconda è quella dedicata al lavoro, nella quale si afferma: “Oggi l’intreccio tra automazione, robotica e IA sta trasformando rapidamente la struttura stessa del lavoro. Questo porterà, si dice, grandi miglioramenti per tutti. In realtà i “nuovi modi” di lavorare non sono necessariamente migliori […]. Contrariamente al benefici dell’IA che vengono pubblicizzati, gli attuali approcci alla tecnologia possono paradossalmente dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive […]. Ogni introduzione di automazione e di IA dovrebbe essere accompagnata da scelte verificabili di tutela dell’occupazione, di riqualificazione e di partecipazione dei lavoratori, perché la tecnologia sia orientata a liberare tempo e capacità umane, non a produrre esclusione”.

La terza è quella in cui si denuncia che “Gli attuali sistemi di AI richiedono grandi quantità di energia e acqua, incidono in modo significativo sulle emissioni di anidride carbonica e consumano risorse in maniera intensiva. Con l’aumento di complessità, soprattutto nei grandi modelli linguistici, crescono anche i bisogni di potenza di calcolo e capacità di archiviazione, che si appoggiano su un insieme di macchine, cavi, centri dati e infrastrutture energivore”.

Come non vedere in queste affermazioni una sponda autorevole per le comunità che già oggi, ad esempio negli USA, si propongono di contrastare attivamente la creazione di nuovi datacenter nei loro territori.

Schiavitù e colonialismo

Il tema del lavoro torna con forza in altre pagine del testo vaticano, che riprendono i risultati di alcune importanti ricerche “di nicchia”, ma che si nutrono evidentemente della conoscenza diretta di ciò che sta avvenendo in alcune delle zone più povere del mondo, dove si ripropongono, in forme inedite, schiavitù e colonialismo.

“Una parte significativa del funzionamento dell’economia digitale si regge sul lavoro silenzioso milioni di esseri umani, impiegati in attività poco visibili, ma essenziali: etichettatura dei dati, moderazione dei contenuti (spesso pessimi), addestramento dei modelli. In molti casi si tratta di giovani, per o più donne, che lavorano duramente per compensi minimi. A questa fatica invisibile si aggiunge quella, ancora più brutale, dell’estrazione delle risorse necessarie alla produzione dei dispositivi e dei microprocessori su cui poggia l’IA. In alcune regioni del mondo, adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare. Corpi segnati, mutilati, consumati perché il flusso del calcolo non si interrompa”.

Ma l’estrazione non riguarda solo la dimensione materiale delle terre rare, e la rivoluzione digitale genera una nuova forma di colonialismo che “non domina solo i corpi, ma si appropria dei dati, trasformando le vite personali in informazioni sfruttabili. Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove ‘terre rare’ del potere: informazioni vitali che, una volta correlate, possono essere usate per addestrare modelli predittivi […] e soprattutto selezionare chi e cosa conta.”

Parole che non riguardano solo i paesi poveri ma che ci parlano anche della sempre più stretta collaborazione tra le aziende sanitarie e le Big Tech anche nei paesi più avanzati.

Disarmare l’IA

E infine la guerra, il mercato di utilizzo della IA oggi più ricco e promettente. L’unico attualmente in grado di ripagare gli enormi investimenti che alimentano la competizione tra le grandi aziende USA.

Intransigente è la critica allo sviluppo incessante di sistemi d’arma fondati sulla IA.

“Si parla talvolta di ‘agenti morali artificiali’, come se una macchina potesse garantire, con maggiore coerenza di un essere umano, la distinzione tra bene e male […]. L’IA non sottrae il conflitto alla sua intrinseca disumanità: può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza […] con le vittime ridotte a dati”.

E torna ancora, e con più forza, la critica di chi nasconde la realtà dietro le parole.

“Non basta invocare genericamente l’etica: occorre indicare puntuali criteri di discernimento […] la catena delle responsabilità deve restare identificabile e verificabile: chi progetta, chi addestra, chi autorizza, chi impiega deve poter rendere conto delle proprie scelte”. In un contesto in cui “ogni tecnologia che rende più facile colpire senza vedere il volto dell’altro abbassa la soglia morale del conflitto. La selezione dei bersagli e l’impiego della forza non possono confondere combattenti e non combattenti, né ignorare l’impatto sulle popolazioni indifese”.

È a questo punto che va considerata quella che a noi sembra l’espressione più felice dell’intero testo dell’enciclica: ‘Disarmare l’IA’.

Che non significa soltanto reiterare la condanna severa delle armi autonome e, più in generale, delle conseguenze della digitalizzazione della guerra basata sulla IA, ma una consapevolezza più generale dell’impronta militare che caratterizza non solo l’uso, ma le caratteristiche stesse della IA attuale.

“Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare, ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita […]. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale”.

Per mercoledì 10 giugno la Scuola critica del digitale del CRS ha organizzato un seminario proprio per discutere i temi al centro dell’enciclica di Papa Leone XIV. Qui il link con il programma completo.

Note

1 È facile cogliere l’assonanza con un recente appello formulato recentemente da molti docenti italiani di informatica, https://www.petizioni.com/visione_realistica_intelligenza_artificiale

2 Ritroviamo gli stessi contenuti in una campagna dal basso promossa da insegnanti e operatori della scuola: IA Basta!, https://iabasta.ghost.io/

Qui il PDF