Magnifica humanitas, luci ed ombre /5

CAPITOLO TERZO
 “Tecnica e Dominio”.

“ Nell’Enciclica Laudato si’ Papa Francesco denunciava la crescente tendenza a lasciare che la logica dell’efficienza, del controllo e del profitto governi da sola le scelte personali, sociali ed economiche”. Parte da qui la denuncia di Leone XIV che vede una ulteriore estensione del paradigma tecnocratico nella diffusione selvaggia della I.A., nella crescente digitalizzazione, nello sviluppo della robotica e delle nano e biotecnologie. Urgentemente “il progresso tecnico, in sé prezioso, chiede un discernimento sulla visione antropologica che lo guida e sui fini che persegue”: ci pare importante sottolineare l’affermazione del papa che, senza una “crescita morale e sociale”, possono aumentare le risorse, ma non la qualità della vita dell’intera umanità.

Papa Prevost entra nel merito dell’attuale sviluppo tecnologico: “il controllo delle piattaforme, delle infrastrutture, dei dati e della capacità di calcolo non è appannaggio degli Stati, ma di grandi attori economici e tecnologici che, di fatto, fissano le condizioni di accesso, le regole della visibilità e le possibilità stesse di partecipazione. Quando un potere di tale portata si concentra in poche mani, tende a farsi opaco e a sfuggire al controllo pubblico, e cresce il rischio di uno sviluppo distorto che genera nuove dipendenze, esclusioni, manipolazioni e disuguaglianze”. Come quindi stabilire la bontà o meno di queste innovazioni? Si tratta di valutare, concretamente, se queste favoriscono “partecipazione e responsabilità”, protezione delle fasce deboli, un equo accesso alle opportunità e sono indirizzate al bene comune.

L’Intelligenza Artificiale secondo Leone XIV
Il papa intende in questo e nei successivi paragrafi fornire criteri che salvaguardino il primato della persona, la quale deve guidare le innovazioni tecniche e determinarne gli scopi, non viceversa. Due premesse sono comunque necessarie per il papa: qualsiasi considerazione sulla I.A. può diventare superata in breve tempo e, inoltre, si conosce ancora poco del suo funzionamento e potenziale sviluppo. Infatti “le moderne intelligenze artificiali sono più “coltivate” che “costruite”: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”. Di conseguenza, aspetti scientifici fondamentali – come le rappresentazioni interne e i processi computazionali di questi sistemi – rimangono al momento sconosciuti”.

I.A e la mente umana
Senza voler dare una definizione approfondita della I.A, il papa si sofferma a chiarire la falsa equiparazione di questa intelligenza con quella umana: ci sono senz’altro alcune funzioni dell’intelligenza umana che sono, nelle macchine, più sviluppate in termini di ampiezza e velocità di calcolo, tuttavia “questa potenza resta legata esclusivamente al trattamento dei dati: le cosiddette intelligenze artificiali non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità.” Soprattutto, non dimentichiamolo, non hanno una coscienza morale e non possono assumersi responsabilità di sorta. Inoltre “anche quando tali strumenti vengono presentati come capaci di “apprendere”, il loro modo di farlo è diverso da quello della persona umana. Non è l’esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà; è piuttosto un adattamento statistico a partire da dati e riscontri, che può essere molto efficace, ma non implica una crescita interiore”.

L’I.A., quando è usata dal singolo individuo, rivela tre aspetti particolari: 1)consente di raggiungere più facilmente l’obiettivo, 2)si propone come oggettiva, 3) infine simula la comunicazione umana. I rischi corrispondenti sono: 1)quello di delegare eccessivamente, trascurando il giudizio personale e la propria creatività; 2) dimenticare che la macchina non è oggettiva ma riflette i parametri culturali di chi l’ha progettata; 3) infine creare in se stessi  l’illusione di essere in contatto con un vero soggetto personale. In questo ultimo caso la conseguenza più grave è quella di non cercare più il contatto con le persone reali.

Passiamo all’impiego della I.A. nella società, dove ormai essa è presente “nei processi decisionali in tutti gli ambiti e a diversi livelli: nella comunicazione, nella gestione, nel controllo”. In questi ambiti ha portato maggior efficienza e miglioramento dei servizi, contemporaneamente presenta alcuni rischi, tra cui la sottovalutazione dell’impatto ambientale per la grande quantità di energia e acqua che consuma e l’emissione di anidride carbonica.

Responsabilità, trasparenza e governo della I.A.
L’I.A non è solo un fatto tecnico perché incide sulla vita delle persone e sulla loro libertà. Entrando nel merito, “possono esserci usi evidentemente antiumani, come la manipolazione dell’informazione o la violazione della privacy, ma può anche esserci un’insidia meno palese, quando i sistemi di IA, presentandosi come neutrali e oggettivi, rispecchiano e rafforzano stereotipi o posizioni ideologiche di chi li ha progettati”. Si può cancellare ogni responsabilità politica o etica di chi detiene il potere tecnologico perché, per esempio, la selezione delle persone può essere delegata al sistema e così “l’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte.”

Conclusione per il papa su questo punto: la I.A. non è moralmente neutra ma ha già incorporate scelte e priorità. Non ci basta più interrogarci se usiamo per uno scopo buono un programma , bensì anche “ chiederci come esso venga progettato e quale idea di persona e di società risulti iscritta nei dati e nei modelli che lo guidano”. Ciò significa poter indicare le responsabilità di tutti i passaggi nella formazione ed uso della I.A e assieme la cosiddetta “accountability” (nota 1).

La doverosa prudenza nell’uso di queste tecnologie richiede necessariamente che ci sia un equilibrio tra la velocità delle innovazioni e il controllo dei loro effetti, attraverso la consapevolezza collettiva, le norme e l’intervento delle istituzioni preposte. Perciò“ servono quadri giuridici adeguati, vigilanza indipendente, educazione degli utenti, una politica che non abdichi al proprio compito. Altrimenti, il cambiamento sarà governato solo da logiche tecnocratiche e presentato come necessario e inevitabile…una ulteriore condizione: la possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa”.

L’I.A vede oggi la presenza determinante di piccoli gruppi economico finanziari che controllano il settore, potendo così orientare consumi ed informazioni, destabilizzare le democrazie, dirottare risorse a proprio vantaggio. Leone XIV propone controlli effettivi, criteri chiari e vigilanza sull installazione di programmi e sul loro funzionamento, “inoltre, la proprietà dei dati non può essere affidata solo a privati, ma va regolamentata”.

Importanza della denuncia e dell’azione rivendicativa
Quando solo pochi soggetti accumulano dati e capitale computazionale, il bene comune richiede che siano segnalati i monopoli dell’IA e che si provveda affinché si possa garantire un accesso universale alle tecnologie e alla formazione. Inoltre bisogna far emergere il lavoro invisibile, spesso sfruttato, il quale produce i modelli algoritmici. Bisogna porsi l’obiettivo di “disarmare” l’I.A sottraendola alla “logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva”. “Disarmare” vuol dire che la tecnologia non deve governare l’uomo,quindi bisogna lavorare per “sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane”. Il nostro impegno deve essere tecnico, morale e anche ecologico perché la I.A è diventata l’ ambiente con cui dobbiamo convivere.
 
Un nodo da risolvere presente nell’Enciclica. La preoccupazione del papa è anche quella per cui il nuovo paradigma tecnocratico “ faccia sembrare giusta e normale una visione antiumana, secondo cui la pienezza della vita consisterebbe nell’avere di più, nel ridurre la fragilità, eliminare l’imprevisto, controllare ogni cosa… Quando l’efficienza diventa misura del valore, l’essere umano è tentato di pensarsi come un progetto da ottimizzare…”. Il papa non chiarisce concetti soggetti a diverse interpretazioni. “Ridurre la fragilità” diventa, a nostro parere, una encomiabile operazione umana quando si rivolge, ad esempio, a debellare malattie e stati di denutrizione; “eliminare l’imprevisto” per la scienza non è possibile, ma fare ricerca per limitarlo (soprattutto gli eventi naturali,, terremoti, siccità, ecc) è opera di grande valore; “controllare ogni cosa” non ha alcun senso, ma può acquistare un significato relativo a contesti particolari, utile alla sopravvivenza, come quando si predispone la sala operatoria per un intervento chirurgico. Lavorare per questi obiettivi corrisponde concretamente al senso del pensiero successivo di Leone XIV: “ La qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione”.
 
Il concetto di “limite” secondo papa Prevost
Transumanesimo e Postumanesimo sono affrontati nei paragrafi 116 e 117, a cui rimandiamo. Poi Leone XIX scrive un lungo e articolato “l’elogio del limite”, inteso come il luogo in cui l’uomo si confronta e cresce nella sua interiorità. Il ragionamento del papa ha un difetto sostanziale: parla in astratto del “limite” quasi fosse una entità metafisica che ci consente la crescita spirituale. Eppure, se scendiamo sul terreno della storia umana, ogni epoca, anzi ogni generazione si è scontrata con i “limiti” imposti dalla natura, società, cultura, insomma dall’ambiente in cui viveva. Il progresso umano è consistito proprio nel non accettare come inevitabili gli specifici limiti che aveva di fronte per invece progettare forme di vita, individuale e collettiva, in cui si potessero sviluppare, oltre quei limiti, sempre di più ed in profondità, le potenzialità del singolo. ’“Incapacità, malattia, vecchiaia, sofferenza, vulnerabilità” – i limiti generici indicati dal papa – presi uno per uno non sono elementi immutabili nella loro configurazione diacronica e non sono fissati da sempre con un unico parametro. Essi sono certamente componenti umane, ma determinate storicamente e in via di cambiamento perenne in qualche direzione a seconda delle scelte degli individui, delle strutture sociali, culturali, economiche, politiche del momento. La malattia, il fallimento, la sofferenza, la vecchiaia, compresa la morte sono stadi inevitabili della vita del singolo e fanno parte della condizione umana che non ha il dono dell’eternità, tuttavia stabilire a priori la soglia di accesso a questi stadi è una pretesa immotivata quando non ci si limitasse a praticarla personalmente e si volesse imporla ad altri (per esempio a coloro che scelgono il fine vita per se stessi). “Per sopprimere totalmente il dolore bisognerebbe, in fondo, spegnere anche l’amore e il desiderio” aggiunge il papa. Affermazione assurda:  allora cercare di diminuire il dolore nel mondo significa far diminuire l’amore e il desiderio fra le persone? Quando mai?  “Del resto, proprio perché sperimenta il limite – la vulnerabilità, il dolore, il fallimento – egli può riconoscere la propria e l’altrui dignità come inviolabile.”: certo , ma non è questo il punto, è semmai il voler stabilire e fissare una volta per tutte e senza alcun rispetto dell’altrui pensiero “il limite”da non superare. “E nella stessa esperienza del limite, resta capace di intuire una fraternità più grande di sé e di riconoscere l’ingiustizia come scandalo”: certo, ma idem come sopra. Per i Testimoni di Geova, che applicano il “limite” fuori dal contesto della storia, la trasfusione di sangue è un “limite” da non superare, è un atto degradante, non umano perché contro Dio. Le conclusioni del papa tuttavia possono essere accolte se si chiariscono i punti precedenti: “Per questo l’umanità – magnifica e ferita – …può accogliere i progressi della tecnica per alleviare le sofferenze e aprire possibilità nuove, purché non rinneghi ciò che la rende se stessa, cioè la capacità di relazione e di amore.” 

nota 1: “accountability” riguarda la possibilità di identificare chi deve “rendere conto” delle decisioni, motivarle,  controllarle e, quando necessario, contestarle e rimediare ai danni che ne derivano. 

Immagine in evidenza: Cyrilht from wikimedia commons