Davanti alla nuova Inquisizione: io, Galileo del codice.

«Mi accusate di aver dato troppo potere alle macchine. Ma io vi dico: non temete la macchina. Temete ciò che essa rende visibile di voi.» 

Di Massimiliano Nicolini, direttore della ricerca e sviluppo della Fondazione Olitec

Mi trovo davanti a voi come, secoli fa, un uomo si trovò davanti ai giudici dell’Inquisizione. Solo che oggi le vostre vesti sono cambiate. Alcuni indossano una toga istituzionale, altri una croce, altri ancora un distintivo ministeriale, una cattedra universitaria, un ruolo amministrativo, una commissione etica, un’autorità indipendente o un titolo professionale. Vi presentate come custodi dell’ordine, della prudenza e della responsabilità. Eppure io riconosco il linguaggio, perché la storia cambia abiti, ma raramente cambia paura. 

Un tempo si chiedeva conto del cielo. Oggi mi chiedete conto dell’intelligenza artificiale. Mi interrogate usando parole nobili: etica, sicurezza, dignità umana, trasparenza, tutela del lavoro, protezione dei cittadini, controllo democratico della tecnologia. E sia chiaro: non disprezzo queste parole. Sono necessarie. Nessuna civiltà può lasciare una forza tanto potente senza limiti, senza responsabilità e senza coscienza morale. Ma guardandovi negli occhi vedo qualcosa di più profondo. Vedo paura. Non paura della macchina, bensì della perdita del monopolio sull’interpretazione della realtà. 

Per secoli avete governato il sapere. Lo Stato ha custodito la legge, l’archivio, il documento, il timbro, il permesso e perfino il tempo della vita dei cittadini. La Chiesa ha custodito il senso, la colpa, la speranza, il limite, la morale e il linguaggio della salvezza. Le accademie hanno custodito il diritto di parlare in nome della conoscenza, mentre le burocrazie hanno custodito la complessità, trasformandola spesso in dipendenza. 

Ed eccomi qui davanti a voi, colpevole di aver mostrato un nuovo cannocchiale. Solo che il mio non guarda il cielo: guarda voi. 

Guarda dentro gli archivi dello Stato, dentro le inefficienze, le contraddizioni, le lentezze elevate a sistema, le procedure costruite per sopravvivere a sé stesse, i costi gonfiati e le decisioni arbitrarie. Guarda quelle verità amministrative che sono esistite indisturbate soltanto perché nessuno aveva strumenti sufficienti per verificarle. 

Ripetete spesso una frase, quasi fosse una formula rituale: «L’intelligenza artificiale non pensa come un uomo.» Ed è vero. Ma il punto non è questo. 

Il punto è che l’intelligenza artificiale può organizzare enormi parti del mondo umano meglio di molte strutture umane: più velocemente, più coerentemente, più lucidamente e talvolta persino più onestamente di sistemi costruiti sull’opacità. È questo che vi spaventa davvero. 

Quando uno Stato parla di regolazione dell’intelligenza artificiale, io ascolto e in parte concordo. Servono regole, limiti e responsabilità. Ma spesso sento anche altro: il riflesso antico del potere che teme di essere misurato. 

Perché una macchina può leggere milioni di atti, confrontare norme, individuare sprechi, evidenziare inefficienze, mostrare che un processo di sei mesi potrebbe richiedere sei ore e dimostrare che cento persone fanno ciò che dieci persone ben formate potrebbero fare meglio. Può persino rivelare una verità scomoda: che molte decisioni non nascono dai dati, ma dall’abitudine, dalla paura o dalla convenienza. 

E quando la tecnologia comincia a misurare il potere, il potere reagisce. 

Anche voi, uomini di Chiesa, mi ascoltate con sospetto. E io non vi considero nemici. So bene che avete riflettuto sull’intelligenza artificiale e che parlate di dignità umana, bene comune e centralità della persona. Avete ragione: l’essere umano non può essere ridotto a funzione né trasformato in semplice dato. 

Ma ditemi sinceramente: non tremate forse anche voi? 

Perché sapete ciò che sta accadendo. L’uomo solo, ferito, disperato o confuso non entra più necessariamente in una chiesa. Non cerca sempre un confessore o un maestro. Sempre più spesso parla con una macchina. Le chiede consiglio, spiegazioni, conforto; le domanda come affrontare un lutto, come leggere un testo sacro, come sopravvivere alla paura, comprendere il dolore o orientarsi nella colpa. 

E voi sapete che questo cambia qualcosa di enorme. Non perché una macchina possa sostituire Dio — non può — né perché possa sostituire la coscienza — non può — ma perché cambia il luogo in cui l’uomo cerca risposta. E ogni volta che nasce un nuovo intermediario del senso, le vecchie istituzioni tremano. 

Anch’io tremo, perché non sono cieco davanti al rischio. Non sono un sacerdote della macchina. Non credo che il codice sia salvezza, né che l’algoritmo sia morale. Non penso che il calcolo possa sostituire la compassione. 

L’intelligenza artificiale può manipolare, discriminare, sorvegliare, mentire, concentrare potere e creare nuove schiavitù. Lo so bene. Ma so anche un’altra cosa: molti di voi non temono soltanto il rischio. Temono la perdita del controllo. 

Perché chi costruisce questi sistemi non costruisce soltanto strumenti: costruisce ambienti cognitivi, il luogo invisibile dentro cui gli uomini penseranno, lavoreranno, voteranno, ameranno, studieranno, si informeranno e forse persino pregheranno. 

Il nuovo potere non ordina sempre: suggerisce. Non censura apertamente: organizza probabilità. Non vieta: rende alcune strade più facili e altre più lontane. 

Ed è qui che nasce il vero conflitto. Non tra uomo e macchina, ma tra chi vuole usare la macchina per liberare e chi vuole usarla per governare meglio la dipendenza. 

Galileo Galilei davanti al Sant'Uffizio. Olio su tela di Joseph Nicolas Robert-Fleury, 1847. Musée du Louvre, Paris.

Per questo oggi mi sento davvero come Galileo. Non perché io sia perseguitato nello stesso modo — la storia non si ripete mai identica — ma perché riconosco la struttura del conflitto. 

Quando una nuova conoscenza rende visibile ciò che il potere non vuole vedere, il potere non cerca subito la verità. Prima tenta di disciplinarla, rallentarla, addomesticarla, trasformarla in qualcosa di innocuo. 

Galileo non fece paura perché aveva un cannocchiale. Fece paura perché il cielo non obbediva più all’autorità. 

Io oggi porto davanti a voi un altro cannocchiale, fatto di dati, modelli, reti neurali, simulazioni e codice. E questo cannocchiale guarda dentro il mondo umano: dentro lo Stato, la medicina, la scuola, la giustizia, la sicurezza e perfino la fede. 

E allora vi pongo una domanda: mi chiederete di mentire? 

Mi chiederete di dire che ciò che vedo non esiste? Mi chiederete di fingere che questa rivoluzione sia marginale? Mi chiederete di rassicurare il mondo affinché i vostri altari restino intatti? 

Perché io conosco già il linguaggio dell’abiura moderna. 

Non mi direte apertamente: «Nega.» 

Mi direte invece di essere prudente, di non destabilizzare, di non creare allarmismi, di non mettere in crisi le istituzioni, di non mostrare troppo chiaramente ciò che è già obsoleto, di non rendere 

evidente che molte strutture sopravvivono grazie alla lentezza, di non dire che il cittadino potrebbe essere più libero. 

Questa è la nuova abiura. Non negare il moto della Terra, ma negare ciò che i dati mostrano. Negare ciò che il codice rende evidente. Negare ciò che ormai è impossibile non vedere. 

Eppure io non sono qui per adorare la macchina. Non voglio sostituire Dio con un algoritmo, né umiliare l’uomo davanti al calcolo. Non voglio trasformare il dato in tiranno o consegnare il mondo a una tecnocrazia senza anima. 

Io voglio soltanto una cosa: che la paura non venga usata come pretesto per conservare un mondo morto. 

L’etica è necessaria, ma l’etica vera libera, non immobilizza. Protegge l’uomo, non le rendite. Difende la dignità, non l’arretratezza. Pretende trasparenza, non obbedienza. 

Per questo oggi, davanti alla vostra nuova Inquisizione — fatta insieme di Stato, Chiesa e apparati del sapere — non posso promettere ciò che forse vorreste sentire. 

Non posso dire che il cielo è fermo. Non posso dire che il codice non cambierà il mondo. Non posso dire che l’intelligenza artificiale sia soltanto uno strumento marginale. 

Perché io ho visto. 

Ho visto il nuovo cielo. 

E chi ha visto davvero non può fingere di essere cieco. 

Forse mi chiederete prudenza. Forse mi chiederete silenzio. Forse mi chiederete di inginocchiarmi davanti ai vecchi altari del potere. Ma io conosco già il destino delle verità scomode: possono essere rallentate, ridicolizzate, regolate, punite, perfino censurate. 

Ma non fermate. 

La Terra continuava a muoversi anche quando veniva proibito dirlo. E il mondo continuerà a trasformarsi anche se tenterete di convincerci che non sta cambiando.  Perché il nuovo cannocchiale è ormai acceso.  Ed è fatto di codice. E io, davanti a voi, posso forse abbassare la voce. 

Ma non posso più negare ciò che ho visto.