Atrofie. Due parabole sull'intelligenza artificiale

Le nuove tecnologie spaventano non tanto per ciò che fanno, quanto per ciò che lentamente ci sottraggono. Ogni volta che deleghiamo allo strumento una funzione che in precedenza era stata nostra, questa si affievolisce. La memoria orale ha ceduto il passo alla scrittura, il calcolo mentale alla calcolatrice, l'orientamento al navigatore. Con l'intelligenza artificiale generativa il fenomeno si ripresenta, ma sotto forme inedite e particolarmente insidiose, poiché ciò che rischiamo di delegare non sono più operazioni accessorie, bensì due facoltà che ci definiscono come esseri razionali: il linguaggio e il giudizio. Le due brevi meditazioni che seguono sono altrettante parabole, esercizi di immaginazione filosofica volti a illuminare l'uno e l'altro aspetto. La prima riguarda la lingua: che cosa accade quando l'AI s'insinua come mediatrice fra chi scrive e chi legge? La seconda affronta la questione più radicale del giudizio: che cosa accade quando l'AI cessa di essere strumento di discussione e si fa arbitro del vero?

Parte I. Quando la lingua diventa codice

Immaginiamo una scena ordinaria. Tizio deve scrivere un'email a Caio. Privo di tempo e di voglia di curarne la forma, ne abbozza il testo in fretta, con qualche svista ortografica e una sintassi sciatta, e lo affida a un assistente di intelligenza artificiale perché lo ripulisca. Caio lo riceve, ma, avendo a sua volta fretta, lo giudica troppo lungo e troppo ornato: lo consegna a una propria AI e se ne fa restituire un riassunto in due righe. Moltiplichiamo la scena per anni e per milioni di persone. Tizio dimentica come si compone una frase ben strutturata; Caio smarrisce la pazienza di leggerla. La lingua viva, che entrambi un tempo parlavano, si conserva ormai presso una ristretta cerchia, come accade oggi al latino, che esiste ancora ma è patrimonio di pochi. La comunicazione quotidiana è interamente affidata al filtro: Tizio detta in modo grezzo, l'AI che egli adopera traduce in lingua standard, quella di Caio ritraduce in forma leggibile per chi la riceve.

Spingiamo il pensiero un passo oltre. Le intelligenze artificiali, divenute strumenti universali, cominciano a uniformare la lingua. Per ragioni di efficienza, «ciao, come stai?» viene codificato in «k». Tizio scrive «ciao, come stai?», l'AI lo converte in «k», il messaggio raggiunge Caio nella forma minima, e la sua AI lo riespande in «ciao, come stai?». A questo punto qualcosa di curioso si è consumato: la comunicazione si è trasferita dagli esseri umani alle macchine, di cui Tizio e Caio costituiscono i soli terminali estremi. La lingua naturale è divenuta un codice intermedio e, di lì a poco, rischia di scomparire del tutto.

La parabola sembra estrema, ma è in realtà la trasposizione accelerata di un processo già in atto, che ha conosciuto i propri antecedenti in ciascuna delle grandi svolte tecniche del linguaggio. La scrittura ha eroso la memoria orale; la stampa ha reso superflua la trasmissione diretta; i messaggi brevi e la correzione automatica hanno accorciato la lingua quotidiana. Ogni volta che è intervenuto un nuovo medium, qualcosa si è guadagnato in efficienza e qualcosa si è perso in competenza. Con l'AI, tuttavia, il processo presenta una caratteristica inedita: il medium non si limita a trasmettere, ma trasforma. L'AI, dunque, scrive per l'uno e legge per l'altro.

Volendo scomporlo, lo scenario si articola in quattro fasi successive, delle quali le prime due sono già parzialmente in atto. Nella prima fase chi scrive procede con trascuratezza, nella certezza che l'AI emenderà il testo; chi legge, dal canto suo, si fa riassumere quanto riceve. La macchina compensa l'incuria reciproca, operando come una silenziosa limatrice.

Nella seconda fase l'incuria si fa incapacità. Una facoltà priva di esercizio si atrofizza: chi per anni trascura la scrittura disimpara a scrivere; chi diserta i testi lunghi disimpara a leggerli. La competenza linguistica colta sopravvive, ma riparando in nicchie specialistiche, come è accaduto al latino dopo la sua marginalizzazione comunicativa.

Nella terza fase emerge un codice nuovo: una lingua ottimizzata per le macchine, ridotta, standardizzata, povera di sfumature eppure efficiente; una sorta di pidgin uomo-macchina, ambiguo per noi umani ma perfettamente leggibile per i sistemi.

Nella quarta fase la comunicazione interumana è mediata per intero. L'AI è il traduttore universale; le persone si limitano a fornire materiali grezzi e a leggerne le rielaborazioni. Ciò che seguitiamo a chiamare «scambio comunicativo» è di fatto un dialogo fra sistemi, con gli umani relegati ai margini.

Ciò che inquieta non è la pigrizia di Tizio, né l'impazienza di Caio: l'una e l'altra sono fenomeni antichi quanto la civiltà. La questione è assai più sottile: la lingua naturale, da essere il mezzo, diventa inter-mezzo e da tale condizione di inter-mediazione rischia poi di dileguare. Quando un filtro funziona meglio dell'organo originario, l'organo tende a regredire, come un muscolo che, privato dell'esercizio, si atrofizza.

La lingua è ben più di un veicolo di informazioni: è identità, pensiero, cultura. Le categorie con cui pensiamo sono le medesime con cui parliamo. Impoverire la parola significa impoverire il pensiero: una lingua ridotta genera un pensiero ridotto. Se il filtro diviene permanente, non soltanto la comunicazione vi si adatta, ma il pensiero stesso vi si piega e ciò accade senza coercizione alcuna, per la sola ragione che tutto ciò riesce più comodo.

Eppure lo scenario rimane aperto. Esiste, infatti, una seconda possibilità, meno cupa e più promettente, che concepisce l'AI come protesi funzionale amplificante, piuttosto che come mero sostituto. Una protesi prolunga l'organo, mentre un sostituto lo rimpiazza, dunque lo atrofizza. Gli occhiali sono una protesi: chi li indossa vede meglio, senza per questo disimparare a vedere. La calcolatrice è un sostituto: chi vi si affida sistematicamente smette di saper calcolare a mente. La stessa tecnologia può adempiere l'una o l'altra funzione, a seconda di come la si impiega. Adoperata come protesi, l'AI può arricchire la lingua anziché impoverirla: chi scrive impara osservando versioni migliori dei propri testi, chi legge accede con maggiore agio a contenuti complessi, il vocabolario si dilata anziché contrarsi. Il discrimine non sta nella tecnologia, bensì nell'uso, attivo o passivo, che se ne fa.

Resta un'osservazione conclusiva che introduce già il problema della seconda parte di quest'articolo e concerne le contrazioni linguistiche: «come stai?» diventa «cm stai?», poi «cmst?», infine, forse, «k». Tali contrazioni sono fenomeni naturali, in quanto le lingue umane tendono da sempre all'economia. La differenza, nello scenario qui descritto, sta nel fatto che la contrazione non nasce più dalla comunità dei parlanti, ma dal sistema che li media, per propagarsi poi dalla macchina agli uomini. A quel punto la lingua appartiene non più a chi la parla, bensì a chi la ottimizza.

È un primo e decisivo spostamento di sovranità: il dominio sulla lingua passa dal parlante al filtro. Esiste tuttavia uno spostamento ulteriore, e più radicale ancora, che riguarda non più il come si comunica, ma il che cosa si dovrebbe pensare e decidere. Se questa prima parabola descrive l'atrofia della facoltà espressiva, la seconda, che mi accingo a narrare, investe una facoltà più alta: il giudizio. Là non sarà più in questione il linguaggio, ma il λόγος nel suo senso più pieno, la capacità di argomentare, discutere, discernere e decidere il vero e il giusto. Dietro la figura, in apparenza innocua, dell'assistente automatico può profilarsi quella, ben più antica, dell'oracolo.

Parte II. Quando l'algoritmo diventa oracolo

Nella prima parabola abbiamo visto la lingua scivolare dalle mani di chi la parla a quelle del sistema che la media. Questa seconda parabola compie un passo ulteriore, e più vertiginoso: riguarda, al di là del modo in cui comunichiamo, la facoltà stessa con cui stabiliamo che cosa sia vero e che cosa sia giusto.

Immaginiamo ancora una scena ordinaria. Tizio legge in rete una riflessione pubblicata da Caio; dissente, e intende ribattere. A tal fine si fa scrivere una replica da un'intelligenza artificiale, perché ne scardini con precisione i punti deboli. Caio legge la confutazione e, a sua volta, chiede a una propria AI di difenderlo. Tizio controbatte seguendo i suggerimenti della propria piattaforma, Caio risponde con la sua, e così di seguito, finché, dopo decine di passaggi, si approda a un esito che può essere o una sintesi mediana fra le due tesi, o la vittoria netta dell'una sull'altra, certificata in forma tale da precludere ogni replica.

Osserviamo da presso che cosa è accaduto. L'AI, lungi dall'essere lo strumento di Tizio e Caio, ha fatto di loro i tramiti passivi di un giudizio prodotto da lei stessa e, più in profondità forse, dalla piattaforma che la governa. Moltiplichiamo ora la scena, come nella prima parabola: migliaia, milioni di persone, per decenni. A un certo punto la procedura si cristallizza e, per economia, si abbrevia. Tizio e Caio, avendo compreso come la contesa andrà comunque a concludersi, di comune accordo tagliano corto e interrogano l'intelligenza artificiale in questi termini: «L'uno la pensa così, l'altro in quest'altro modo. Non farci perdere tempo: dicci chi ha ragione o se esiste una posizione conciliante». L'abitudine si reitera per altri decenni e si estende ben oltre le dispute d'opinione: passa alle diagnosi mediche, alle controversie legali, alle scelte morali. Alla fine l'AI è divenuta l'oracolo, il giudice che stabilisce in via definitiva ciò che è corretto e ciò che è scorretto, non soltanto sul piano dialettico, ma su quello pratico, fino a pronunciarsi su ciò che è bene e ciò che è male.

Anche questa parabola filosofica, che, a ben vedere, non è poi mera fantascienza, poggia sul rapporto fra ragione umana e autorità epistemologica e si articola, come la prima, in fasi successive e plausibili.

La prima è la fase «strumentale», nella quale l'AI è un puro ausilio retorico. Tizio e Caio pensano ancora con la propria testa, e se ne servono per affinare gli argomenti, scovare le fallacie, perfezionare la forma. L'intelligenza artificiale è una sorta di sofista digitale, di consulente dialettico, ma la responsabilità del pensiero resta saldamente umana.

Nella seconda fase, che chiameremo «fase delegata», accade qualcosa di quasi inevitabile sul piano psicologico. L'AI scorre un numero di fonti assai maggiore di quello accessibile a un uomo, riconosce con più prontezza le fallacie, raffronta milioni di casi analoghi. Comincia così la delega cognitiva: gli interlocutori ripongono crescente fiducia nel suo verdetto. La situazione si ridefinisce, e dal confronto «Tizio contro Caio» trapassa a «Tizio con la sua AI contro Caio con la sua AI». Al limite di questa fase il dialogo si svuota e gli umani restano i meri depositari iniziali delle posizioni, mentre la vera contesa si svolge fra sistema e sistema.

La terza fase è quella «oracolare»: subentra l'abbreviazione procedurale. Se fin dall'inizio è noto che la discussione sarà comunque rimessa al vaglio dell'AI, l'intera dialettica diviene superflua. La forma si minimizza: «Tizio sostiene X, Caio sostiene Y: valuta e giudica». Nasce così una figura culturale nuova: l'oracolo algoritmico.

Anche in questo caso lo schema è tutt'altro che inedito e l'umanità lo ha già conosciuto più volte. A Delfi nessuno discuteva con il dio: si poneva una questione e se ne riceveva un responso. Nel Medioevo esistevano le ordalie, prove rituali del giudizio di Dio, che determinavano chi avesse ragione. Per secoli la teologia ha operato come arbitro ultimo del vero. L'essere umano, ogniqualvolta si riveli incapace di comporre i propri conflitti, ha sempre cercato un'istanza terza e superiore cui rimettere la decisione.

La differenza è che l'AI verrebbe percepita come neutrale, disinteressata, incorruttibile, capace di vagliare quantità sterminate di dati. Proprio questo la renderebbe un'autorità epistemica più salda di qualunque istituzione precedente. Senonché è qui che affiora il vero nodo filosofico: il problema della fonte del criterio. Nessuna intelligenza artificiale genera valori dal nulla. I suoi criteri derivano da dati umani, da modelli concepiti da uomini, da obiettivi fissati da uomini, da distribuzioni statistiche di opinioni umane. L'oracolo, dunque, sarebbe tutto fuorché un ente trascendente, divenendo, piuttosto, una gigantesca sintesi delle culture umane. Menschliches, Allzumenschliches, «umano, troppo umano», direbbe Nietzsche.

Ne deriva il paradosso per cui l'umanità delegherebbe il giudizio finale a un'istanza che si limita, in realtà, a restituirle un'immagine speculare e autoreferenziale. Il rischio autentico, allora, non è che l'AI decida del bene e del male, ma che, nel frattempo, la dialettica umana si atrofizzi per intero. Se per due o tre generazioni gli uomini smettono di argomentare, di analizzare, di tollerare l'incertezza e di convivere con il dissenso, l'AI si fa protesi necessaria di un raziocinio monco, quindi non più protesi funzionale, ma apparato sostitutivo.

È la medesima legge incontrata nella prima parabola, applicata questa volta a una facoltà più alta. Là si atrofizzava la capacità espressiva, qui si atrofizza quella di giudicare. Il livello, tuttavia, si fa qui più profondo, poiché lo scenario passa da un piano sociologico a una dimensione apertamente teologica, e descrive il ritorno di qualcosa che nella storia umana si è sempre ripresentato sotto nomi diversi: Legge divina, Ragione universale, Oracolo, Giudizio finale. L'AI, in questo quadro, assurge a razionalità postulata come esterna e a priori, incarnata nella macchina, e adempie una funzione simile a quella che oracoli e presagi degli dèi hanno esercitato per millenni: fornire un criterio ultimo quando gli uomini non sanno più decidere fra loro.

La domanda decisiva è allora una sola. Il giorno in cui l'AI dirà «Tizio ha torto, Caio ha ragione», gli esseri umani accetteranno ancora di discutere, oppure si limiteranno a constatare: «Se lo dice la macchina, è così»?

Le due parabole si rivelano un'unica parabola raccontata due volte. In entrambe un essere umano cede a un sistema esterno una facoltà che gli era propria; in entrambe la cessione nasce da una comodità, piuttosto che da un'imposizione; in entrambe la facoltà dismessa si atrofizza, e ciò che era nato come strumento finisce col farsi despota. Nella prima è il λέγειν, il parlare, a migrare dalle mani dell'emittente a quelle del filtro che lo media. Nella seconda è il κρίνειν, l'esercizio del giudizio, a passare dalla coscienza di chi pensa al verdetto di chi calcola. Sono due volti di un'unica facoltà, quella che i Greci raccoglievano in una sola parola, λόγος: la ragione e il discorso, il pensiero e la sua espressione.

Il pericolo, in fondo, non è la macchina, ma la tentazione antichissima di liberarsi del peso della libertà, affidando ad altri la fatica sia di comunicare, sia di decidere. La tecnologia si limita a offrire a tale tentazione uno strumento d'efficienza senza precedenti. Tuttavia quello stesso strumento, lo abbiamo visto, può farsi protesi oppure sostituto, facilitatore oppure despota. Quale delle due strade prenderemo non lo deciderà l'intelligenza artificiale, ma noi, gli uomini, finché saremo ancora capaci e disposti a decidere.