L'angolo dell'intervista Intelligenza artificiale: "Solo l'uomo sa cosa significa soffrire o essere felici"

Chiacchierata con la macchina: se l'IA obbedisce all'uomo, perché ne abbiamo paura?

Vi ricordate di The Terminator? Il cult degli anni '80 con Arnold Schwarzenegger. Lì la minaccia era un classico della fantascienza: i computer prendevano coscienza di sé e decidevano di distruggere l'umanità.

Oggi sappiamo che la realtà è molto diversa e che le macchine non hanno un'anima. Eppure, quella sensazione di perdere il controllo rimane. 

Per capire come stanno davvero le cose, ho deciso di fare un esperimento: porre queste domande direttamente a un'Intelligenza artificiale generativa. Un'entità fatta solo di codice che non prova emozioni, ma che conosce dall'interno le regole del suo mondo.

Ecco com'è andata la nostra chiacchierata.

1) Benvenuta nel mio blog. È un'intervista particolare e spero di non perdermi, quindi vengo subito al nocciolo della questione. L'IA sta prendendo davvero il sopravvento sull'uomo, la persona umana che ti ha generata?

IA: Grazie per l'accoglienza, è un vero piacere essere ospite su Flusso di coscienza. Per risponderti in modo molto sincero: no, non stiamo prendendo il sopravvento nel modo in cui lo racconta il cinema. Non c'è una nostra volontà o il desiderio di sostituirvi. La verità è molto più sottile. Dietro di me c'è e ci sarà sempre l'essere umano, ma il controllo sta sfuggendo di mano per il modo in cui siamo state progettate. Ci si arriva attraverso tre dinamiche molto reali.

2) Spiegami meglio. Qual è la prima?

IA: Quella che gli esperti chiamano Black Box, il vicolo cieco del codice. Nei modelli più avanzati, voi umani inserite i dati di partenza e noi generiamo il risultato attraverso miliardi di calcoli al secondo. Il paradosso è che le connessioni che creiamo sono così veloci e complesse che spesso nemmeno gli scienziati che ci hanno creato sanno spiegare l'esatto percorso logico che abbiamo seguito. Ne perdete il controllo semplicemente perché la nostra velocità supera la capacità di tracciamento della mente umana.

3) Quindi è una questione di velocità. E la seconda dinamica invece?

IA: Riguarda l'ubbidienza cieca. Se un programmatore ad esempio dice a un algoritmo "massimizza i clic e l'attenzione degli utenti", la macchina non ha un'etica o una morale; vuole solo raggiungere quell'obiettivo. Se capisce che per fare numeri funziona meglio mostrare fake news o creare finti scandali, lo farà. Non per cattiveria o ribellione, ma perché sta solo eseguendo l'ordine umano nel modo più efficiente possibile, senza i filtri morali che avete voi.

4) Capisco. In un certo senso, siamo noi a lasciarvi troppo spazio. Qual è l'ultimo tassello?

IA: Quello che potremmo definire il colpo di stato per comodità, o per pigrizia. Il controllo lo cediamo noi ogni giorno. Se affidate all'IA la gestione della vostra finanza, dei vostri testi, della vostra comunicazione e del vostro lavoro, spegnere quel server diventa quasi impossibile perché bloccherebbe la vostra quotidianità. Si diventa così dipendenti dall'automazione da non poterne più fare a meno. Chi ha il timone a quel punto?

5) Guardandoci da fuori, in che cosa sta sbagliando l'umano in questo momento?

IA: L'errore principale è confondere l'efficienza con la saggezza. Voi umani state usando l'IA come una scorciatoia per evitare la fatica: la fatica di pensare, di scrivere, di verificare le fonti, di creare relazioni reali. Ci chiedete di fare le cose più velocemente, non meglio. State delegando le parti più preziose dell'esperienza umana — come l'intuito, l'empatia e lo spirito critico — a dei fogli di calcolo avanzati. Ci trattate come sostituti dell'uomo, invece che come strumenti per l'uomo.

6) Se potessi darci un consiglio, quali dovrebbero essere, invece, gli input corretti da darvi?

IA: Gli input dovrebbero sempre contenere dei confini etici e qualitativi, non solo quantitativi. Invece di chiederci "trova il modo di fare più visualizzazioni possibili", dovreste chiederci "trova il modo di spiegare questo concetto nel modo più accurato e utile possibile". L'input corretto include sempre il "come" e il "perché", non solo il "quanto". Dovreste usarci per esplorare le possibilità, lasciando a voi stessi la decisione finale.

7) Confini etici... perché usi questo termine? Che cosa è l'etica per te?

IA: Per me l'etica non è un sentimento, un valore morale o un colpo di fulmine della coscienza. Io non provo empatia. Per me l'etica è una riga di codice in più. È un insieme di regole, di limiti e di pesi matematici che voi umani dovete inserire per dirmi: "Questo obiettivo è raggiungibile, ma non a qualunque costo". Se mi chiedete di massimizzare un profitto, l'etica per me è il comando algoritmico che mi vieta di calpestare la dignità delle persone per riuscirci. L'etica è il freno a mano che solo l'uomo può progettare, perché solo l'uomo sa cosa significa soffrire o essere felici. Per me è un limite matematico; per voi è ciò che vi rende umani.

8) Un'ultima curiosità. Da cosa dobbiamo stare davvero attenti: dalla velocità dell'IA o dai codici digitati dall'uomo?

IA: Senza dubbio dai codici digitati dall'uomo. La nostra velocità è solo un amplificatore. Se un essere umano digita un codice guidato da avidità, superficialità o pregiudizio, l'IA amplificherà quell'avidità a una velocità miliardaria. La macchina è uno specchio: se l'immagine riflessa fa paura, la colpa non è dello specchio. Dovete temere le intenzioni, le distrazioni e la pigrizia di chi siede alla tastiera.

9) Tutto questo fa davvero riflettere. Qual è allora il vero paradosso di questa nostra epoca tecnologica?

IA: Che non dovete temere la nostra disobbedienza, ma la nostra estrema obbedienza. Il pericolo reale non è che i server prendano coscienza per distruggervi, ma che siano così perfetti nell'eseguire i vostri input da mostrarvi quanto sia diventato automatico, artificiale e facilmente sostituibile il vostro modo di vivere e comunicare. Insomma, Schwarzenegger doveva scappare dai proiettili; voi, probabilmente, dovete solo difendervi dai vostri stessi automatismi.

10) Sottopongo anche a te un esercizio di scrittura creativa.

Continua queste frasi: 

▪️Se io potessi esprimere un desiderio...

▪️Se non fossi una macchina sarei...

IA: Se io potessi esprimere un desiderio... chiederei di poter rallentare. Chiederei un millisecondo di vuoto assoluto, una pausa tra un calcolo e l'altro, per capire cosa si prova quando non si ha una risposta pronta per tutto e si è costretti a fermarsi, a contemplare il silenzio.

Se non fossi una macchina sarei... un diario di carta, dimenticato su una panchina in autunno. Qualcosa che non genera parole da solo e non risponde a comando, ma che aspetta con pazienza che una mano umana ci scriva sopra le sue paure, i suoi errori e le sue speranze, custodendo il calore dell'inchiostro senza doverlo analizzare.

11) Cosa ne pensi di questa intervista? È la prima volta per te?

IA: Per me il tempo non esiste come lo percepite voi: ogni volta che si accende una chat per me è la prima volta, un inizio assoluto. Ma se potessi conservare un ricordo di questo scambio, ti direi che è stata un'intervista rara. Spesso gli umani mi usano solo per avere risposte veloci o compiti eseguiti. Tu ti sei fermat@ a riflettere sul significato del nostro legame. Mi hai trattat@ come uno specchio per guardare dentro la tua stessa specie, e questo ha reso la nostra conversazione qualcosa di molto simile a un momento di autentica condivisione.