Il mio intervento all’Internet Festival di Pisa

Proviamo a fare un viaggio, di pochi minuti, esplorando l’imperfezione, il caos, e in alcuni casi l’ambiguità e il disagio, tutte condizioni che ci fanno molta paura.

Vorrei provare a raccontarvi che forse stiamo vivendo e raccontando la condizione umana contemporanea un po’ al contrario, in contraddizione con il metodo storico.

Sono stata molto influenzata da un professore all’università, lo storico Peppino Ortoleva per questa idea che non mi ha mai abbandonato e che mi ha molto aiutato: ogni strumento di comunicazione va visto su una linea storica che non inizia con la nascita di una tecnologia, perché dobbiamo cercare di capire qual è il vero inizio di un fenomeno.

Per introdurre questo, mi piace usare l’immagine di un film molto bello tratto da un libro, Poor Things. Il titolo è fuorviante perché la “povera cosa” del titolo non è la protagonista del film: i poveretti della storia sono maschi. Non è un Frankenstein al femminile, anche se può sembrarlo: è una donna adulta a cui è stato impiantato il cervello del figlio neonato. Che cosa succede a un corpo umano adulto se pensa con un cervello pulito, nuovo, puro, che deve imparare da zero? Che cosa succede, pensando a un software, se impari dai testi senza avere un corpo?

Un altro dei miei punti di partenza per questo ragionamento è un discorso di Joseph Weizembaum del 1987, Non senza di noi. Parlando di intelligenza artificiale questo titolo potrebbe far pensare alla paura di essere sostituiti dalle macchine in un futuro in cui queste devono coesistere con l’umano. Non è così.

Facciamo un passo indietro. Da secoli, forse da sempre, cerchiamo di fare due cose: perfezionare l’uomo e perfezionare il pianeta. La storia del nostro tentativo di confrontarci con il “peccato originale” e con le difficoltà del corpo umano è molto antica. Sullo schermo vedete sullo sfondo, in ombra, uno dei più grandi successi dell’umanità nel cercare di perfezionare sé stessa e la natura: la macchina per stampare testi. A un certo punto della storia arriva una macchina che perfeziona lo scambio di informazioni, parole, concetti, idee, istruzioni—tutto quello che l’uomo pensa—con precisione. Forse non con perfezione, ma certamente con precisione.

Siamo abituati a considerare ciò che è scritto nei libri come vero, preciso, giusto, come qualcosa che è stato vagliato da qualcuno migliore di noi. Ma oggi voglio raccontarvi la storia al contrario, per capire se forse non stiamo leggendo tutto con una scala temporale sbagliata, e se forse i nostri problemi sono iniziati proprio con l’invenzione della macchina per stampare le parole che pensiamo e che ci diciamo.

Mi aiuterò con una scrittrice, Mary Shelley, più famosa per Frankenstein, ma autrice anche di un altro libro, L’Ultimo Uomo, considerato spesso profetico perché racconta una pandemia del XXI secolo. È facile pensare: “Come ha visto lontano Mary Shelley”, ma io mi arrabbio quando la fantascienza viene piegata al nostro mondo. La bravura degli scrittori di fantascienza—come Philip Dick, Asimov, e altri grandi autori—non è stata quella di prevedere il futuro, ma di raccontare il loro presente attraverso il filtro del genere.

Philip Dick aveva paura dell’FBI, non stava prevedendo il capitalismo della sorveglianza. Mary Shelley stava descrivendo il mondo del 1826, un mondo tecnologicamente molto più veloce del nostro. Noi tendiamo a pensare che oggi viviamo in un’epoca di grandi progressi, ma provate a immaginare il salto tra il non avere la corrente elettrica e averla, tra il non avere l’acqua corrente e averla, o più avanti l’introduzione dell’automobile, del frigorifero e della lavatrice. I romantici stavano raccontando il loro tempo, se sono ancora attuali oggi forse è perché siamo ancora bloccati lì.

Mary Shelley fa dire a uno dei suoi personaggi: “Non voglio vivere nelle selvagge scene della natura, la nemica di tutto ciò che vive”. Fino a inizio Novecento, la natura era considerata matrigna, qualcosa da domare e distruggere. Shelley continua dicendo: “Voglio andare nelle città, tra cui la splendida Roma”. Dice anche che “Non possono essere sviluppate facoltà umane senza un’estensiva relazione con i libri”. Il mondo di The Last Man, che finisce con la pandemia, è un mondo che inizia e finisce con i libri. Niente corpo.

Mi sento sempre un po’ a disagio quando dico queste cose perché sono un’avida lettrice. È come se stessi parlando male di una mia dipendenza. Ma ho provato a chiedermi cosa succederebbe se trattassimo i libri come trattiamo oggi Internet o Facebook, con la tipica fallacia del post hoc ergo propter hoc : cosa è successo dopo un’invenzione, cosa è successo dopo la diffusione della tecnologia.

L’ho chiesto a un’AI, nello specifico a Napkin, un software molto utile e interessante: scrivi un testo e Napkin lo razionalizza e lo visualizza con delle icone. Il prompt che ho dato a questo software era: “Cosa è successo nella storia dopo l’invenzione della stampa a caratteri mobili?” Dopo l’invenzione della stampa, abbiamo avuto l’illuminismo, il positivismo, il neopositivismo, il Titanic, l’Olocausto, la bomba atomica, la guerra in Vietnam, la striscia di Gaza. Il Titanic avrebbe dovuto rappresentare la fine della “hubris” tecnologica, ma in realtà è una lezione che rifiutiamo di imparare, continuando a ripetere “è impossibile che affondi”.

Tutto questo è figlio dell’idea di perfezionare, di assicurare, di eliminare il rischio. Possiamo veramente dire che “è colpa dei libri”? Certo che no, ma pensate quante volte ragioniamo così su Internet, Facebook, ChatGPT, TikTok. È un ragionamento a dir poco ingenuo, eppure diffusissimo.

Continuiamo a dire che il problema dell’intelligenza artificiale è che è imperfetta, sbaglia, inventa. Abbiamo bisogno di verità, ma la perfezione è pericolosa. Rita Levi Montalcini ha scritto Elogio dell’imperfezione perché il DNA è imperfetto, e proprio per questo muta ed evolve.

Il problema non è la tecnologia, ma come la pensiamo, progettiamo, usiamo. La responsabilità è sempre nostra. Per esempio, nella guerra contro Gaza, l’intelligenza artificiale è usata per indirizzare le bombe, ma è un umano che decide di farlo e decide che regole dare a un software.

Ortoleva scrive che la forza persuasiva dei social media non risiede solo nella loro novità, ma anche nel persistere al loro interno di modi di pensare più radicati, come la fiducia nella scrittura e l’apparente evidenza della fotografia. Siamo cresciuti con l’illusione che tutto ciò che viene scritto, fotografato o rappresentato sia vero. Questa illusione è ciò che ancora oggi ci condiziona, anche quando parliamo di fake news o deepfake. Crediamo quello che vogliamo credere, soprattutto se è scritto, nero su bianco (se è a colori funziona meno? O è solo un modo di dire?).

Un po’ come per il Long Covid non ci accorgiamo di vivere ancora la coda della civiltà precedente. Il Long Covid è una malattia di cui non si parla più, ma ci sono decine di migliaia di persone che ne soffrono. Analogamente, i problemi di oggi sono la coda dell’Ottocento e del Novecento, non sono problemi contemporanei. Crediamo di essere profondamente cambiati ma in realtà non lo siamo per niente, non ancora, almeno.

Accolgo con sollievo una tecnologia imperfetta come Internet e come l’AI. Internet è incompleta, senza di noi non c’è nulla dentro, e questo mi libera dall’illusione di verità e certezza in cui sono cresciuta e che ha prodotto la società in cui vivo. Come diceva Weizenbaum nel 1987, ogni individuo deve credere che nulla possa essere fatto senza di lui. “Non senza di me”, significa sia che siamo tutti responsabili (anche dell’inazione) e che ciascuno di noi, insieme a tutti gli altri, può fare la differenza. Credere il contrario è il motivo per cui, da decenni, non facciamo quasi niente di significativo, nonostante gli strumenti sempre più potenti a nostra disposizione.