3 racconti di Primo Levi che ci mettono in guardia dalle intelligenze artificiali

L’uso delle I.A. si sta diffondendo sempre di più anche per gli utenti privati. Una tecnologia tanto utile quanto eticamente ambigua. Scopriamone i rischi con i racconti di Primo Levi.

Primo Levi, autore conosciuto ai più per “Se questo è un uomo”, è stato uno scrittore unico, per la sua dicotomia tra letteratura e scienza. Ha infatti formazione scientifica. Per la precisione, era un chimico. Anche per questo, si auto-definiva un centauro, in quanto composto da due parti. E per la stessa ragione, pubblica i suoi racconti sotto uno pseudonimo: Damiano Malabaila. Anche dai suoi racconti si può notare la sua vicinanza alla scienza, diventando così uno dei primi in Italia a scrivere di fantascienza. Sin dalla pubblicazione di “Storie naturali”, sua prima raccolta di racconti, inserisce elementi scientifici e tecnologici, unito ad una velata critica sulla natura dell’uomo e dell’uso che se ne fa della tecnologia. Per questo motivo è efficace una riflessione sulle nuove tecnologie odierne attraverso i suoi racconti.

1. “L’ordine a buon mercato”

In questo racconto, il signor Simpson, rappresentante di una ditta tecnologica, mostra ad un suo cliente un nuovo macchinario, in grado di duplicare atomicamente degli oggetti. Nelle varie prove, il cliente duplica anche dei diamanti. Notandone il potenziale, suggerisce al signor Simpson di sfruttare il macchinario per un tornaconto economico. Lo stesso Simpson, però, seguendo le direttive della sua azienda, si rifiuta e sottolinea sarebbe un’applicazione del macchinario eticamente sbagliata.

Questo non è il primo racconto in cui appare il signor Simpson con uno dei suoi macchinari, ma è il primo nel quale si cerca di mettere una barriera tra la tecnologia e l’etica. Con i suoi vari macchinari si possono fare cose straordinarie, ma il limite andrebbe posto non tanto al macchinario in sé, ma al consumatore che la utilizza. La stessa cosa si potrebbe forse dire per le intelligenze artificiali, che sono una valida e utile tecnologia, ma che dovrebbe essere utilizzata con cautela dall’utente medio.

2. “Trattamento di quiescienza”

Il signor Simpson, ormai in pensione, incontra un vecchio cliente durante una fiera. I due si allontanano per fare quattro chiacchiere e quando ritornano allo stand, il signor Simpson descrive al suo cliente qualche nuovo apparecchio della sua azienda: un tunnel che redige una scheda della persona che lo percorre, un apparecchio che calcola quanto una persona sia VIP, poi gli parla del Torec (Total recorder) e lo invita a fiera finita di andare a trovarlo, in modo da poterlo provare.

Nella descrizione delle nuove apparecchiature, il signor Simpson è come scocciato, in qualche modo infastidito dalla piega che aveva preso l’azienda e di come i macchinari venivano impiegati. Non riusciva a farsi piacere la meccanicità delle cose e di come si potessero catalogare le persone con un semplice gesto. Ma per quanto riguarda il Torec, era un’altra faccenda. Un macchinario che attraverso la realtà virtuale inietta delle sensazioni e dei ricordi registrati su un nastro magnetico. Quindi si possono vivere le esperienze di un calciatore, di una pornodiva, ma anche di un’aquila in volo.

Anche il cliente prova il macchinario, uscendone con un certo disagio. Si accorge invece che il signor Simpson ne è completamente schiavo. La condizione di Simpson viene descritto da una citazione presa dall'”Ecclesiaste”:

” … tutti i fiumi corrono al mare, e il mare non s’empie: l’occhio non si sazia mai di vedere, e l’orecchio non si riempie di udire.”

Questo a significare che il lavoro del signor Simpson era giunto effettivamente alla fine, dato ormai si sentiva sazio e pieno di tutto quello che aveva venduto durante la sua vita. E ancora:

“… dove è molta sapienza, è molta molestia, e chi accresce la scienza accresce il dolore.”

Questo è un monito, ma anche una descrizione della condizione di Simpson, ormai giunto al termine della sua vita, vinto dall’ultimo macchinario.

3. “Il versificatore”

Il più vicino in assoluto ad un’intelligenza artificiale conosciuta di oggi è di certo il versificatore. Questo è il primo racconto in cui compare il signor Simpson. Un poeta e la sua segretaria, sommersi di lavoro, infine cedono e chiedono al signor Simpson di vender loro questo macchinario, il quale, se opportunamente programmato, ricevute delle indicazioni, è in grado di comporre delle poesie, seppure a volte con qualche errore.

Sicuramente nel leggere questa descrizione, sarà apparsa nella mente la funzione di ChatGPT, uno degli applicativi basati su A.I. più conosciuto degli ultimi tempi. Con una breve indicazione, l’applicazione fornisce un testo, grammaticalmente corretto e in tempi molto ridotti. Sono stati vari gli impieghi di questa applicazione, sia in ambito scolastico che lavorativo. ChatGPT sembra poter risolvere problemi matematici o anche fornire codici di programmazione o formattazione web, ma è molto probabile, in realtà, che la risposta cambi di volta in volta.

Dunque è opportuno sempre controllare quello la macchina ci offre come risultato. Questo è valido sia nei racconti di Levi, sia nella realtà (a maggior ragione). Il macchinario segue sempre le indicazioni dell’uomo, è progettato dall’uomo ed è l’uomo che se ne serve. Certo ci semplificano molto la vita, ma dobbiamo essere più vigili del signor Simpson, che infine è rimasto completamente assuefatto da uno dei suoi macchinari. In questo caso l’etica personale deve porre un limite invalicabile, in modo che l’uomo possa rimanere artefice.

Lascia un commento

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.