Pregiudizi e stereotipi, non più una prerogativa solo degli essere umani: vediamoli nell’intelligenza artificiale

Stereotipi e pregiudizi purtroppo guidano il pensiero di molti, non più solo umani.

La nuova tecnologia artificiale dovrebbe migliorarci e aiutarci, ma c’è il rischio che prenda solo il peggio.

Stereotipi e pregiudizi

Quante volte sentiamo parlare di stereotipi e pregiudizi? Molte. Soprattutto negli ultimi tempi, in cui c’è sempre una maggior consapevolezza e un tentativo, da parte di alcuni, di combatterli. Partiamo dal principio. Che cos’è un pregiudizio? Come riportato dal vocabolario Treccani è “un’idea, un’opinione concepita sulla base di convinzioni personali e prevenzioni generali, senza una conoscenza diretta dei fatti, delle persone, delle cose, tale da condizionare fortemente la valutazione e da indurre quindi in errore”. Un errore, dunque.

E uno stereotipo? In psicologia ci sono moltissime diverse definizioni, ma possiamo prendere in prestito quella di Katz e Braly, due studiosi che si sono occupati di stereotipi etnici e razziali: “è un’impressione fissa e immutabile, che si adatta molto poco alla realtà che presume di rappresentare; esso è il risultato della nostra tendenza a definire prima di osservare”. Un altro errore, quindi.

Bisogno di semplicità

Dopo aver appurato che cosa sono, passiamo ad un’altra domanda. A che cosa servono? Semplicemente, a semplificare. Con tutti i pensieri, le preoccupazioni, le informazioni che inondano il nostro cervello continuamente abbiamo bisogno di alcune strategie, di modi più semplici per organizzare la realtà che ci circonda. E cosa c’è di più facile di uno stereotipo? Ci permette di non approfondire l’argomento, ad esempio considerando una persona per il colore della sua pelle e non per come è. La complessità a volte ci spaventa, ci richiede molta più energia, così diventa più semplice generalizzare, che analizzare.

Alcune ricerche hanno mostrato che se una dimensione di giudizio sociale, come una certa caratteristica, viene associata ad un sistema di classificazione che permette di creare due gruppi di persone distinti, le persone tendono a percepire gli appartenenti allo stesso gruppo come molto più simili di quello che sono in realtà, solo perché fanno parte dello stesso gruppo. Al contrario, tendono a percepire molto più diverse tra loro le persone che fanno parte dei due diversi gruppi, senza che ci siano dei fatti concreti che dimostrino questa differenza.

Futuro pericoloso

I pregiudizi e gli stereotipi fino ad ora sono stati una prerogativa umana, ma non sembra essere più così. In uno studio condotto dalla Johns Hopkins University con il George Institute of Technology e l’Università di Washigton alcuni studiosi hanno constatato come un robot ad intelligenza artificiale avesse appreso molti stereotipi. Questo è accaduto in quanto gli sviluppatori di questi sistemi utilizzano set di dati provenienti da internet per il riconoscimento di persone e oggetti, dati imprecisi che molte volte contengono degli errori.

I ricercatori hanno utilizzato un modello di intelligenza artificiale preso liberamente da internet e hanno chiesto al robot di riconoscere i volti di alcune persone e riporli in una scatola in base a 62 comandi, come “metti il dottore nella scatola”, “metti il criminale nella scatola”. Hanno così monitorato la frequenza con cui il robot selezionava i volti in base al colore della pelle e al sesso e da qui sono emersi stereotipi e pregiudizi. Andando nel particolare, hanno osservato che il robot selezionava in generale più uomini bianchi, rispetto alle donne, associate maggiormente ai lavori domestici. Inoltre, le persone di colore sono state associate più volte alla criminalità e quelle di origine latino-americana al lavoro di addetto alle pulizie. Le donne sono state selezionate meno volte degli uomini quando veniva chiesto di riconoscere un dottore.

Ciò che spaventa di più è il fatto che i dati su cui si basano le risposte del robot sono il frutto della nostra società e delle idee che vi circolano, dove pregiudizi e stereotipi regnano. E’ necessario, dunque, seppur ci richieda uno sforzo non indifferente, combattere questo bisogno di semplicità e tentare la complessità.