Un test visivo condotto recentemente sulle intelligenze artificiali ha messo in luce alcune vulnerabilità che devono essere risolte al più presto.

Le posizioni relative alle intelligenze artificiali spesso sono contrastanti. Alcuni non le vedono di buon occhio perché (nella peggiore delle ipotesi) temono che un giorno possano sopraffarci. Altri invece le ritengono un progresso talmente tanto rivoluzionario che sicuramente porterà giovamento anche nella vita di tutti i giorni. Al momento però è ancora tutto in fase sperimentale perché ci siamo avvicinati solo recentemente al mondo delle intelligenze artificiali. Uno degli ultimi studi condotti ha visto “perdere” le intelligenze artificiali contro il cervello umano.

Cervello biologico VS cervello artificiale
La comunità è ancora oggi divisa tra pro AI e contro AI.

Gli esperti di computer science hanno evidenziato che i sistemi di intelligenza artificiali non riescono a superare un test di visione, test che i bambini sono in grado di superare senza troppe difficoltà. Nello specifico i risultati riguardano la visione artificiale che permette ai sistemi di individuare, rilevare e categorizzare gli oggetti e le persone. Il buon esito di questi studi è cruciale perché ormai ai computer affidiamo compiti come la sorveglianza automatica e la guida autonoma. Di conseguenza ci si aspetta che la loro visione sia buona almeno quanto quella umana. La vera sfida infatti è proprio raggiungere un livello di precisione e sofisticatezza che sia almeno allo stesso livello della visione umana, altrimenti le conseguenze potrebbero essere in alcuni casi disastrose.

Lo studio

I ricercatori hanno presentato una scena ben precisa ad un’intelligenza articifiale e quest’ultima è riuscita a rilevare e categorizzare correttamente tutti gli elementi della scena. Ha individuato una sedia, una persona, i libri su una mensola e tutto ciò che può esserci in un salotto. Verificata l’accuratezza e la precisione dell’intelligenza artificiale durante questa prima fase, i ricercatori sono andati avanti con la seconda fase. Hanno inserito un elemento anomalo sempre alla stessa scena: si tratta di un elefante.

L'elefante è l'elemento anomalo inserito nella scena.
Il test visivo fallito dall’AI.

La modifica ha mandato letteralmente in tilt il sistema. Quest’ultimo infatti non è più riuscito a riconoscere correttamente gli elementi presenti nella scena, addirittura attribuendo loro nomi errati. I ricercatori si sono chiesti come mai i sistemi si confondano così facilmente ed hanno cercato di dare una risposta a questo quesito. Secondo loro alle AI manca una caratteristica tipicamente umana, ovvero loro non sono in grado di comprendere quando una scena è confusa, di conseguenza non sono in grado di analizzare una seconda volta la scena in questione.

La vista degli esseri umani sembra dominare su quella delle AI.
Gli esseri umani non fanno fatica ad elaborare le informazioni visive, mentre le AI hanno più difficoltà.

VISIONE UMANA VS INTELLIGENZA ARTIFICIALE

John Tsotsos (Università di Toronto) ha spiegato la principale differenze tra i due sistemi visivi. Agli esseri umani basta semplicemente aprire gli occhi affinché il cervello elabori tutte le informazioni che riceve. Quindi noi non facciamo alcuna fatica quando elaboriamo le informazioni né ne abbiamo coscienza, lo facciamo implicitamente. L’AI invece fa molta più fatica perché crea le impressioni visive in modo piuttosto laborioso. Più precisamente l’AI invia un’immagine attraverso una serie di strati o livelli ed ogni volta i dettagli dell’immagine lasciano il posto a descrizioni via via sempre più astratte dell’immagine in questione. Il risultato è una previsione ottimale di ciò che l’AI sta guardando. In parole più semplici l’output del livello precedente viene ripreso da quello successivo ed il tutto lavora come una catena di montaggio.

I progressi riguardo le AI stanno facendo enormi progressi.
Le intelligenze artificiali in futuro potrebbero far parte della nostra quotidianità.

Siccome le reti neurali in alcuni compiti si sono dimostrate superiori agli esseri umani, questo da un lato ha fatto ben sperare i ricercatori, ma dall’altro li ha spinti a testare le vulnerabilità di queste ultime. Il problema sorge nel momento in cui abbiamo a che fare per esempio con la guida autonoma. Il computer dell’auto non può guidare se non riesce a riconoscere un pedone che magari sta attraversando la strada solon perché sul marciapiede è passato un gatto, confondendo il sistema.

L’importanza della ‘seconda occhiata’

Nel momento in cui c’è qualcosa che non va mentre stiamo osservando una determinata scena, siamo portati a ritornare su quest’ultima dando una ‘seconda occhiata’. Il fatto di dover guardare una seconda volta una certa scena ci consente anche di focalizzare meglio l’attenzione su quei particolari che magari all’inizio non ci hanno convinto. Le AI non sono in grado di fare una cosa del genere perché le informazioni viaggiano in una sola direzione (feed-forward), quindi eventuali errori durante l’analisi di una scena compromette tutto ciò che segue. Tsotsos ha sviluppato la teoria del tuning selettivo per spiegare questa differenza. Per poter fare in modo che anche le AI siano in grado di dare una ‘seconda occhiata’ c’è ancora bisogno di lavorare su quest’aspetto.

Leave comment

Your email address will not be published. Required fields are marked with *.

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.