La tecnologia in tribunale: Uber e Alexa ridimensionano il nostro concetto di responsabilità

Come e fino a che punto le tecnologie modificano le tradizionali categorie etiche e giuridiche?

In due recenti casi giudiziari dei dispositivi tecnologici hanno assunto ruoli cruciali, evidenziando l’attualità dei temi affrontati da Jonas nel suo Il Principio Responsabilità.

Uber e Alexa al banco dei testimoni

Se è vero che la tecnologia è sempre più integrata nell’intimità della nostra vita, è altrettanto evidente che la giustizia ha tempi di metabolizzazione più lunghi e che solo di recente ha iniziato ad assimilare nel suo complesso organismo le novità di questi dispositivi. Ne sono un esempio i due casi che hanno coinvolto un’auto a guida automatica di Uber e l’home assistant di Amazon Alexa, i quali hanno scoperto una ferita aperta nei nostri sistemi giuridici e soprattutto etici.

Il primo caso risale ormai al marzo 2018, quando negli Stati Uniti una donna è morta dopo essere stata investita da un’auto a guida automatica di Uber, un fatto fin’ora senza precedenti. Se nel frattempo è stato stabilito che la compagnia non è perseguibile penalmente per il reato, una sentenza risolutiva sembra ancora lontana e non è chiaro su chi o su cosa ricadranno le responsabilità dell’omicidio: sul responsabile a bordo del veicolo che in quel momento era distratto ? Sui programmatori ? Sulla donna che ha attraversato senza prestare attenzione ? Sull’auto ? In questo senso non aiuta a far luce la più recente notizia di una falla all’interno del software dell’auto, la quale non era in grado di riconoscere un pedone fuori dalle strisce pedonali.

Il secondo riguarda invece la morte di Silvia Gala, avvenuta anch’essa negli States, lo scorso 12 luglio, ma che ha assunto nuovi risvolti solo negli ultimi giorni: per chiarire la posizione di Crespo, il marito della donna, gli investigatori hanno infatti ottenuto accesso alle registrazioni dell’assistente vocale Alexa di proprietà della coppia, il quale costituisce l’unico possibile “testimone” della vicenda. Anche stavolta però la questione non è semplice: Alexa si attiva solo su richiesta, senza la quale non conserva registrazioni delle conversazioni degli utenti. Sarà quindi possibile trovare materiale utile alle indagini? C’è la possibilità che siano state registrate le conversazioni avvenute in quei momenti pur senza che il dispositivo venisse attivato? Se venissero trovate delle prove utili, ma che Amazon non avrebbe dovuto possedere o conservare, sarebbe un bene o un male? sarebbero utilizzabili in tribunale? Quanto possono essere coinvolti Amazon e i suoi dipendenti?

Entrambi gli esempi, in modi diversi tra loro, portano a porci delle domande di natura giuridica e soprattutto etica le cui risposte avranno conseguenze importanti sulla società del presente e del futuro: in che modo la tecnologia sta cambiando il nostro modo di agire? Che impatto ha sulla macchina giuridica? Ci caricherà di colpe e giudizi tanto gravi da superare ogni possibile previsione o al contrario avrà l’effetto di deresponsabilizzarci? Sarà uno strumento per identificare in modo esatto e matematico i responsabili di certe azioni o invece confonderà le acque, portandoci fuori strada?

H. Jonas

Jonas e la nuova etica

Il tema dell’impatto delle nuove tecnologie sulle nostre vite è alla base della riflessione che il filosofo tedesco Jonas percorre nel suo libro Il Principio Responsabilità, pubblicato nel 1979.

Se da un lato è vero che l’uomo si è sempre caratterizzato come homo faber, come ci ricorda il celebre stasimo dell’Antigone di Sofocle, dall’altro è infatti innegabile che, con lo sviluppo di dispositivi sempre più performanti, il nostro modo di fare e di agire è ormai radicalmente diverso da quello degli antichi greci. Avviene così che, col trascorrere dei secoli, ci siamo rivelati in grado non solo di ritagliarci un angolo per sopravvivere e prosperare tra i tanti pericoli a cui la natura ci ha sempre esposto, ma anche di modificare profondamente l’ambiente circostante, tanto da ribaltare i ruoli di forza: se prima la sussistenza dell’umanità dipendeva dalla benignità dell’ecosistema, adesso vale piuttosto il contrario (il celebre effetto farfalla). Inoltre le conseguenze delle nostre azioni non sono più limitate al presente in cui si svolgono, ma giungono a toccare in modo diretto aspetti fondamentali del futuro e dei suoi (ancora inesistenti) abitanti, talvolta in modi difficili da prevedere. Possiamo così dire, in un certo senso, che le nostre azioni hanno acquisito maggiore potenza nello spazio potenza nel tempo. Ne risulta un sostanziale mutamento della natura dell’agire umano, il quale, con l’avvento di sofisticati dispositivi tecnologici, ha una portata senza precedenti nella storia.

Tuttavia, secondo Jonas, tali cambiamenti esigono un aggiornamento altrettanto radicale nella riflessione etica. Risulta infatti evidente che i principi dell’etica tradizionale, per quanto ancora parzialmente validi nella vita quotidiana, siano inadatti ad affrontare le conseguenze di azioni tanto potenti: essi, pensati per regolare e giudicare azioni i cui effetti non si protraggano oltre lo stesso presente in cui hanno principio, sono inermi davanti alla novitas di un agire che può mettere a repentaglio la natura stessa e le condizioni di chi ancora non esiste. Se infatti ogni etica tradizionale risulta essenzialmente antropocentrica, chiusa in una portata spaziale e temporale limitata ed impossibilitata nell’assumere l’uomo stesso come oggetto della tecnica, si avverte ora la necessita di principi non più antropocentrici (dato che l’azione umana non coinvolge più solo l’uomo, ma la natura nella sua totalità), che abbiano degli orizzonti spaziali e temporali più vasti (poiché altrettanto vasti sono le potenzialità delle nostre azioni) e che infine siano coscienti del coinvolgimento dell’uomo stesso (in quanto anche il destino della nostra specie non può sottrarsi a questo meccanismo).

E’ in questo senso che il filosofo di origini ebraiche, ponendo l’urgenza di ripensare il concetto di responsabilità, propone un principio etico che, tenendo conto delle potenzialità tecnologiche, salvaguardi l’esistenza stessa della natura e dell’umanità, le quali reclamano anch’esse i loro diritti al di là di ogni luogo e tempo, e che sia sostenuto da una sacrosanta paura. Non più una paura, come sosteneva Hobbes, di una morte imminente e violenta, quanto piuttosto di una lontana ma definitiva estinzione. Poiché infatti l’etica consiste nel fornire regole al nostro agire, da un tanto radicale mutamento del secondo consegue necessariamente un’altrettanto profonda revisione della prima.

Tecnologia, responsabilità ed etiche applicate

Al di là del pensiero ultimo di Jonas, il fulcro della riflessione sta nella necessità di un serio ripensamento della responsabilità nella civiltà tecnologica del XXI secolo. Essa è dettata, da una parte, come già sottolineato, dal mutamento dell’agire umano, dall’altra dalle innovazioni dell’agire “robotico”.

Per capire quest’ultimo aspetto è necessario introdurre la sottile, ma fondamentale distinzione tra tecnica e tecnologia: se la prima comprende ogni strumento di cui l’uomo, in un modo o in un altro, può servirsi per rendere più efficace la propria azione, ma che in sé non produce gli stessi effetti che produrrebbe invece nelle nostre mani (un bastone può essere un’arma solo se usata come tale), la seconda ha a che fare con i dispositivi che sì sostengono, come gli strumenti tecnici, l’uomo, ma che dispongono inoltre di una certa autonomia d’azione (come un cellulare, il quale nelle nostre mani permette di comunicare a distanza, ma che ha in sé una relativa autonomia, inviandoci notifiche o fornendoci istruzioni). E’ soprattutto in questo senso che la tecnologia ci impone un aggiornamento dei concetti di azione e di responsabilità: ora che ad essere faber non è più soltanto l’uomo, cosa significa agire? C’è differenza tra l’agire umano e quello tecnologico e robotico? Fino a che punto può emanciparsi dal nostro controllo il secondo? Se una macchina compie un reato, su chi ricade la responsabilità di tale atto? Esiste il rischio di un’apocalisse tecnologica in cui l’umanità venga dominata dai robot? E, nel caso tale ipotesi si verificasse, in che misura la colpa ricadrebbe su di noi?

Se la strada che conduce a delle risposte è lunga e tortuosa, è tuttavia importante compiere il primo passo verso tale direzione ponendoci le giuste domande e rendendoci consapevoli delle mutazioni che si stanno compiendo. Sebbene infatti, ammettendo di disporre idealmente di un raggio d’azione infinito nel tempo e nello spazio, sia impossibile prevedere la più distante degli effetti che potremmo scatenare (e anche se fossimo in grado, non è affatto detto che sapremmo valutare la bontà di tali effetti), possedere una buona conoscenza delle competenze necessarie all’uso quanto migliore possibile delle tecniche e delle tecnologie a nostra disposizione risulta fondamentale: così come un anziano che non disponga degli strumenti necessari per usare uno smartphone non sarebbe in grado di poter fare ciò che desidera (come ad esempio effettuare una chiamata) e anzi rischierebbe di danneggiare il dispositivo, allo stesso modo un addetto alla sicurezza di un reattore nucleare che si riveli incompetente non solo non potrebbe svolgere il suo lavoro, ma metterebbe a rischio le vite altrui.

E’ così che emerge l’importanza dell’etica applicata. Questa branca della filosofia infatti, occupandosi non di etica in senso generale, ma di etica applicata a specifici ambiti (specialmente scientifici e tecnologici), assume il compito di interrogarsi sul comportamento umano in relazione al sempre più pervasivo progresso delle scienze. Se dunque è vero che il quadro generale risulta ancora molto oscuro e difficile da decifrare, i casi di Uber e Alexa dimostrano l’urgenza delle questioni poste dall’etica applicata e fanno presagire la rilevanza che le loro risposte avranno nella società del prossimo futuro.

Leave comment

Your email address will not be published. Required fields are marked with *.

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.