Il passato, il nostro migliore e forse unico insegnante, non fa ben sperare sulla capacità dell'umanità in generale e di nazioni, enti, comunità scientifica, nell'affrontare la necessità della nascita di una scienza etica.
Nel recente passato abbiamo già subito le conseguenze di una prima invasione di robot, avvenuta quasi senza che se ne abbia avuto nemmeno la consapevolezza, e il problema non è stato minimamente affrontato.
A partire dagli anni 90 del secolo scorso robot software, in generale definiti algidamente col termine 'algoritmi' o espressioni simili, hanno invaso il nostro mondo alterandolo, prendendo decisioni eticamente discutibili o perniciose, portando distruzione, morte, povertà in tutto il mondo, senza che nessuno o quasi affrontasse i problemi etici correlati col fatto che determinate decisioni fossero prese da automatismi sui quali gli interventi umani avevano e hanno tuttora scarsa o nulla possibilità di incidere.
Il fatto che un 'algoritmo' non sia un'entità fisica tangibile, non abbia la solidità di una apparecchiatura fisica, lo rende ovviamente impalpabile e quindi le sue decisioni avvengono senza che nessuno si preoccupi di definire un ambito etico all'interno del quale possa opportunamente agire.
La finanza sicuramente è l'ambito in cui, prima che in qualunque altro, hanno fatto la loro comparsa degli algoritmi che prendono decisioni automatiche.
Da decenni i mercati di cambi, azioni, obbligazioni e derivati, sono sempre più pervasivamente nelle mani di algoritmi man mano più sofisticati, che prendono repentine e ripetute decisioni, impossibili in precedenza per velocità, accuratezza e ripetitività per un essere umano.
Scalping, arbitrage, etc. sono tecniche che hanno preso piede perché rese tecnicamente possibili, solo a partire dal momento in cui i trader finanziari hanno avuto a disposizione degli algoritmi, che in effetti sono dei veri e propri robot software.
Lo dico con cognizione di causa perché sono stato uno dei primi, perlomeno in Italia, a svilupparne uno all'inizio degli anni 90 del secolo scorso.
E questi algoritmi sono in grado di prendere decisioni e agire sui mercati in modo autonomo, senza il minimo intervento umano.
Se, nelle fasi iniziali di queste pratiche, i disastri sono stati molto evidenti, ad esempio quando tutti quelli presenti sui mercati, seguendo trend in ascesa o discesa di prezzi di titoli azionari o cambi valutari, hanno auto-alimentato questi trend portando i mercati verso situazioni insostenibili, man mano che venivano affinati, le conseguenze sono divenute più sottili, ma sono diventate strutturali e hanno contribuito non poco a portare a situazioni di crisi profondissime e dalle conseguenze assolutamente tangibili e reali.
L'automatizzazione, ad esempio, sprovvista di un qualunque piano etico e addirittura, spesso, di un qualunque controllo, hanno portato a conseguenze disastrose sul piano sociale e umano, nei settori energetici e delle materie prime.
In particolare nel settore alimentare, sono state messe 'fuori mercato' (che poi significa ridurre alla fame) miliardi di persone a fronte di guadagni a volte del tutto marginali, conseguiti mediante operazioni di creazione di 'bolle' speculative avvenute mediante meccanismi automatici governati da algoritmi che non rispondono a nessun codice etico e non sottostanno a nessun controllo umano.
Questo problema, tra l'altro, non è nemmeno mai stato realmente posto all'attenzione, non dico del grande pubblico, ma nemmeno degli addetti ai lavori, in primis di chi chiede la creazione di questi robot software, il cui unico scopo è massimizzare il profitto, senza che nessuno si sia posto la domanda se abbiano o meno la necessità di un comportamento etico, o, perlomeno, di limiti etici.
La domanda è: considereremmo eticamente accettabile se un essere umano, al fine di conseguire un guadagno tutto sommato marginale, ad esempio facendo arbitraggio sui prezzi del grano, portasse ad un aumento stabile dei prezzi di questa materia prima a livello mondiale, se fossimo a conoscenza che, in questo modo, centinaia di milioni di persone potrebbero morire di fame?
Forse no, qualcuno potrebbe chiedergliene conto.
Se invece le decisioni che portano a questa situazione vengono prese da un meccanismo automatico, o dal concorso di un rilevante numero di meccanismi automatici a livello globale, qualcuno si preoccuperebbe mai delle conseguenze e del dilemma etico che ne conseguirebbe?
Qualcuno, visto che è già successo, se ne è mai preoccupato?
La risposta è: no.
In pratica avviene uno spostamento surrettizio delle responsabilità oggettive di un'azione.
Viene chiesta da qualcuno a qualcun altro la creazione di un robot, senza nessuna etica, che, agendo autonomamente, massimizza il guadagno di chi lo usa e sposta le responsabilità da chi l'ha commissionato ad un'entità astratta e impalpabile a cui nessuno chiede conto delle proprie azioni e dell'eticità delle loro conseguenze.
E' possibile fare in modo che l'algoritmo si domandi, all'interno dei propri processi decisionali: "In conseguenza di questa azione un milione di persone in più, moriranno di fame, devo fare o non devo fare questa azione?"
Certamente è possibile e la complessità è dello stesso ordine di grandezza dell'algoritmo stesso, quindi si tratta di una cosa tecnicamente fattibile, anche se non semplice.
Per fare questo, però, occorre definire una scienza etica che delimiti e formalizzi quali siano e come si applichino questi limiti etici e, non ultimo, definire chi e come può obbligare chi costruisce robot, ad implementarla.
Non è fantascientifico immaginare un robot che, non avendo un codice etico, non avendo limitazioni intrinseche, allo scopo di portare a termine il proprio compito, riduca alla povertà intere nazioni o affami milioni di persone.
Non è fantascientifico perché è già successo e succede continuamente anche in questo momento.
Non solo tutto ciò è già avvenuto e avviene, ma nessuno se ne è minimamente preoccupato.
Oltre agli enormi danni degli algoritmi finanziari, negli anni si sono aggiunti quelli, forse meno devastanti, ma pur sempre tangibili, del proliferare dell'uso degli algoritmi decisionali in ogni ambito.
Penso, ad esempio, al caso della gestione dei turni di lavoro in grandi aziende, con una gestione completamente spersonalizzata che, come è ovvio, non tiene in nessun conto delle esigenze personali, ottenendo il peggior risultato possibile invece del migliore.
Quello che mi più mi preoccupa è l'atteggiamento generale di tutti, chi usa, chi scrive e chi è vittima degli algoritmi.
Tutti vivono questa assurda spersonalizzazione delle responsabilità che sfocia in una rassegnazione fatalistica di chi la subisce.
Come se la decisione dell'algoritmo fosse quella di un'entità superiore, completamente priva di etica, alle cui decisioni sottostare come sudditi al volere capriccioso di una nuova divinità.
L'assenza di una scienza etica che ponga dei paletti all'azione degli algoritmi ha prodotto e produce grandi e piccoli danni, occorre agire al più presto per porre un freno a questa deriva.
Credo sia necessario per tutti visualizzare e comprendere che, per un algoritmo, a cui non sia stata implementata un'etica, può sembrare del tutto accettabile che una entità giuridica, ad esempio una società quotata in borsa, per realizzare un guadagno di un millesimo di euro, possa decidere un'azione che provoca la morte dell'intero genere umano. Compresi i possessori delle azioni di quella società.
Un algoritmo, da solo, non ha gli strumenti, se nessuno glieli fornisce a priori, per capire che sarebbe un'azione folle, credo che sia il caso di valutare il tunnel dove ci stiamo infilando allegri e spensierati.
Resources
Good article, thanks for the info!