Algoritmi e contratti nel sistema finanziario

Stefano Dorigo è professore associato di diritto tributario presso l’Università di Firenze. Membro del Comitato di redazione della Rivista trimestrale di diritto tri butario, è autore di tre monografie e di circa ottanta saggi di diritto tributario, pubblicati in collettanee e riviste scientifiche italiane ed europee. Il ragionamento giuridico nell’era dell’intelligenza artificiale L’impiego dell’intelligenza artificiale influenza ormai ogni aspetto della vita indi viduale e collettiva e sta mutando con rapidità non solo l’ambito dell’economia, ma anche quello politico e sociale, senza che peraltro si possano ipotizzarne con certezza gli esiti. A fronte di tale travolgente progresso, la riflessione giuri dica è ancora in forte ritardo. Il legislatore fatica a inseguire fattispecie mutevoli e sfuggenti e non è chiaro quali strumenti interpretativi ed applicativi possano essere in concreto adoperati dai giuristi. Questa raccolta di scritti si propone per l’appunto di colmare la lacuna, stimolando un percorso di riflessione che ponga nuovamente al centro dell’investigazione il diritto ed i suoi fondamenti. L’obietti vo è quello di esplorare - e se possibile comprendere - come l’uso di macchine e programmi intelligenti possa influenzare lo sviluppo ed il compimento del ragio namento giuridico. Si tratta di trovare una sintesi tra l’innovazione tecnologica ed i principi che devono guidare l’attività del giurista, al fine di garantire comun que una adeguata tutela dei diritti. Il ragionamento giuridico nell’era dell’intelligenza artificiale A cura di Stefano Dorigo Il ragionamento giuridico nell’era dell’intelligenza artificiale Il ragionamento giuridico nell’era dell’intelligenza artificiale A cura di Stefano Dorigo Questo volume è frutto della giornata di studi tenutasi il 15 novembre 2018 presso il Dipartimento di Scienze giuridiche dell’Università di Firenze e risulta finanziato con i fondi “Il trasfer pricing nei gruppi di imprese” del Dipartimento di Scienze giuridiche. © Copyright 2020 by Pacini Editore Srl ISBN 978-88-3379-166-1 Realizzazione editoriale Via A. Gherardesca 56121 Pisa Responsabile di redazione Gloria Giacomelli Fotolito e Stampa Industrie Grafiche Pacini Le fotocopie per uso personale del lettore possono essere effettuate nei limiti del 15% di ciascun volume/fascicolo di periodico dietro pagamento alla SIAE del compenso previsto dall’art. 68, commi 4 e 5, della legge 22 aprile 1941 n. 633. Indice S D, Presentazione .................................................................. p. XV PARTE PRIMA - I PRINCIPI E F, Intelligenza Artificiale e Diritto: tra scienza e fantascienza ...................................................................................................» 1 1. Intelligenza Artificiale e Diritto: un binomio che nasce da lontano.........» 1 2. L’Intelligenza Artificiale anni ’40-’90: dai primi successi all’AI Winter ....» 3 3. AI e il Web: ovvero la fine dell’AI Winter ................................................» 4 4. L’AI per il Diritto ...................................................................................» 5 5. Uno scenario prossimo per l’AI e il Web .................................................» 7 6. Uno scenario futuro per l’AI e il Web .....................................................» 9 A A, L’Unione europea dinanzi allo sviluppo dell’intelligenza artificiale: la costruzione di uno schema di regolamentazione europeo tra mercato unico digitale e tutela dei diritti fondamentali.............................» 13 1. Introduzione ..........................................................................................» 14 2. Intelligenza artificiale e Digital Single Market .........................................» 16 3. Le prospettive di regolazione a livello europeo ........................................» 21 3.1. Normative in vigore e applicazioni dell’intelligenza artificiale ........» 21 3.2. La costruzione di nuovi schemi di regolamentazione .....................» 25 4. Intelligenza artificiale e rispetto dei diritti fondamentali e dei valori dell’Unione ..............................................................................» 29 A S, Diritto costituzionale e decisioni algoritmiche ..............» 37 1. Premessa. Edipo e l’oracolo: la predizione del futuro e la libertà .............» 37 2. Dalla “cibernetica” all’avvento dell’intelligenza “artificiale” .....................» 39 3. L’impatto della rivoluzione cibernetica su diritto costituzionale: intelligenza artificiale, autonomia e libertà .................................................» 41 3.1. Il soggetto “catturato” dallo strumento ..........................................» 43 3.2. L’uso di algoritmi predittivi nelle decisioni rilevanti per la libertà ..» 45 VI I   ’ ’  A) Caso “Compas” .................................................................................» 46 B) La mobilità degli insegnanti nella legge 107/2015 ..............................» 48 4. Nuove questioni di costituzionalità ........................................................» 51 5. Il quadro normativo europeo-nazionale..................................................» 51 A) Il principio di conoscibilità ................................................................» 52 B) Il principio di non esclusività .............................................................» 54 C) Il principio mancante: non discriminazione .......................................» 59 6. Verso una dottrina della “precauzione costituzionale” .............................» 61 7. Verso un diritto costituzionale ibrido ......................................................» 63 8. Profeti inascoltati: Marcuse ....................................................................» 64 G P, Il diritto civile al tempo dell’intelligenza artificiale: spunti per una problematizzazione ................................................................» 67 1. Considerazioni introduttive ...................................................................» 67 2. Diritto, tecnica, globalizzazione .............................................................» 68 3. Il ragionamento giuridico e l’Intelligenza artificiale ................................» 73 4. Segue. Smart Contracts e Blockchain ........................................................» 75 Michele PaPa, Future crimes: intelligenza artificiale e rinnovamento del diritto penale .................................................................................................» 77 1. Considerazioni introduttive ...................................................................» 77 2. I possibili percorsi di ricerca ...................................................................» 78 3. La liberazione delle norme dal testo .......................................................» 79 3.1. Il sistema penale come network ......................................................» 81 3.2. Dal network alle playlist .................................................................» 82 4. Crisi della fattispecie e risorse dell’intelligenza artificiale.........................» 83 4.1. Le ragioni della crisi ......................................................................» 83 4.2. Intelligenza artificiale e nuove progettualità normative ..................» 84 5. Conclusioni ...........................................................................................» 86 R C G, L’intelligenza artificiale nel prisma del diritto tributario .......................................................................................................» 87 VII I 1. Premessa: i molteplici profili di contatto tra intelligenza artificiale e diritto tributario ......................................................................................» 87 2. Il dibattito sulla tassazione dei robot quale punta dell’iceberg del problema della policy fiscale in tema di IA ..................................................» 88 3. I possibili modelli impositivi ..................................................................» 91 4. Il possibile ruolo dell’intelligenza artificiale nell’applicazione delle norme tributarie ................................................................................» 94 5. L’uso del data processing per selezionare situazioni di potenziale evasione » 97 R D P, I diritti del lavoro nell’economia digitale...................» 99 1. Premessa ................................................................................................» 99 2. Economia digitale e dematerializzazione dei processi produttivi .............» 100 3. Economia digitale e nuove forme di etero-organizzazione.......................» 101 4. Economia digitale e subordinazione economica ed organizzativa ............» 102 5. Economia digitale, controllo dei lavoratori e diritto alla privacy .............» 103 6. Digitalizzazione del lavoro e social media ................................................» 104 S P, Fine del diritto? L’intelligenza artificiale e il futuro del giurista ....................................................................................» 107 1. Apologia di un filosofo del diritto. Breve premessa sul rapporto tra informatica e scienza giuridica ..............................................................» 107 2. Fine del diritto? ......................................................................................» 110 3. Fine del giurista? ....................................................................................» 113 4. Verso un giurista ibrido?.........................................................................» 116 5. In conclusione: senza timori, senza nostalgie ..........................................» 117 PARTE SECONDA - LE APPLICAZIONI S D, Intelligenza artificiale e norme antiabuso: il ruolo dei sistemi “intelligenti” tra funzione amministrativa e attività giurisdizionale» 121 1. Introduzione: intelligenza artificiale e diritto tributario ..........................» 122 2. Il possibile ruolo dell’intelligenza artificiale nell’interpretazione delle Convenzioni contro le doppie imposizioni .........................................» 125 3. In particolare; il caso problematico delle clausole antiabuso ...................» 128 VIII I   ’ ’  4. Sistemi di intelligenza artificiale e interpretazione delle clausole antiabuso di natura pattizia ........................................................................» 129 5. Il “chi”: l’utilità dei sistemi di intelligenza artificiale per l’amministrazione finanziaria al fine dell’individuazione di fattispecie abusive » 132 5.1. Segue: un utilizzo “ragionevole” dell’intelligenza artificiale per l’amministrazione finanziaria ..........................................................» 136 6. Segue: intelligenza artificiale e giudice tributario ....................................» 138 7. Conclusioni ...........................................................................................» 140 E C, Big data e tutela dei diritti fondamentali: la ricerca di un (difficile) equilibrio nell’ambito delle iniziative europee ........................» 143 1. Big data: tra raccolta di dati e tecniche di profilazione ............................» 144 2. Datafication, Artificial intelligence e bias: quali tutele per i diritti della persona? .............................................................................................» 147 3. La cornice giuridica attuale: il Regolamento generale sulla protezione dei dati.......................................................................................................» 149 4. Il quadro delle tutele può dirsi completo? Le soluzioni di compromesso alla luce delle fonti di diritto europeo .........................................................» 154 4.1. Le linee guida del Consiglio d’Europa ...........................................» 154 4.2. La risoluzione del Parlamento europeo sulle implicazioni dei Big data per i diritti fondamentali ..............................................................» 156 5. La “Digital Clearinghouse”: un primo passo verso un modello di Living Cognitive Society? ........................................................................................» 159 6. Conclusioni ...........................................................................................» 161 C P, Smart contract e automazione contrattuale: potenzialità e rischi della negoziazione algoritmica nell’era digitale......................................» 163 1. Introduzione e delimitazione del campo di indagine ..............................» 163 2. Smart contracts: cosa sono e come funzionano ........................................» 164 3. Blokchain, bitcoin e Smart Contract: nuovi modelli di fiducia..................» 165 4. Vantaggi e rischi della contrattazione smart ............................................» 166 5. Smart Contract e proposizioni normative: il diverso ruolo dell’interprete » 168 6. Traduzione in codice della volontà negoziale: linguaggio umano e robotico a confronto................................................................................» 169 IX I 7. Automazione “adattiva”: lo Smart Contract quale strumento di gestione delle sopravvenienze ...................................................................................» 170 8. Inevitabilità dell’effetto e vessazione del contraente debole .....................» 174 9. Automazione esecutiva e tecniche di tutela: il “ritorno del giudice” ........» 176 10. Lo Smart Contract illegale.....................................................................» 176 11. Rilievi conclusivi ..................................................................................» 177 A D, Sistemi emergenti di Intelligenza Artificiale e personalità giuridica: un contributo interdisciplinare alla tematica ..............» 179 1. Introduzione ..........................................................................................» 179 2. L’Intelligenza Artificiale ..........................................................................» 181 3. Gli approcci giuridici alla personalità giuridica: la prospettiva “ontologica”..........................................................................» 188 4. L’approccio funzionalistico .....................................................................» 194 5. Conclusioni ...........................................................................................» 197 L G, Big Brother is “Gendering” You. Il diritto antidiscriminatorio alla prova dell’intelligenza artificiale: quale tutela per il corpo digitale? ...............................................................................................» 199 1. Premessa: ma gli androidi sognano pecore elettriche? .............................» 200 2. Big data, big concerns: ha ancora senso parlare di privacy? .....................» 202 3. Dietro il velo della neutralità: algoritmi e profilazione ............................» 207 4. Il diritto antidiscriminatorio alla prova dell’intelligenza artificiale: uno sguardo comparato .....................................................................................» 209 4.1. I paradossi del disparate impact nell’esperienza americana .............» 210 4.2. La “recidività” del pregiudizio: la lezione canadese .........................» 215 4.3. GDPR e algoritmi discriminatori: un’arma spuntata? ....................» 221 5. Osservazioni conclusive..........................................................................» 224 A M, Intelligenza artificiale e responsabilità civile: dal “Responsibility Gap” alla personalità elettronica dei robot .........................» 231 1. L’alba di una nuova rivoluzione industriale a propulsione robotica: una sfida per il diritto .......................................................................................» 232 2. La mediazione giuridica dell’intelligenza artificiale: tendenze verso un approccio “normativista” ............................................................................» 234 X I   ’ ’  3. La responsabilità civile dei robot nella Risoluzione del Parlamento Europeo [2015/2103 (INL)]: dall’“autonomia” delle macchine intelligenti al problema del c.d. “responsibility gap” .......................................................» 236 4. Considerazioni in una direzione opposta, ossia sull’opportunità di un’attenta ricognizione della normativa esistente ........................................» 237 5. La normativa in tema di responsabilità da prodotto difettoso .................» 240 6. Spigolature sulla normativa interna: “nuove” applicazioni per “vecchie” norme? ..................................................................................» 242 7. Postilla finale: sulle soluzioni individuate dal Parlamento Europeo in generale e sulla “personalità elettronica dei robot” in particolare ...................» 244 F P, Algoritmi e contratti nel sistema finanziario ...................» 249 1. L’inclusione finanziaria tra umanizzazione e meccanizzazione .................» 249 2. La decisione algoritmica nella sfida della certezza e dell’effettività: la codificazione del diritto ..........................................................................» 252 3. Algoritmo e contratto ............................................................................» 255 3.1. La formazione del contratto ..........................................................» 256 3.2. La determinazione del contenuto ..................................................» 258 3.3. La conclusione e l’esecuzione del programma negoziale .................» 260 4. Algoritmi e riferibilità dell’interesse negoziale.........................................» 263 G G, Lost in Translation. I rischi per diritto e diritti nella transizione verso una società data-driven........................................................» 265 1. Il ritorno dell’Intelligenza Artificiale.......................................................» 265 2. “Da mihi data, dabo tibi jus”: il governo delle macchine .........................» 268 3. “In Data We Trust” .................................................................................» 270 4. Diritto, Diritti e Intelligenza Artificiale ..................................................» 274 5. Trasparenza, contestabilità e giustificazione ............................................» 277 6. Conclusioni ...........................................................................................» 280 M R, Il peculium del robot. Spunti sul problema della soggettivizzazione dell’intelligenza artificiale ..................................................» 283 1. Il robot e lo schiavo ................................................................................» 283 2. Intelligenza artificiale e soggettività giuridica..........................................» 285 XI I A C, Machina delinquere non potest? Brevi appunti su intelligenza artificiale e responsabilità penale .............................................» 289 1. Macchine e modelli imputativi...............................................................» 290 2. Le origini del machina delinquere non potest............................................» 292 3. L’imprevedibilità delle IA avanzate e la crisi del modello vicario .............» 293 4. La responsabilità diretta dell’IA: la tesi positiva di Gabriel Hallevy .........» 298 5. Prima critica: persistente assenza di colpevolezza ....................................» 300 6. Seconda critica: perdita di senso delle funzioni della pena ......................» 302 7. Terza critica: fallacia del parallelo con la corporate liability ......................» 303 8. Oltre il machina delinquere non potest: prospettive attuali e future ..........» 304 E G, Intelligenza artificiale e sistema sanitario ...............................» 309 1. Intelligenza artificiale cosa è? ..................................................................» 310 2. L’intelligenza artificiale nel sistema sanitario ...........................................» 312 3. Intelligenza Artificiale in sanità: chi è responsabile? ................................» 313 D C, Intelligenza artificiale e sanzioni amministrative tributarie....» 317 1. La sostituzione dell’intelligenza umana con quella artificiale nell’attuazione dei tributi ...........................................................................» 317 2. Il Matching Database ..............................................................................» 319 3. Il problema della black box .....................................................................» 321 4. L’attuazione partecipata dell’imposta e i doveri strumentali, non delegabili, di conoscenza della legge tributaria.....................................» 323 5. Applicabilità delle cause esimenti: obiettiva incertezza della legge ed errore di diritto incolpevole ........................................................................» 325 6. Black box e culpa in eligendo ...................................................................» 327 7. Segue. Legittimo affidamento e scusabilità dell’errore .............................» 329 8. Il consulente che si avvale della IA .........................................................» 329 9. Spunti operativi .....................................................................................» 331 R K, L’intelligenza artificiale a servizio della fiscalità: il sistema brasiliano di selezione doganale attraverso l’apprendimento automatico (SISAM) » 333 1. Introduzione ..........................................................................................» 334 2. La legittimità giuridica della decisione della macchina............................» 338 XII I   ’ ’  3. Il processo decisionale, essere-nel-mondo ...............................................» 342 4. Considerazioni finali ..............................................................................» 346 H M – L N H R, Artificial intelligence and tax administration: uses and challenges in Brazil ..................» 349 1. Introduction ..........................................................................................» 350 2. Government Tax Efficiency ....................................................................» 351 3. What is Artificial Intelligence?................................................................» 352 4. AI-enabled tax solutions in Brazil ...........................................................» 354 4.1. Facial recognition at customs.........................................................» 354 4.2. SISAM ..........................................................................................» 355 4.3. PGFN Analytics ............................................................................» 355 4.4. Tax assessment ...............................................................................» 355 5. Artificial intelligence and trial of tax proceedings ...................................» 356 6. Challenges .............................................................................................» 358 6.1. Data quality and accuracy .............................................................» 358 6.2. Facial recognition ..........................................................................» 359 6.3. Public decisions .............................................................................» 359 6.4. Privacy and personal data protection .............................................» 360 7. Concluding remarks...............................................................................» 361 E I – A Z, Il lavoro su piattaforma digitale: una sfida per il diritto del lavoro ....................................................................» 363 1. Il capitalismo delle piattaforme digitali nel quadro della digitalizzazione del lavoro ...................................................................................................» 364 2. L’accesso al lavoro tramite Big Data, IA e algoritmi ................................» 366 3. I sistemi di rating e gli effetti delle valutazioni online ........................» 369 3.1. Gli effetti delle valutazioni negative: il potere di controllo .............» 370 3.2. (Segue): il potere disciplinare .........................................................» 372 4. L’estinzione del rapporto di lavoro .........................................................» 374 5. La qualificazione giuridica del rapporto di lavoro su piattaforma digitale: la vicenda Foodora ......................................................................................» 375 XIII I 5.1. (Segue): il sentiero tracciato dal caso Foodinho nella direzione di un approccio rimediale .....................................................................» 379 5.2. (Segue): conclusioni ......................................................................» 381 Algoritmi e contratti nel sistema finanziario Federico Pistelli* Abstract: Ogni momento della vita del contratto nel sistema finanziario si contraddistingue oggi per una sempre minor rilevanza di un contributo autonomo del singolo, a favore della prevalenza dell’algoritmo nella sfera decisionale: un accordo fra due o più parti (individuate sulla base di accostamenti e scoring compiuti da un algoritmo), per costituire, regolare o estinguere (secondo una volontà che risiede al di fuori dell’autonomia delle parti, nella programmazione del software) un rapporto giuridico patrimoniale (il cui contenuto viene predeterminato da un autonoma attraverso l’elaborazione e confronto fra dati in possesso, schemi astratti e profili individuali). Il problema sollevato all’interno del paper coinvolge dunque il profilo di coesistenza fra processo decisionale algoritmico e autonomia negoziale umana, nel tentativo di tracciare i confini questi elementi nell’ottica della funzione inclusiva affidata alla finanza. Abstract: Each moment of a financial contract’s life is currently determined by a significant loss of importance of one’s freedom, in favor of a new role played by algorithm in decision making. An agreement within two or more parties (selected by an automatized scoring mechanism), aimed to constitute, manage or extinguish (in accordance to a leading role of a programmed software) a legal relationship (whose content is determined by an artificial agent through data processing and client’s profiling). The main issue of this paper deals with the cooperation of algorithmic decision making and human freedom of contracts for the goal of financial inclusion. tratto Keywords: Finanza – Algorithmic trade – Lending crowdfunding – Elementi del con- Sommario: 1. L’inclusione finanziaria tra umanizzazione e meccanizzazione. – 2. La decisione algoritmica nella sfida della certezza e dell’effettività: la codificazione del diritto. – 3. Algoritmo e contratto. – 3.1. La formazione del contratto. – 3.2. La determinazione del contenuto. – 3.3. La conclusione e l’esecuzione del programma negoziale. – 4. Algoritmi e riferibilità dell’interesse negoziale. 1. L’inclusione finanziaria tra umanizzazione e meccanizzazione. In una delle sue opere più celebri1, l’economista premio Nobel, Robert Shiller, nel pieno divampare delle ripercussioni della crisi economica globale del 2008, riconosce alla finanza e al sistema finanziario in senso lato, un ruolo centrale nello sviluppo di quel processo virtuoso diretto a porre le fondamenta per l’edificazione Dottorando di ricerca in Scienze Giuridiche, Università degli Studi di Firenze; [email protected]. 1 Shiller, Finance and the good society, Princeton University Press, 2012, ed. italiana Il Mulino, Finanza e società giusta, 2012. * 250 Federico Pistelli della good society2. In un clima di profonda sfiducia verso la solidità e l’efficienza del capitalismo finanziario, l’Autore intravede nelle potenzialità dell’innovazione finanziaria e dello sviluppo della tecnologia dell’informazione l’elemento chiave per gettare le basi di un sistema effettivamente inclusivo e democratico3, capace di sostenere le esigenze fondamentali della vita di ciascun individuo. L’economista americano rivolge però un monito nelle ultime pagine del suo libro, sottolineando come il processo di democratization of finance debba avanzare di pari passo con la humanization of finance: a tal fine, è essenziale per la finanza “to be human”4. Questo messaggio non sembra trovare, tuttavia, particolare riscontro nella realtà di oggi: l’automazione e l’applicazione di processi decisionali scriptati costituiscono difatti il fulcro di un sistema, come quello finanziario, che di human mantiene ormai ben poco. A titolo esemplificativo, solo nel 2015 il 66% degli scambi azionari globali sono stati gestiti integralmente da robot5, ossia indipendentemente da input di bidding generati da parte dell’essere umano. I dati più recenti a disposizione, mostrano inoltre ulteriori incrementi nel volume di scambi condotti con sistemi di electronic-trade, che costituiscono circa il 74% del nozionale delle negoziazioni condotte dagli intermediari istituzionali, con un aumento annuale del 24 % sull’impiego dei sistemi di algorithmic trade6. La geografia dei mercati vive inoltre un momento di profonda rivoluzione per l’avvento e la diffusione dei nuovi attori economici del FinTech7, che fanno leva sui meccanismi di intelligenza artificiale e machine learning quale core business della propria attività. 2 L’Autore si limita alla descrizione della good society nel termine generale di «kind of society in which we should aspire to live; it is usually understood as an egualitarian society, one in which all people respect and appreciate each other», v. Shiller, op. cit., 1. Sono tuttavia chiari i riferimenti che vanno alla filosofia di Platone, alla critica sociale di Marx e alle ideologie liberali di Milton Friedman. 3 Nella visione dell’economista, «The democratization of finance […] calls for an improvement in the nature and extend of partecipation in the financial system, including awarness of fundamental information about workings of the system. The public needs to have reliable information, and that can only be provided by advisers, legal rapresentatives, and educators who see their role as one of promoting enlightened stewardship», Shiller, op. cit., 235. 4 Così nelle parole dell’Autore, «The democratization of finance works hand in hand with the humanization of finance. To that extent it is important that finance be human, and that it incorporate our increasingly sophisticated understanding of the human mind into its system, models, and predictions», Shiller, op. cit., passim. 5 Il dato è riportato su varie fonti, tra cui Carlini, Incontro ravvicinato con il robot-trader, in Il Sole 24 Ore, 3 gennaio 2016. 6 I dati sono frutto delle ricerche condotte annualmente dalla banca di investimento americana JP Morgan, Electronic Trade Trends for 2018, reperibile all’indirizzo web (https://www.jpmorgan. com/global/cib/2018-etrading-trends). 7 Il Financial Stability Board definisce il processo di FinTech come «technologically enabled financial innovation that could result in new business models, applications, processes, or products with an associated material effect on financial markets and institutions and the provision of financial services», v. FSB, Artificial Intelligence and machine learning in financial services, 1 novembre 2017, disponibile all’indirizzo (https://www.fsb.org/wp-content/uploads/P011117.pdf ). La stessa Banca Centrale Europea sottolinea le difficoltà di fornire una definizione precisa del concetto di FinTech, trattandosi di «an umbrella term encompassing a wide variety of business models», in ECB, Guide to Assessments Agoritmi e contratti nel sistema finanziario A prima vista dunque, la prospettiva di evoluzione del sistema appare ormai prossima ad isolare l’elemento decisionale affidato all’autonomia dell’essere umano, per delegare alla macchina funzioni cognitive avanzate, in un sistema che appare sempre più lontano dalla logica del “be human”. Un esempio che esalta gli effetti di un disallineamento incontrollato dei processi decisionali automatizzati dalla componente umana, ha suscitato una notevole attenzione di cronaca. Uno dei più gravi crolli registrati dell’indice Dow Jones nella borsa di Wall Street (di più del 9% nell’arco di pochi minuti)8 è stato difatti attribuito all’interazione istantanea fra software di High Frequency Trade9 che, per l’effetto di un singolo ordine di acquisto di futures, hanno reagito vendendosi reciprocamente e ripetutamente titoli, producendo un improvviso ed acuto ribasso del loro valore (fenomeno soprannominato di hot potato trade)10. Tali meccaniche di negoziazione testimoniano con evidenza l’inopportunità di un affidamento incondizionato ed acritico all’effetto taumaturgico dell’algoritmo, quale risposta unitaria alla crisi di certezza che affligge il mondo del diritto dei privati e delle transazioni commerciali nel settore della finanza. Occorre altresì non cadere nell’errore di contrapporre il concetto di umanizzazione a quello di applicazione dei meccanismi propri dell’intelligenza artificiale. Al contrario, è proprio nel tentativo di mimesi del processo cognitivo dell’essere umano che si individua la caratteristica funzionale dei sistemi che facciano uso dell’intelligenza artificiale. Se ciò è vero, una volta assunta la consapevolezza del ruolo dell’automazione e dei benefici che essa produce nel settore in esame11, il perseguimento dell’obiettivo di of FinTech Credit Institution Licence Applications, settembre 2017, disponibile all’indirizzo (https:// www.bankingsupervision.europa.eu/ecb/pub/pdf/ssm.201803_guide_assessment_fintech_credit_ inst_licensing.en.pdf ). Concorde invece la letteratura sul tema, nell’individuare nelle imprese di FinTech, non una «nuova industria, bensì […] una nuova componente dell’industria finanziaria, che mette in discussione i business model tradizionalmente adottati dai cosiddetti incumbent, ovvero dagli intermediari finanziari assoggettati a regole di vigilanza», cfr. Schema, Tanda, Arlotta, Potenza, Lo sviluppo del FinTech. Opportunità e rischi per l’industria finanziaria nell’era digitale, in D’Agostino, Munafò, (a cura di), in Quaderni FinTech Consob, 1° marzo 2018. 8 Un approccio particolarmente critico nella ricostruzione degli eventi che hanno condotto all’episodio del Flash Crash è quello di Lewis, Flash Boys. A Wall Street Revolt¸ W.W. Norton, 2014. 9 “High Frequency Trade” è definito dalla direttiva MiFID II come «un sistema di negoziazione [che] analizza dati o segnali del mercato a velocità elevata per poi inviare o aggiornare un gran numero di ordini entro un tempo brevissimo in risposta all’analisi» (considerando n. 61, Dir. 2014/65/UE). Si tratta in sostanza di una species di negoziazione algoritmica, impiegata soprattutto con finalità di market making o di arbitraggio, v. Perrone, Il diritto del mercato dei capitali, Giuffrè, 2016, 272. Per un contributo più ampio e tecnico del fenomeno si veda, Puorro, High Frequency Trading: una panoramica, in Questioni di Economia e Finanza. Occasional Paper, Banca d’Italia, 2013; Alvaro-Ventoruzzo, “High Frequency Trading”: note per una discussione, in Banca, impresa e società, 2016, 416 ss.. 10 Il funzionamento di questi sistemi è ben descritto in R. Romano, Intelligenza artificiale, decisioni e responsabilità in ambito finanziario: snodi problematici, in Finocchiaro, Falce (a cura di), Fintech: diritti, concorrenza, regole. Le operazioni di finanziamento tecnologico, Zanichelli, 2019, 323, “I titoli acquistati sui mercati finanziari vengono trattenuti per frazioni di tempo minime e subito rivenduti senza attendere ulteriori possibili incrementi di valore dovuti al decorso del tempo, poiché è la massa degli stessi – e non il passare del tempo – che produce valore”. 11 Consapevolezza che non sembra essere estranea neppure al più volte citato Autore, quando 251 252 Federico Pistelli inclusione non può che passare dalla necessaria interazione fra intelligenza naturale ed intelligenza artificiale. L’instaurazione di un siffatto dialogo appare, in concreto, imprescindibile, specie in ambito di esercizio dell’autonomia negoziale, allo scopo di scongiurare i rischi derivanti dall’apparente obiettività dell’algoritmo12. Ebbene, il paper, dopo un primo inquadramento sul ruolo attuale dell’applicazione della decisione algoritmica quale risposta ad una crisi generalizzata di certezza e ad un bisogno di effettività (§ 2), si occuperà di guardare al contesto specifico del contratto (§ 3), allo scopo di capire come le diverse fasi della formazione (§ 3.1.), della determinazione del contenuto (§ 3.2.), della sua conclusione e dell’esecuzione (§ 3.3.), siano investite dal ricorso a sistemi di intelligenza artificiale e di come muti, di conseguenza, l’approccio ed il ragionamento giuridico. Dopo aver dato conto delle diverse forme in cui si articola l’interazione fra intelligenza umana e intelligenza artificiale, verranno sollevati interrogativi e prospettive future del fenomeno del machine learning, alla luce della capacità espansiva di questi sistemi e al problema della riferibilità dell’interesse negoziale sotteso al contratto (§ 4). 2. La decisione algoritmica nella sfida della certezza e dell’effettività: la codificazione del diritto. Dovendo definire il concetto di algoritmo con un’espressione essenziale e – se si vuole – un po’ semplificante, si potrebbe parlare di un processo diretto alla risoluzione di un problema pratico13. Esso si articola in una sequenza di istruzioni elementari, che prescrivono un numero finito di azioni o di passaggi da eseguire, per arrivare ad un determinato risultato; in senso figurativo, l’algoritmo «suddivide un problema in sotto-problemi afferma «But the advance in our economic institutions may ultimately be more important than those in our hardware and software. The financial system is itself an information-processing system – one built out of human, rather than electroni, units – and the field of artificial intelligence is nowhere close to replacing human intelligence», Shiller, op. cit., 239. 12 «People expected AI to be unbiased; that’s just wrong. If the underlying data reflects stereotypes, or if you train AI from human culture, you will find these things», a conferma degli studi condotti dalla ricercatrice dell’Università di Bath Johanna Bryson, sulla discriminazione di genere dell’algoritmo nell’ambito lavorativo, riportato nell’articolo “Rise of the racist robots – how AI is learning all our worst impulses”, a firma Stephen Buranyi, The Guardian, Agosto 2017 (https://www.theguardian. com/inequality/2017/aug/08/rise-of-the-racist-robots-how-ai-is-learning-all-our-worst-impulses). Per una rassegna sulla casistica della non obiettività degli algoritmi nei diversi ambiti di applicazione, si veda anche O’Neil, Weapons of Math Destruction. How big data increases inequality and threatens democracy, Crown Pub, 2016, nonché Noble, Algorithms of oppression, New York University Press, 2018. 13 Sulla tematica dell’algoritmo, sul suo ruolo nell’informatica e sulle applicazioni nel mondo del diritto, riferimenti, di carattere non esaustivo vanno ai lavori di, Zellini, La dittatura del calcolo, Adelphi, 2018; Domingos, The master algorithm, Basic, 2015; Pagallo, The laws of robot. Crimes, contracts and torts, Springer, 2013; Chopra, White, A legal theory for autonomous artificial intelligence, University of Michigan Press, 2011; Harel, Feldman, Algoritmi. Lo spirito dell’informatica, ed. Italiana, Springer, 2008; Wellman, Autonomous Bidding Agent. Strategies and lessons from trading agent competition, The MIT Press, 2007. Agoritmi e contratti nel sistema finanziario di dimensione più piccola e analoghi all’originale»14. Ogni segmento di questo processo, della sequenza di operazioni da condurre, è contraddistinto da due caratteri inscindibili, quali i) la predeterminazione, ad ogni passaggio, di quello successivo e ii) l’effettività, intesa come tensione verso un risultato concreto e realmente utile15. A livello logico, la costruzione dell’algoritmo parte dunque dalla delimitazione di un problema e dall’identificazione delle singole azioni richieste per arrivare ad una determinata soluzione. I dati inseriti in input sono pertanto elaborati attraverso le istruzioni assegnate a quel processo, per fornire una corrispondente risposta in output. Gran parte delle azioni della vita quotidiana, a ben vedere, sono regolate da processi logici che consentono alla mente umana di identificare un determinato risultato da raggiungere, ponendo in essere in via sequenziale tutte le operazioni necessarie a tal fine16. Al pari della mente umana, il calcolatore elettronico è in grado di riprodurre questo processo, traducendolo in formule matematiche, automatizzando i singoli passaggi in cui si articola e generalizzando i risultati raggiunti per problemi di natura analoga. Lo sviluppo dell’algoritmo prende piede nel contesto storico di fine ’800 con la messa in discussione dei fondamenti teorici della matematica17 ed offre una Zellini, op. cit., 29. In questo senso, si veda Post, Recursively Enumerable Sets of Positive Integers and their Decision Problems, in Bulletin of the American Mathematical Society, 50, 5, 1944; Roberts, Thinking recursively, John Wiley & Sons, 1986. 16 Un esempio ricorrente di applicazione del processo algoritmico nella vita di tutti i giorni è quello della preparazione di una ricetta o, più semplicemente, di un caffè. Quelli che, nella mente umana, sembrano difatti processi automatici, sono suscettibili di essere scomposti in una serie di passaggi elementari, diretti allo scopo finale. Semplificando ed ipotizzando che il processo dovesse essere messo in atto da una macchina, potrebbe essere dettato nel modo seguente: svitare la caffettiera – riempire la base con dell’acqua fino all’indicatore – inserire il filtro – riempire il filtro con caffè macinato – avvitare le due parti – accendere il fornello – collocarvi la moka – attendere l’uscita del caffè – spegnere il fornello. Ciascuno di questi momenti, affinché conduca al risultato della preparazione del caffè, deve dunque essere caratterizzato dalla concreta eseguibilità, dalla non ambiguità e dalla finitezza delle singole istruzioni impartite alla macchina. 17 Il discorso sui fondamenti della matematica e sulla crisi della certezza si muove a metà strada fra il dato filosofico ed epistemologico. Sotto questo primo aspetto, alla matematica è stato da sempre riconosciuto un ruolo di conoscenza certa e garantita, fino al momento in cui l’analisi filosofica ha messo in discussione taluni assunti, spesso legati all’emergere di nuove scoperte (quali, ad esempio, quella dei numeri irrazionali, dell’uso degli infinitesimi, dei calcoli delle serie infinite e, per l’appunto, lo studio degli insiemi infiniti alla fine dell’Ottocento). Tali periodi sono stati definiti di crisi dei fondamenti della matematica e hanno condotto alla necessità di una riaffermazione della fiducia nella certezza dei suoi principi per il tramite di un loro ripensamento. La fine dell’Ottocento si è però contraddistinta come un momento di vera e propria rivoluzione nella concezione della natura stessa della matematica e, allo stesso tempo, come fase di maggior progresso di questa scienza di tutta la sua storia, sulla convinzione che l’uso della logica fosse il procedimento corretto per la ricerca dei fondamenti della matematica. Del dibattito sui fondamenti, ne discorre in dettaglio, Lolli, La questione dei fondamenti tra matematica e filosofia, in Albeverio, Minazzi (a cura di), Matematica e filosofia, in Note di Matematica, Storia, Cultura, 2006, 17-35, nonché Id., Logica e ragionamento giuridico, in Comandè, Ponzanelli (a cura di), Scienza e diritto nel prisma del diritto comparato, Giappichelli, 2004, 103-123. Per un inquadramento del tema si veda inoltre, Shapiro, Thinking about mathematics: the philosophy of mathematics, OUP Oxford, 2001; Dedekind, Was sind und was sollen die Zahlen?, Franklin Classics Trade Press, 2018 (ristampa 1888), edito in Italia da Zanichelli, 14 15 253 254 Federico Pistelli prospettiva di interpretazione che lo eleva a strumento ordinante della realtà, solido presidio di certezza di fronte all’incedere della crisi. La razionalità, l’obiettività e la finitezza del processo di enumerazione rendono difatti possibile scomporre la realtà in unità semplici per poi giungere ad una ricostruzione espressa attraverso una formula compiuta. Se nel linguaggio della matematica, dunque, l’algoritmo ha rappresentato la chiave di volta per risolvere le contraddizioni della teoria degli insiemi infiniti attraverso un processo di calcolo di funzione per passi finiti e successivi, anche il ragionamento giuridico ne ha ben presto saputo cogliere il valore. D’altra parte, il legame fra lessico giuridico e processo risolutivo algoritmico si coglie anche nell’utilizzo di due termini comuni ad entrambe le scienze: “certezza”18 e “effettività”19. Il diritto vive oggi un momento di profonda crisi delle logiche tradizionali della fattispecie e della regola generale ed astratta, in un contesto di tensione verso la calcolabilità quale strumento di razionalità economica. Allo stesso modo in cui la matematica, espressione di una pretesa di ricondurre la realtà a formule dominandola attraverso il calcolo, il diritto vuole governare l’im-prevedibile, vuole conquistare il futuro, prescrivendo delle disposizioni che guidino la condotta dell’individuo attraverso regole predeterminate e certe. Non pare dunque così azzardato intravedere i primi segni di una nuova era di codificazione del diritto, intesa come recupero di una dimensione di normatività espressa nel linguaggio dei codici20. Essenza e significato dei numeri, 1926. 18 La crisi della certezza del diritto e le sue conseguenze sul sistema del diritto civile emerge con evidenza negli studi di Irti, Un diritto incalcolabile, Giappichelli, 2016; Denozza, In viaggio verso un mondo re-incantato? Il crepuscolo della razionalità formale nel diritto neoliberale, in Oss. dir. civ. comm., 2016, 419; Nivarra, Dalla crisi all’eclissi: ovvero da un paradigma all’altro, in Europa dir. priv. 2017, 801. L’impostazione classica sul tema della certezza vede un riferimento imprescindibile alle pagine di Lopez De Oñate, La certezza del diritto, rist. postuma, Astuti (a cura di), Gismondi, 1950; nonché Weber, Economia e società, II, University of California Press, 1974. 19 Il tema della effettività, specie come connotazione nella costruzione dei rimedi, risulta particolarmente cara nei dibattiti della civilistica attuale. In proposito si veda, Di Majo, Tutela (dir. priv.), in Enc. dir., XLV, 1992, 360; Proto Pisani,Il principio di effettività nel processo civile italiano, in Giusto proc. civ., 2014, 828; Pagni, Tutela specifica e tutela per equivalente. Situazioni soggettive e rimedi nelle dinamiche dell’impresa, del mercato, del rapporto di lavoro e dell’attività amministrativa, Giuffrè, 2004; Oriani, Il principio di effettività della tutela giurisdizionale, Ed. Scientifica, 2008; Vettori, Giustizia e rimedi nel diritto europeo dei contratti, in Eur. dir. priv., 2006, 53, ora in Diritto privato e ordinamento comunitario, Giuffrè, 2009, 224 ss.; Scalisi, Giustizia contrattuale e rimedi: fondamento e limiti di un controverso principio, in Il contratto in trasformazione, Giuffrè, 2011, 337; P. Perlingieri, Il ‘giusto rimedio’ nel diritto civile, in Il giusto proc. civ., 2011, 1; Dalfino, Accesso alla giustizia, principio di effettività e adeguatezza della tutela giurisdizionale, in RTDC, 2014, 907; Pagliantini, Diritto giurisprudenziale e principio di effettività, in Pers. merc., 2015, 112; Imbruglia, Effettività della tutela e poteri del giudice, in RTDC, 2017, 961; Vettori, Contratto giusto e rimedi effettivi, in RTDPC, 2017, 787; Id., Effettività delle tutele (diritto civile), in Enc. dir., Ann. X, 2017, 381. 20 Il principio è efficacemente espresso dalla ormai ben nota affermazione “code is law”, nella misura in cui il codice informatico non ha la pretesa di sostituire l’efficacia ordinante del diritto, bensì costituisce uno dei molteplici fattori di produzione di influenza “normativa” sul comportamento degli individui. In questo senso, Reidenberg, Lex informatica: the formulation of information policy Agoritmi e contratti nel sistema finanziario Sullo sfondo di questo parallelismo fra crisi del diritto e crisi della matematica, l’algoritmo si offre come risposta naturale alle istanze di certezza e di prevedibilità, sulla base di una logica predeterminata ed espressa attraverso passaggi elementari progressivi. Le proposizioni attraverso le quali si articola il ragionamento giuridico vengono dunque isolate, tradotte nel linguaggio dell’informatica e ricondotte alla logica paradigmatica del “if….then”: parafrasando il noto brocardo latino (“da mihi factum, dabo tibi ius”), “narrami il fatto attraverso il linguaggio degli algoritmi, ti darò una soluzione giuridica certa ed effettiva”21. 3. Algoritmo e contratto. Il contratto costituisce l’espressione più genuina della razionalità economica22. La razionalità dell’azione è propria dell’individuo in grado di calcolare in via preventiva ed ipotetica le conseguenze positive e negative del proprio agire, allo scopo del conseguimento del miglior risultato. Ogni comportamento umano sul mercato si giustifica in ragione di questa spinta di “razionalità”. Questo concetto è alla base del sistema del capitalismo economico che, come tale, «ha bisogno di un diritto che si possa calcolare in modo simile ad una macchina»23. Questa immagine cara al noto sociologo tedesco però, secondo le riflessioni di Natalino Irti, «appartiene al passato»24, perché si fonda sull’assunto per cui i fatti e le diverse situazioni della vita sono riconducibili alla dimensione del caso, che si confronta inevitabilmente con l’applicazione di una legge o di un criterio già predisposto. Irti guarda ad un mondo in cui, il ragionare per valori e la progressiva erosione dell’intangibilità del regolamento contrattuale per il tramite delle clausole generali e l’intervento manutentivo del giudice, mettono in crisi il modello della fattispecie generale ed astratta. Sembra tuttavia che il processo di decisione algoritmica possa dar adito ad un ripensamento di quel «passato» in cui il calcolo e la prevedibilità costituivano strumenti della razionalità economica. Scambi efficienti sul mercato, allocazione sostenibile di risorse e stabilità complessiva del sistema guardano oggi a regolamenti contrattuali che sempre più sfuggono alle dinamiche della negoziazione tradizionale, per abbracciare processi fondati sull’automazione e sulla attribuzione di funzioni rules through technology, in Texas Law Review, 1997-1998, 76, 553; Lessig, Code and other laws of Cyberspace, Basic, 1999; Brown, Marsden, Regulating code, The MIT Press, 2013. 21 Non devono pertanto stupire le affermazioni di chi sostiene che gli algoritmi e, più in generale, le tecnologie che facciano leva sui codici siano allo stesso tempo “regulatable and regulatory technology”, v. Finck, Blockchain. Regulation and governance in Europe, Cambridge University Press, 2019, 66. Il codice d’altronde, nelle parole dell’Autore, altro non è che una delle possibili forme che possono essere assunte dalla legge: «whereas code is increasingly assuming the function of law, law growingly takes the form of code». 22 Imprescindibile appare il riferimento alle pagine di Max Weber sulla «comunità di contratto», ove «il mercato è il luogo dell’agire razionale; il contratto è la forma di codesta razionalità», v. Weber, op. cit., 20. 23 La citazione è particolarmente nota ed è sempre da attribuirsi a Weber, Storia economica: linee di una storia universale dell’economia e della società, Donzelli, 1997, 298. 24 Irti, op. cit., 109. 255 256 Federico Pistelli decisionali a sistemi “intelligenti”, perché in grado di realizzare un assetto di interessi frutto dell’elaborazione di dati ad ampio spettro (cd. Big data). Orbene, il contratto non può che essere l’oggetto privilegiato di queste riflessioni, in quanto frutto di un intreccio complesso fra l’autonomia negoziale delle parti e la cd. cognitive delegation nei confronti degli strumenti dell’intelligenza artificiale, che in vario modo interessano le diverse fasi della contrattazione. L’algoritmo si pone, in sostanza, nel rapporto con questo, come tecnica di gestione della complessità contrattuale, come strumento di una finanza meccanizzata che guarda all’autonomia contrattuale come riferimento, ma che è in grado di dialogare con essa nei diversi momenti della vita del negozio. 3.1. La formazione del contratto. L’impatto del processo algoritmico in ambito contrattuale si apprezza fin dal momento della formazione dell’accordo25. All’algoritmo può essere riconosciuta un’ampia delega nell’attività cognitiva in fase pre-negoziale, a fronte degli alti costi delle trattative, nonché del gap informativo sulla situazione finanziaria del soggetto individuato come controparte contrattuale. L’analisi dei dati individuali provenienti da molteplici fonti e la loro combinazione sul piano aggregato garantisce uno spazio di sempre maggior affidabilità della valutazione condotta dalla macchina sulla probabilità di default del debitore e, conseguentemente, un’allocazione ottimale delle risorse in surplus. In particolare, i meccanismi di accesso al credito bancario hanno da sempre richiesto una preliminare verifica sulle condizioni effettive di meritevolezza di chi intenda accedervi26, intesa come capacità del debitore di sostenere il peso finanzia- Sulla formazione del contratto e sull’accordo, nell’analisi condotta dalla dottrina civilistica, cfr. Trimarchi, Accordo, in Enc. dir., I, 1957, 297; G.B. Ferri, Considerazioni sul problema della formazione del contratto, in RDComm., 1969, I, 193; Roppo, Contratto. II) Formazione del contratto (diritto civile), in EGT, IX, 1988, 1; G. Benedetti, La categoria generale del contratto, in RDC, 1991, I, 652; A.M. Benedetti, Autonomia privata procedimentale. La formazione del contratto fra legge e volontà delle parti, Giappichelli, 2002, 10; Majello, Essenzialità dell’accordo e del suo contenuto, in RDC, 2005, I, 113; Di Majo, Accordo contrattuale e dintorni, in Aa.Vv., Studi in onore di Giuseppe Benedetti, I, Esi, 2008, 563; nonché sul rilievo dell’accordo nelle procedure di conclusione automatizzate del contratto, Irti, Scambi senza accordo, in RTDPC, 1998, 347; Id., “È vero, ma..” (Replica a Giorgio Oppo), in RDC, 1999, I, 273; Oppo, Disumanizzazione del contratto?, in RDC, 1998, I, 525; G. Benedetti, Parola scritta e parola telematica nella conclusione del contratto, in Aa.Vv., Scrittura e diritto, Giuffrè, 2000, 87; Gazzoni, Contratto reale e contratto fisico (ovverosia l’accordo contrattuale sui trampoli), in RDComm., 2002, I, 655. 26 A livello normativo, la disciplina della verifica del merito creditizio è contenuta all’interno di disposizioni speciali e di provvedimenti ministeriali e dell’autorità di vigilanza. In particolare, l’art. 124 bis TUB, secondo cui «prima della conclusione del contratto di credito, il finanziatore valuta il merito creditizio del consumatore sulla base di informazioni adeguate, se del caso fornite dal consumatore stesso e, ove necessario, ottenute consultando una banca dati pertinente». Sulla finalità di questa valutazione, è intervenuto il d.m. 3 febbraio 2011, disponendo che «La verifica del merito creditizio del consumatore è finalizzata ad evitare comportamenti non prudenti e assicurare pratiche responsabili nella concessione del credito» (art. 6). La Banca d’Italia inoltre, con circolare n. 229, Tit. IV, cap. 11, par. 2.1. specificato l’oggetto della valutazione sul merito creditizio disponendo che «Nella fase istrutto25 Agoritmi e contratti nel sistema finanziario rio del contratto, adempiendo regolarmente alla prestazione dovuta. Se tale verifica veniva tradizionalmente condotta in fase pre-negoziale attraverso il confronto diretto con la controparte, l’avvento dell’algoritmo ha radicalmente mutato la funzione di scoring del credito, incidendo a monte sulla decisione relativa alla concessione del finanziamento. Trattasi di un impiego già più risalente del processo algoritmico in questa fase della negoziazione, originariamente concepito ai soli fini di tutela della parte creditrice, per poi diventare uno strumento a vantaggio del debitore stesso27. Ogni potenziale contraente viene così coinvolto in un’attività di profilatura, diretta al processamento dei dati attinenti alla sua sfera personale e finanziaria, al fine di stabilire se esso soddisfi o meno i requisiti di meritevolezza per l’accesso al credito. L’applicazione di questi modelli è però resa oggi più complessa dalla sua interazione con l’information technology e l’apporto derivante dai big data. La comunicazione diretta fra applicazioni con accesso a dati personali ha difatti rivelato che ogni informazioni inerente la vita dell’individuo è potenzialmente in grado di fornire indicazioni sulla sua attitudine e capacità ad adempiere alla propria obbligazione28: le pagine web visitate su motori di ricerca, la geolocalizzazione dell’utente quando si connette al servizio, le attività condivise su social networks consentono alla macchina di elaborare dati aggregati, apprendere dal loro confronto e fornire un riscontro sulla affidabilità della controparte contrattuale29. ria, le banche acquisiscono tutta la documentazione necessaria per effettuare una adeguata valutazione del merito creditizio del prenditore, sotto il profilo patrimoniale e reddituale, e una corretta remunerazione del rischio assunto. La documentazione deve consentire di valutare la coerenza tra importo, forma tecnica e progetto finanziato; essa deve inoltre permettere l’individuazione delle caratteristiche e delle qualità del prenditore, anche alla luce del complesso delle relazioni con lo stesso intrattenute». 27 Le prime applicazioni di queste tecniche sono avvenute attraverso il modello sviluppato dal matematico americano Earl Isaac e dall’ingegnere William Fair, denominato FICO (Fair Isaac Corporation), e diretto a quantificare il rischio di default del richiedente il finanziamento. Tale modello fu introdotto verso la fine degli anni ‘80 e si basa quasi esclusivamente sulla storia creditizia del debitore, rispetto dunque all’adempimento delle proprie precedenti obbligazioni, all’utilizzo delle carte di credito, alla movimentazione dei conti etc. Il modello presenta dunque il vantaggio della trasparenza dei criteri su cui si basa l’algoritmo, esplicitando le modalità attraverso le quali, il debitore può incrementare il proprio scoring per l’accesso al credito. Allo stesso modo, il principale limite del modello è proprio quello di prendere in considerazione esclusivamente i profili legati all’esperienza finanziaria pregressa escludendo, in sostanza, dallo spettro di valutazione, le richieste provenienti da startup e soggetti di nuovo ingresso nel settore del credito. Su questi profili, più diffusamente O’Neil, op. cit., 142. 28 Questo processo di trasformazione dello scoring creditizio viene alimentato dalle start up che fanno uso delle tecniche di machine learning e di controllo incrociato di dati, al fine di trarre informazioni sulla meritevolezza del prenditore di denaro (secondo il celebre motto di Douglas Merrill, fondatore della ZestFinance, “all data is credit data”). 29 Il problema della cd. Black Box nel contesto della decisione algoritmica è stato sintetizzato da Stuart Russel, teorico inglese dell’intelligenza artificiale, in questi termini: «so, if I’m not mistaken, most, if not all of these deep learning approaches, or even more generally machine learning approaches are, essentially black boxes, in which you can’t really inspect how the algorithm is accomplishing what it is accomplishing». L’affidamento alla correttezza della decisione algoritmica è difatti, nella maggior parte dei casi, cieco, in quanto sfugge alla stessa consapevolezza del titolare dei dati, il meccanismo sulla cui base questi siano processati e quale sia il peso attribuito ad essi nella dinamica complessiva della valutazione. 257 258 Federico Pistelli L’ulteriore step si è manifestato poi attraverso l’uso di algoritmi di scoring sulle piattaforme di cd. lending crowdfunding30. Tale modello di negoziazione testimonia in via diretta l’apporto della decisione algoritmica nell’intera fase di formazione del contratto, non limitandosi esclusivamente alla messa a contatto fra due profili astrattamente compatibili (unità in surplus/unità in deficit), ma investendo l’intera dinamica pre-negoziale fino alla sua conclusione. L’algoritmo è difatti in grado di condurre in autonomia la valutazione del merito creditizio e di accedere alle informazioni contenute all’interno dei database condivisi fra gli intermediari, al fine di inquadrare ciascun potenziale contraente all’interno di specifiche classi di rischio, secondo uno schema contrattuale riconducibile, secondo taluno, nel mandato con procura da parte dei singoli utenti31. Ciò vale a dire che le parti sono in grado di concludere un contratto di finanziamento perfettamente valido ed efficace, pur ignorando del tutto l’identità e le caratteristiche della controparte, sulla mera base del matching operato dall’algoritmo. 3.2. La determinazione del contenuto. La valutazione autonoma delle parti non è sempre in grado di cogliere nel dettaglio l’entità ed il contenuto delle prestazioni cui ciascuna di esse intenda vincolarsi. L’assetto negoziale cui esse intendono dar vita è spesso costruito sulla base di obiettivi di massima ed esigenze di carattere generale, la cui traduzione in termini concreti si trova inevitabilmente a scontrarsi con difficoltà sostanziali nella precisazione del contenuto concreto degli obblighi da assumere. Il processo di decisione algoritmica può dunque asservire ad una funzione essenziale, di dar forma e concretezza ai terms specifici del contratto, sulla base degli obiettivi di massima che hanno giustificato l’impulso alla negoziazione. Questo fenomeno viene inquadrato dalla dottrina internazionale nella categoria puramente descrittiva di Self-Driving Contracts o Smart Contracts32: si fa riferimento, Per un inquadramento del fenomeno del peer to peer lending, si veda, Machiavello, La problematica regolazione del lending-based crowdfunding in Italia, in BBTC, 2018, 1, 63; AA.VV., Lo sviluppo del FinTech. Opportunità e rischi per l’industria finanziaria nell’era digitale, Prefazione alla collana dedicata al FinTech, D’Agostino, Munafò (a cura di), in Quaderni FinTech Consob, marzo 2018; Siclari, Sciascia, Innovazione finanziaria e rafforzamento del mercato unico per i servizi finanziari retail: sfide, rischi, risposte della regolazione, in Riv. Trim. Dir. Econ., 2016, 184; Paoloni, Peer to peer lending e innovazione finanziaria, in Finocchiaro, Falce (a cura di), Fintech: diritti, concorrenza, regole, cit., 405 ss.; ancora, in ottica comparata, Alscher, Kolbecher, Ist Deutschlands Mittelstand bereit für FinTech und Online-Kredite? Eine Akzeptanzanalyse zu Peer-to-Business Lending für deutsche KMU, in ZBB/JBB, 2018, 1, 43; Zwach, Peer-to-Peer-Geschäftsmodelle zur Absicherung privater Risiken Eine Exploration am Beispiel Wildschaden, Springer, 2016. 31 È di questa opinione, Macchiavello, op. cit., passim. 32 Sulla figura del self-driving e dello smart contract, Casey Niblett, Self-Driving contracts, 2017, disponibile su SSRN: https://ssrn.com/abstract=2927459; Id., The Death of Rules and Standards, in Indiana Law Journal, 2017, 92, 4,; Raskin, The law and legality of smart contracts, in L. Tech. Rev., 2017, 305. La prima definizione di smart contract viene tradizionalmente attribuita a Szabo, Smart contract: building blocks for digital markets, 1996 (accessibile su http://www.fon.hum.uva.nl/ rob/Courses/InformationInSpeech/CDROM/Literature/LOTwinterschool2006/szabo.best.vwh. 30 Agoritmi e contratti nel sistema finanziario in sostanza, alla fattispecie negoziale in cui, una volta che si siano accordate sugli obiettivi perseguiti attraverso quel regolamento contrattuale, «the parties can rely on the machine to set all other terms of performance»33. La codificazione di un algoritmo consente di superare l’ostacolo della quantificazione della prestazione, poiché è in grado di recepire le istruzioni generali fornite in input dalle parti al fine di generare un ampio spettro di obbligazioni, il cui contenuto varia in funzione delle specifiche contingenze esistenti al momento della sua messa in atto. Questa applicazione delle tecniche di decisione algoritmica trova il proprio luogo di elezione in ambito dell’InsurTech34, e si pone attualmente come il motore di una vera e propria rivoluzione nelle attività di pricing e risk assesment tipiche del settore assicurativo. Da sempre, l’inquadramento del cliente entro classi prestabilite di rischio dipende dall’utilizzo di meccanismi di analisi predittiva che consentono, sulla base delle cd. tecniche attuariali, di condurre calcoli inerenti all’incidenza probabilistica di determinati fattori sulla vita dell’individuo (rischi di incidenti, infortuni, impatto di fattori ambientali etc.), al fine di attribuire ad essi un valore, da tradursi poi, in concreto, nel costo del premio assicurativo: questa analisi, accanto ad una profilatura specifica delle caratteristiche dell’assicurato, fa comunque riferimento a dati aggregati su larga scala. L’applicazione dei processi algoritmici al settore assicurativo delinea, al contrario, un nuovo spazio di affrancamento dal dato aggregato, per ricondurre il contenuto effettivo della polizza ad una dimensione circostanziata sul profilo del singolo cliente (cd. “polizza personalizzata”). La capacità recettiva dell’algoritmo rispetto ai dati immessi in input consente di tradurre gli obiettivi generali dell’assicurato di copertura dal rischio in micro-directives impartite alla macchina, al fine net/smart_contracts_2.html), il quale individua lo smart contract in «a set of promises, specified in digital form, including protocols within which the parties perform on these promises». A livello nazionale, si veda invece, Finocchiaro, Il contratto nell’era dell’intelligenza artificiale, in RTDPC, 2018, 2, 441; Caggiano, Il Contratto nel mondo digitale, in NGCC, 2018, 1152; Di Sabato, Gli smart contracts: robot che gestiscono il rischio contrattuale, in CI, 2017, 378. Vi sono tuttavia voci critiche sulla possibilità di attribuzione della qualifica contrattuale agli smart contract. Taluno sostiene difatti come «These artefacts are neither smart not contracts. Smart contracts are not smart in the AI sense, as they are unable to understand natural language (such as contractual terms) or to independently verify whether an execution-relevant event occurred […] Smart contracts also cannot be qualified as contracts in the legal sense […] As such, these technical artefacts are better defined as an autonomously executing piece of code whose inputs and outputs can include money», Finck, op. cit., 24-25. 33 Casey, Niblett, op. cit., 105. 34 Il Financial Stability Board definisce semplicemente il fenomeno dell’InsurTech, come l’applicazione del FinTech al mercato assicurativo (cfr. FSB, Artificial intelligence and machine learning in financial services. Market developments and financial stability implications, 1 novembre 2017). Sul tema, si fa riferimento ai contributi di Nicoletti, The Future of FinTech Integrating Finance and Technology in Financial Services, Palgrave Macmillan, 2017, nonché Id., Digital Insurance: Business Innovation in the Post-Crisis Era, Palgrave Macmillan, 2014; Mcfall, Moor, Who, or what, is insurtech personalizing?: persons, prices and the historical classifications of risk, in Journal of Social Theory, 2018, 19, 2, 193; Camedda, La digitalizzazione del mercato assicurativo: il caso della Digital Health Insurance, in Riv. dir. banc., 53, 2018. 259 260 Federico Pistelli di determinare il valore effettivo delle prestazioni che meglio realizzino una sintesi degli interessi delle parti. In ambito di assicurazione sanitaria, queste tecniche conoscono già oggi un’ampia diffusione nel settore del cd. “Digital Healt Insurance” (polizze legate all’utilizzo di tecnologie digitali), mediante l’uso di devices e activity trackers in grado di captare i dati relativi alla salute e alle attività dell’assicurato per tradurle in automatico nel contenuto vero e proprio della polizza andando, di conseguenza, ad incidere direttamente sul prezzo, sul rinnovo e sul contenuto delle prestazioni dovute35. Il monitoraggio costante delle funzioni vitali favorisce, da un lato, il riequilibrio del gap informativo che fisiologicamente sussiste fra assicuratore ed assicurato; dall’altro, restituisce un metodo di calcolo, volto al costante aggiornamento del prezzo della polizza in relazione alla riclassificazione del profilo di rischio del cliente. L’utilizzo di un siffatto approccio, dinamico e prospettico, consente di modulare il contenuto contrattuale alla luce delle esigenze della persona, in linea con il proposito di orientare l’offerta di servizi al cd. modello customer based. 3.3. La conclusione e l’esecuzione del programma negoziale. L’applicazione ad oggi più diffusa del processo algoritmico alle tecniche di negoziazione del contratto è senz’altro quella realizzata in fase di conclusione dell’accordo e della messa in atto in sede di esecuzione36. Ad emergere, è un momento di interazione forte fra intelligenza artificiale e autonomia dei contraenti, nel quale viene riconosciuto alla macchina un ruolo centrale nella definizione delle modalità e dei tempi di svolgimento dell’attività negoziale. La caratteristica essenziale dell’impiego di questi meccanismi è costituita dall’ampio spazio riconosciuto al compimento di scelte autonome e dell’assenza dell’intervento umano nella dinamica classica dello scambio proposta/accettazione ai fini della conclusione del negozio. Ciò sta a significare che, sulla base dell’intelaiatura di programmazione, l’algoritmo è in grado di recepire gli input provenienti dall’esterno (“if something happens…”), per ottimizzare il risultato ottenuto in output sulla base dell’interesse di cui ciascuna parte è portatrice (“…then buy or sell”). L’accordo viene ad essere concepito in una dinamica composita e a formazione progressiva: nasce come impulso alla contrattazione dell’individuo, ma abbisogna, per perfezionarsi, di un momento di integrazione con l’autonomia decisionale dell’intelligenza artificiale37. La macchina non presta un’attività di mero carattere L’applicazione di tecniche analoghe è diffusa anche nel settore dell’assicurazione RC Auto, attraverso l’installazione sulla vettura di dispositivi quali la scatola nera (“Black Box”), in grado di monitorare l’attività di guida, tenendo conto delle abitudini, delle tecniche e della condotta tenuta dal conducente, al fine di rimodulare l’entità della polizza, offrendo diminuzioni nell’importo del prezzo in conseguenza di comportamenti diretti ad evitare rischi nella circolazione. 36 Entrambi questi momenti della vita del negozio sono messi in evidenza e distinti dalla definizione data dall’ESMA (European Securities and Markets Authority, Final Report, 19 dicembre 2014, ESMA/2014/1569) di sistemi di algorithmic trade: «Algorithmic trading refers not only to the generation of orders but also to the optimisation of order-execution processes by automated means once the buy-and-sell decisions have been made by automated means or not. Therefore, algorithmic trading may still take place when the trading decision has been made by a person». 37 Una nota dottrina americana dei primi anni ‘70 è stata artefice di una distinzione, con un im35 Agoritmi e contratti nel sistema finanziario esecutivo, poiché si determina un consistente ampliamento della componente di automazione del processo decisionale. Il riscontro più evidente di questo processo di affrancamento della macchina dall’elemento volitivo che fa capo all’essere umano è dato dall’enorme diffusione del fenomeno della negoziazione algoritmica (anche Algorithmic Trade)38. L’evoluzione tecnologica ha investito in modo dirompente l’universo dell’intermediazione mobiliare, traducendosi in un utilizzo su larga scala dei processi decisionali algoritmici nell’immissione e nella gestione degli ordini di investimento sui mercati. La diffusione di questi meccanismi, pur essendosi affermata rapidamente nell’arco di poco più di un decennio, ha conosciuto alcuni step intermedi. Le prime forme di applicazione degli algoritmi informatici sono state colte dall’autorità di vigilanza sui mercati già nei primi anni duemila, ove il fenomeno veniva inquadrato non in ottica di un nuovo servizio di investimento, quanto di una peculiare modalità esecutiva39: la macchina, secondo la comunicazione Consob, co- portante seguito in letteratura, fra i beni destinati al consumo. Nello studio sull’incidenza dell’informazione sui comportamenti del consumatore fu tracciata una prima linea di distinguo tra ordinary goods, search goods e experience goods, a seconda del diverso impatto che l’informazione produce sulla valutazione circa la qualità e le caratteristiche del prodotto. Nel primo caso, è il prezzo a determinare un’informazione sufficiente per il consumatore circa la qualità e l’efficienza che quel bene è idoneo a garantirgli. La differenza sostanziale che corre fra le altre due categorie si muove, invece, sul piano della reperibilità di informazioni sulle caratteristiche del prodotto prima del suo acquisto: esistono difatti prodotti per i quali una ricerca è in grado di guidare la scelta del consumatore in virtù della piena comparabilità fra i diversi beni, mentre per altri la qualità e l’efficienza possono essere saggiate solo a seguito dell’avvenuto acquisto. Questa originaria tripartizione è però stata arricchita dall’aggiunta di una ulteriore tipologia di beni per i quali, nemmeno a seguito dell’avvenuto consumo del prodotto o del servizio, risulta possibile valutarne a pieno le qualità e l’idoneità a soddisfare l’interesse di chi lo acquisti. Si parla, in proposito, di credence goods per sottolineare la centralità della componente della fiducia nei confronti dell’erogatore del servizio, il quale “knows more about the type of good or service the consumer needs, than the consumer himself”. L’elemento determinante che qualifica questa tipologia di beni è il fatto che il consumatore sia portatore di un’esigenza specifica, ma non sia comunque in grado di valutare quale sia il mezzo più appropriato per la sua soddisfazione. In questo contesto, la completa informazione sul prezzo, sulla struttura e sulle caratteristiche del prodotto può non esser sufficiente per compiere una valuta-zione consapevole, rendendosi dunque necessario affidarsi alla figura di un esperto che sappia evita-re un undertreatment o un overtreatment dell’esigenza del consumatore. Per un inquadramento sul tema, Dulleck, Kerschbamer, Sutter, The Economics of Credence Goods: An Experiment on the Role of Liability, Verifiability, Reputation, and Competition, in American Economic Review, 2011, 101, 530. 38 Per una prima lettura sul tema della negoziazione algoritmica, si veda Caracino, Negoziazione algoritmica e mirror trading: dinamiche operative e qualificazioni giuridiche, in Approfondimenti di Diritto Bancario, 2015 (disponibile su http://www.dirittobancario.it/approfondimenti/finanza/ negoziazione-algoritmica-e-mirror-trading-dinamiche-operative-e-qualificazioni-giuridiche); Torino, La commercializzazione via internet di servizi di investimento e strumenti finanziari e il trading on line, in Aa.Vv., I contratti del mercato finanziario, 2011, 626; D’ettore, Ortino, Trading on line: la qualificazione giuridica del rapporto tra l’investitore e l’intermediario. L’interazione con i terzi e l’iniziativa individuale dell’investitore, in Economia e diritto del terziario, 2002, 814; Capriglione, Information technology e attività finanziaria, in Economia e diritto del terziario, 2001, 55; Benedetto, Miglioli, Trading on-line. Guida operativa all’investimento in rete, in Il Sole 24 Ore, 2000. 39 Cfr. Comunicazione CONSOB, 21 aprile 2000, n. D/I 30396 sul Trading online e regole di comportamento (http://www.consob.it/documents/46180/46181/30396.pdf/0015ff03-1a- 261 262 Federico Pistelli stituisce esclusivamente uno strumento di trasmissione dell’impulso alla negoziazione, ma non può comunque prescindere da un momento di dialogo fra esseri umani. Col tempo e la progressiva emersione di nuovi spazi di automazione nella gestione dei servizi di investimento, il mercato ha però presto recepito un uso ben più ampio di sistemi di negoziazione automatizzata ad alta frequenza, forte anche di un tessuto normativo a livello europeo che ne ha favorito lo sviluppo40. Il processo è stato poi condotto alle sue conseguenze più estreme, nel momento in cui la dimensione della conclusione del contratto e della sua esecuzione sono state del tutto sottratte all’intervento autonomo delle parti, per ascriversi interamente al “dialogo” fra elaboratori. Il passaggio è certificato da un noto parere finale con cui l’ESMA41 sottolinea che il profilo della completa automazione costituisca un elemento caratterizzante la negoziazione algoritmica, tale per cui il sistema mantiene una totale autonomia decisionale in ogni fase della contrattazione, dall’invio, alla trasmissione, all’esecuzione nonché all’interruzione dell’investimento. Gli stessi regolamenti delegati dell’Unione Europea42 individuano, nella piena capacità di operare in assenza dell’intervento umano, il tratto distintivo del sistema di High Frequency Trade rispetto ad altre fattispecie di interazione dell’attività giuridica umana con il mondo delle tecnologie. L’algoritmo costituisce dunque l’elemento centrale della dinamica della negoziazione di strumenti finanziari sul mercato in quanto in grado, attraverso l’analisi del contesto dei prezzi e dei volumi delle transazioni condotte in un determinato arco temporale, di porre in atto una strategia di acquisto e vendita non statica, bensì reattiva al mutare delle condizioni di mercato nel corso di esecuzione del contratto. eb-4220-af22-9635feb4eade). Nel focalizzare l’attenzione sul rispetto delle regole di comportamento, l’Authority sottolinea come il loro rispetto nel contesto nella prestazione di servizi di investimento non venga meno «se l’impresa si avvale di internet per lo svolgimento dell’attività di intermediazione. Semplicemente, tali regole potranno richiedere modalità di adempimento specifiche in ragione della particolare natura tecnica del mezzo di contatto con la clientela utilizzato». 40 In questo senso, si veda Caracino, op. cit., secondo cui lo sviluppo e la diffusione dei meccanismi di negoziazione algoritmica deve essere individuato nella i) «rimozione dell’obbligo di concentrazione degli scambi azionari sui mercati regolamentati» e ii) «nella introduzione dell’obbligo di esecuzione degli ordini dei clienti alle migliori condizioni praticabili (cd. best execution)». 41 European Securities and Markets Authority, Final Report, 19 dicembre 2014, ESMA/2014/1569 (https://www.esma.europa.eu/sites/default/files/library/2015/11/2014-1569_final_report_-_ esmas_technical_advice_to_the_commission_on_mifid_ii_and_mifir.pdf ). 42 Cfr. Regolamento delegato UE 2017/589, 19 luglio 2016, Commissione Europea, di integrazione della direttiva 2014/65/UE, sulle norme tecniche di regolamentazione per specificare i requisiti organizzativi delle imprese di investimento che effettuano la negoziazione algoritmica, secondo cui «Gli algoritmi di decisione sugli investimenti prendono decisioni automatizzate di negoziazione stabilendo quali strumenti finanziari acquistare o vendere. Gli algoritmi di esecuzione degli ordini ottimizzano il processo di esecuzione degli ordini mediante la generazione e la trasmissione automatizzate degli ordini o delle quotazioni ad una o più sedi di negoziazione, una volta che la decisione di investimento è stata presa. Tra gli algoritmi di negoziazione è opportuno distinguere gli algoritmi di decisione sugli investimenti dagli algoritmi di esecuzione, dato il loro rispettivo potenziale impatto sul funzionamento corretto e ordinato dei mercati» (considerando 5). Agoritmi e contratti nel sistema finanziario 4. Algoritmi e riferibilità dell’interesse negoziale. Le ipotesi cui si è cercato di dar conto evidenziano come elemento comune il ruolo di una macchina che , lungi dal presentarsi come mero strumento di trasmissione di volontà, entra in prima persona nel processo di formazione della volontà negoziale e del contenuto del contratto. Pur tuttavia, il centro di imputazione di interessi sotteso al contratto rimane quello proprio dell’essere umano. La macchina, in sostanza, interviene in più fasi della dinamica della negoziazione contrattuale, ma presuppone pur sempre l’utilizzo di schema negoziali (quello del prestito, dell’assicurazione per i rischi, dell’investimento finanziario etc.) ed un impulso alla negoziazione riconducibile alla razionalità propria dell’essere umano. Sebbene lontano da una logica di identificazione del mezzo informatico quale mere tool, l’intervento dell’algoritmo nella dinamica negoziale non può che confrontarsi, anche nelle forme di applicazione appena esaminate, in un momento di dialogo e di interazione con l’intelligenza naturale dell’essere umano43. Quanto è però suscettibile di variare, lo scenario appena descritto, alla luce dell’espansione della componente di apprendimento dell’autonoma e del fenomeno, più ampio, del cd. “machine learning”?44 Si assiste sempre più di frequente a dinamiche nelle quali, la sequenza di azioni seguite dalla macchina per la risoluzione di un problema pratico – secondo la definizione cui abbiamo dato conto in apertura del § 2. – si ottimizza e si perfeziona al punto tale da poter prescindere da un qualsivoglia intervento umano. Ciò in considerazione di un meccanismo che fa dell’interazione tra algoritmi stessi la base del processo di apprendimento. Viene definito infatti come “deep learning”, quel fenomeno di comunicazione e coesistenza di algoritmi su più livelli, capaci di creare delle vere e proprie strutture di reti neurali artificiali (cd. “artificial neural network”) in grado di formulare concetti astratti partendo da dati esperienziali. Il sistema è così capace di effettuare delle predizioni sui potenziali assetti di interessi dell’essere umano, nonché di agire direttamente per adottare lo schema negoziale che, di volta in volta, meglio realizzi una sintesi fra essi. Vi è dunque il timore che i meccanismi di apprendimento della macchina, spinti ai loro massimi estremi, possano capovolgere il piano di riferibilità degli interessi sottesi al contratto, rendendo l’uomo strumento della macchina. Spieghiamolo in dettaglio. Ogni interazione fra attività umana ed intelligenza artificiale, nel compimento di una qualunque transazione commerciale (dall’acquisto di un bene di consumo, all’investimento su di un pacchetto azionario, alla scelta di una polizza infortuni), si realizza su un duplice livello. «As everywhere, code is simply a human tool, used to express the objectives and beliefs of those who operate it. […] Yet those trusting the system in question don’t, ultimately, trust numbers and mathematics but, rather, the humans behind them», v. Finck, op. cit., 182. 44 Sul fenomeno del machine learning, Alpaydin, Machine learning, The MIT Press, 2016; Baldi, Brunak, Bach, Bioinformatics: the machine learning approach, Bradford Books, 2001; Sutton, Barto, Reinforcement learning: an introduction, Bradford Books, 1998. 43 263 264 Federico Pistelli Da un lato, l’utente/contraente ottiene dalla macchina una risposta in relazione ad un bisogno specifico, che si concretizza poi nella effettiva individuazione del bene o del servizio che meglio si confà all’interesse da questi espresso, con conseguente conclusione ed esecuzione del negozio funzionale al suo acquisto. Dall’altro lato, scorre in parallelo un secondo flusso informativo che procede sempre dall’utente alla macchina e ha ad oggetto un dato inerente alla sfera personale, alle esigenze specifiche e alle preferenze dell’individuo; questo flusso gioca un ruolo essenziale nella dinamica di apprendimento dell’automa intelligente. In altre parole, ogni interazione con una macchina è sorretta, alla base, da un processo di scambio di informazioni su più strati45. Se ciò è vero, l’impiego del processo algoritmico, abbinato a tecniche predittive e di apprendimento, agevola un ribaltamento dell’ottica di riferibilità degli interessi, consentendo all’intelligenza artificiale di predire e, di conseguenza, influenzare l’ipotetico interesse cui sarebbe astrattamente portatore il contraente. Il prodotto o il servizio verrebbero pertanto ad essere confezionati non in conseguenza di un interesse effettivo e concreto dell’individuo alla contrattazione, quanto sulla base di un calcolo che ne anticipi e ne indirizzi l’emersione, coniugando dati storici ed esperienziali con l’inquadramento della persona nell’ambito di categorie più ampie di individui. Quanto diviene agevole, a questo proposito, tracciare una linea di confine tra un atto di semplice interazione fra autonomia contrattuale ed intelligenza artificiale ed uno in cui quest’ultima si sovrapponga e conformi l’interesse delle parti, sostituendosi ad esse nella definizione di un regolamento contrattuale efficiente? Il processo di decisione algoritmica ha dunque un carattere solo apparentemente inclusivo. Se pare essenziale, da un lato, il recupero di una dimensione di regolazione del contratto, dei profili di responsabilità, del trattamento e della condivisione di dati, dall’altro, l’autonomia negoziale dell’essere umano nel settore finanziario non può comunque prescindere da un intervento consapevole dell’essere umano momento di dialogo con i processi automatizzati, senza appiattirsi acriticamente all’utilizzo di siffatti meccanismi. L’algoritmo costituisce difatti un processo di risoluzione di un problema, in grado di mettere in crisi l’antitesi fra determinismo e libero arbitrio46 , di trasmettere l’apparenza di poter dominare l’infinito, ma che rimane, in definitiva, uno strumento cui è l’essere umano a dover attribuire un valore. Nessun algoritmo è difatti in grado di sostituire la funzione dell’educazione finanziaria, del valore della gestione dei rischi, della tutela del risparmio nella persecuzione degli interessi e delle esigenze di vita che fanno capo alla persona umana. Ragionando altrimenti, più che di umanizzazione della finanza, occorrerebbe parlare della deriva inevitabile verso un processo di meccanizzazione dell’autonomia contrattuale. A ben vedere, anche l’assenza di una qualunque interazione con una macchina è, per ciò stesso, fonte di una quantità enorme di dati sulle esigenze e sulle preferenze della persona. 46 Su tali risvolti della dimensione dell’algoritmo, si veda Gonseth, Déterminisme et libre arbitre, Editions du Griffon, 1947, nonché Zellini, op. cit., 156. 45