Il grande e ancora per certi versi oscuro tema dell’intelligenza artificiale impone a Pickett di aprire un cantiere di pensieri, ragionamenti e proposte per approfondirne contorni, problematiche sociali, giuridiche ed etiche, nuove ipotesi di “regole del gioco” tra esseri umani e macchine intelligenti. Pickett, dunque, con questo contributo di Lara Mastrangelo apre una specifica discussione su questo affascinante, e per certi versi inquietante, problema non del nostro futuro ma del nostro presente.
Se da un lato con fumetti, film, svariati esperimenti robot e computer umanizzati hanno costantemente affascinato la nostra immaginazione, forse ai tempi di 2001: Odissea nello spazio, capolavoro di Kubrick del 1968, non si pensava che si sarebbe arrivati a investire nelle startup dell’intelligenza artificiale (IA) più di 1,2 miliardi di dollari solo negli ultimi cinque anni. Che tali tecnologie possono pensare in maniera complessa tanto quanto, e forse più, dell’uomo è stato chiaro quando il campione mondiale dell’antico gioco “Go” è stato battuto da AlphaGo, il sistema di intelligenza artificiale di Google DeepMind. I computer avevano già battuto campioni di scacchi e di altri giochi di strategia, ma Go ha regole talmente complesse da essere considerato la prima vera dimostrazione di “deep learning” da parte dell’IA.
Finché si parla di giochi sembra non ci sia nulla di serio da temere. Quando invece scopriamo che la Fukoku Mutual Life Insurance, una compagnia di assicurazioni giapponese, dal 20 gennaio 2017 ha sostituito 34 lavoratori che gestivano le richieste di indennizzo con il software Ibm Watson Explorer, iniziamo a porci qualche domanda in più sulla portata e sui possibili sviluppi dell’IA. La società potrà risparmiare 1,1 milioni di dollari all’anno sugli stipendi degli impiegati, migliorando la propria produttività del 30%. Tra i settori più sensibili al “furto del posto di lavoro” ad opera delle macchine intelligenti – e si noti la novità: non è più solo il lavoro manuale ad essere sostituito, ma anche quello cognitivo – emergono quelli nei quali i compiti del lavoratore sono costituiti da passaggi ripetitivi e basati su dati certi, come il settore finanziario o assicurativo (sempre in Giappone sono state creati sistemi IA che permettono di automatizzare la scelta della polizza migliore per il cliente).
Il diritto, dunque, sistema intricato e mutevole per antonomasia , dovrebbe essere al sicuro. Almeno in teoria. La pratica mostra, invece, uno scenario di gran lunga differente. Ibm ha ideato un’intelligenza artificiale – ROSS Intelligence – che si prospetta come una delle più innovative e potenti tecnologie mai utilizzate in ambito legale. ROSS è un sofisticato sistema basato sulla tecnologia di Watson (il “computer cognitivo”), in grado di raccogliere, organizzare e sistematizzare la normativa vigente incrociata con la giurisprudenza e la dottrina formatesi sui diversi temi giuridici, sostituendo, dunque, il lavoro dei ricercatori nel mondo universitario come in quello professionale, in cui tali compiti sono generalmente lasciati ai giovani avvocati o ai praticanti.
ROSS, per di più, si comporta anche come un’enorme banca dati costantemente aggiornata con gli ultimi format contrattuali emersi nel mondo della business law, indicizzati in maniera sistematica e di facile utilizzo. Ma il vero carattere disruptive è la sua capacità di “imparare” con l’esperienza. ROSS ricorda tutte le informazioni acquisite, con la conseguenza che dà immediatamente notizia in presenza di una nuova sentenza che possa interessare il caso o la ricerca che gli era stata affidata. In tal modo, continua a creare connessioni tra le informazioni che mano a mano acquisisce, migliorando costantemente sia la velocità che la qualità delle proprie ricerche, proprio come un cervello “umano”. Baker Hostetler è stato il primo ad impiegarlo nel maggio 2016, seguito da molti studi americani; in Italia, ROSS è già operativo in sei studi di Milano. ROSS e simili tecnologie costringeranno inevitabilmente il mondo legale a rivedere il proprio modus operandi, perché opporsi alla tecnologia, oggi, sarebbe non solo controproducente, ma quasi donchisciottesco.
Se negli ultimi vent’anni ogni settore del mercato si è reinventato per adattarsi allo sviluppo tecnologico, lo stesso dovrà fare quello giuridico. La risoluzione di alcune questioni può e sarà certamente affidata ad un robot, così da alleggerire i compiti più ripetitivi e meno gratificanti, ma al contempo alcuni contesti, come quello medico (in cui Watson può fare diagnosi) e quello legale, presentano spesso casi così complessi da non poter essere (ancora) sezionati in semplici domande da porre ad una macchina.
Tant’è che quando l’Università di Oxford ha inserito in ROSS un centinaio di casi giudiziari già decisi dalla magistratura anglosassone, con l’obiettivo di analizzare il materiale istruttorio raccolto, sebbene nel 70% dei casi ROSS abbia elaborato verdetti identici a quelli delle Corti, nel restante 30% è giunto verdetti dissimili. E, con ogni probabilità, tali differenze sono legate ad una visione d’insieme che è propria solo dell’essere umano.
Altro aspetto rilevante è il rapporto umano tra il professionista e il cliente/paziente: alcune informazioni, come lo stato emotivo di un soggetto, il modo di raccontare i propri sintomi o la propria storia, non sono legate a dati registrabili. O meglio, anche laddove registrabili, una macchina difficilmente sarà empatica e in grado di cogliere sottili elementi psicologici allo stesso modo di un essere umano. È improbabile, quindi, almeno nel breve periodo, che ROSS arrivi a sostituire interamente l’attività umana di praticanti o avvocati. È più probabile una modifica delle attribuzioni di competenza: ROSS ricercherà informazioni, a partire dalle quali inizierà il lavoro su un caso, velocizzando la prima fase.
In questo contesto di fermento e sviluppo dell’IA, un’interessante novità è ALEX, programma mirato alla profilazione dei clienti attraverso un device che il singolo consumatore porta con sé e registra ogni sua decisione di spesa. ALEX è una sorta di evoluzione personalizzata dei meter di Auditel, quegli strumenti elettronici che rilevano i canali televisivi seguiti da un campione di famiglie. Le imprese li sfruttano per ottenere un’utile fotografia delle abitudini di consumo dei loro clienti o clienti prospettici.
Al contempo, però, considerando quanto potere si concentra nelle mani del gestore di ALEX (nel caso specifico Amazon), si pongono problematiche giuridiche rilevanti e delicate sia in merito alla proprietà ed al trattamento dei dati registrati, sia al contenuto e alla legittimità delle comunicazioni pubblicitarie ad essi connesse. Se il gestore di ALEX può sfruttare i dati ottenuti sulle abitudini di consumo, le comunicazioni pubblicitarie possono diventare estremamente mirate, suggerendo l’acquisto non solo di certi prodotti ma anche di specifici brand (soprattutto se consideriamo che il modello di business di Amazon è quello di acquisire man mano il ruolo anche di “giocatore” nel mondo del retail e quindi di venditore di private label di sua produzione).
Questo breve ritratto di ROSS e ALEX evidenzia, dunque, la straordinaria innovazione in corso di divenire nei mercati domestici e internazionali. Un’innovazione che da un lato può portare maggiori efficienze e potenziali marginalità per certi operatori (o quantomeno un ripensamento dell’attuale modello), ma che, nello stesso tempo, si coniuga in una techne che avanza senza chiedere nulla a nessuno e, soprattutto, senza essere affiancata da una regolamentazione sul piano normativo.
Che i legislatori arranchino dietro a realtà così mutevoli e dimensionalmente in espansione, del resto, non è una novità. Va tuttavia sottolineata la necessità di costruire delle regole del gioco tali da evitare, per quanto è possibile, iniquità, confusioni e contraddizioni di un mercato sicuramente affascinante ma estremamente delicato e pericoloso per il rischio di concorrenza sleale fra i giocatori. È necessario, quindi, analizzare a fondo e tempestivamente i termini e le modalità della rivoluzione dell’IA, sensibilizzando da un lato le imprese a porsi con grande e responsabile attenzione nei confronti del tema e del suo perimetro di delicatezza e pericolosità; e dall’altro le autorità preposte a farsi carico di studiare e individuare strumenti per evitare un iniquo e pericoloso Far West.
Lara Mastrangelo
Pickett tornerà a breve su questo argomento, evidenziandone ulteriori aspetti problematici e provocando ulteriori riflessioni fra i suoi lettori. A presto, dunque, con nuovi pensieri sull’intelligenza artificiale.