[:it]A cura dell’Avv. Massimo Simbula
Le principali problematiche legali e sociali
L’intelligenza artificiale (AI) sta vivendo una fase di rapida crescita, resa anche evidente dai livelli record di investimenti dello scorso anno in questo settore.
AI ha già assunto un ruolo centrale quest’anno dominando il Consumer Electronics Show di Las Vegas, dove era presente in vari settori, dalle auto senza conducente a spazzolini da denti elettronici.
L’emozione suscitata dalla tecnologia connessa ad AI, associata con la crescente diffusione di macchine autonome ha, tuttavia, evidenziato alcune importanti problematiche connesse con questa tecnologia tra cui, oltre alle già ampiamente segnalate questioni connesse alla riduzione di posti di lavoro, anche ad una serie di interessanti quesiti legali connessi a:
a) Criteri di attribuzione delle responsabilità legali;
b) la titolarità dei prodotti intellettuali (in particolare algoritmi) generati da AI;
c) la definizione di codici etici e di condotta che AI dovrebbe essere tenuta a rispettare.
Una visione distopica?
Il peso e la complessità delle tematiche sopra elencate può variare notevolmente a seconda del settore nel quale si va ad applicare AI, ma è evidente che la questione si complica se si tiene in considerazione che nel lungo periodo le capacità di prestazione di AI aumenteranno esponenzialmente con conseguenze e evoluzioni attualmente non facilmente prevedibili e che naturalmente possono impattare notevolmente il modo stesso in cui concepiamo istituti giuridici come la proprietà, la licenza, il diritto d’autore, la colpa o il dolo.
Un interessante caso evolutivo di AI già riscontrabile in questa prima fase, è quello legato al settore dell’home automation e entertainment.
Si veda in tal senso il caso delle interfacce, come Amazon Echo, o le più banali home page di Google e Bing, che grazie ai loro algoritmi spingono gli utenti verso determinate abitudini o tendenze di fatto creando fenomeni di evoluzione sociale che, se lasciati interamente ad AI, potrebbero creare un mondo in cui gli algoritmi, auto-sviluppati, spingono la società umana verso usi e consumi funzionali all’agoritmo stesso in termini di efficenza e prestazione dell’intero sistema.
Una visione certamente distopica ma non improbabile poichè l’algoritmo studiato per evitare errori e procedere nel modo più rapido e lineare possibile, se applicato alle attività quotidiane dell’uomo, adotterà criteri di suggerimento che non necessariamente sono legati alle reali necessità umane, non consentendo all’uomo di sbagliare e, quindi, di fare esperienza.
Ed in effetti è proprio dall’errore e dal fallimento che passa l’evoluzione umana. Fenomeni che, se by-passati attraverso criteri di suggerimento finalizzati alla celerità e all’ottenimento dell’obbiettivo o della risoluzione del problema nel più breve tempo possibile, potrebbero privarci della base stessa su cui si è per anni strutturata l’evoluzione della specie umana.
Banalmente, Amazon.com esiste per non farci perdere tempo in una gigantesca biblioteca o in un qualunque negozio ma per trovare immediatamente quello che ci serve secondo criteri decisi da algoritmi autosviluppati.
Google Map non ci consente di perderci in una città ma solo di farci arrivare dritti al punto, evitandoci così di conoscere luoghi nuovi o inaspettati o, perché no, di farci conoscere nuove persone nel nostro percorso “sbagliato”.
Il presente
Già oggi con i chatter-bots, meglio noti come chat-bots si possono fare conversazioni con una macchina intelligente.
Un chatterbot è un software progettato per simulare una conversazione intelligente con esseri umani tramite l’uso della voce o del testo.
Questo genere di Software sono a volte definiti anche Agenti Intelligenti. Inoltre, i chatterbots vengono spesso usati in sistemi di dialogo per vari scopi pratici, come la guida in linea, un servizio personalizzato, o l’acquisizione delle informazioni.
Alcuni chatterbot utilizzano sofisticati sistemi di elaborazione del linguaggio naturale, ma molti si limitano a eseguire la scansione delle parole chiave nella finestra di input e “tentare” una risposta con le parole chiave potenzialmente corrispondenti.
Gli algoritmi alla base delle traduzioni automatiche di Google Translate possono essere definiti a tutti gli effetti una forma di Intelligenza Artificiale e stanno auto-migliorandosi in modo tale da non consentire agli stessi creatori dell’algoritmo di capire il processo evolutivo. Lo stesso dicasi per gli algoritmi alla base dei sistemi di facial-recognition e di cattura delle immagini sempre sul motore di ricerca Google.
Particolare interesse rivestono poi le applicazioni di AI nell’ambito della creazione di musiche. Una volta compreso il modello sonoro adeguato ad un certo tema video o ad un certo contesto o a certe persone, AI potrebbe elaborare varie melodie musicali, partendo da un dato base. In questo modo AI potrebbe produrre rapidamente innumerevoli canzoni di sottofondo, ad esempio, per videogiochi o per film, o per intrattenimento in ambienti pubblici e il tutto a costo zero.
Il che non vuol dire che necessariamente i compositori e gli artisti spariranno ma piuttosto che avranno maggiore facilità d creazione o maggiore potenzialità creative anche in termini quantitativi, migliorando quindi l’assai povero e desolante scenario creativo musicale odierno.
Ciò, ovviamente non esclude che una volta accesa la macchina, prosegua da sola nel creare senza il bisogno dell’uomo, di fatto relegandolo a mero ascoltatore.
Ora, in tutto questo contesto AI rivoluziona completamente i paradigmi che stanno alla base di varie questioni di carattere legale, tra cui, principalmente, quelle indicate all’inizio di questo articolo.
Criteri di attribuzione delle responsabilità legali
La responsabilità penale è personale. ma può una intelligenza artificiale rispondere di un danno causato da un reato?
In tema di responsabilità, già si noterà come in California si sono resi necessari diversi interventi legislativi per regolare la questione relativa alle macchine senza conducente. In tal senso, si veda il recente Bill firmato nel settembre 2016 per autorizzare un’altra serie di Test Drive sulle strade pubbliche.
Con l’approssimarsi di un mondo caratterizzato da automobili che guidano da sole sarà sicuramente necessario elaborare nuove forme di polizza assicurativa idonea a coprire i rischi connessi all’uso di questa tecnologia. Si veda in proposito l’interessante articolo del Wall Street Journal “How do you insure a driveless car?“
Come noto, Google sta testando in California (vedi il self driving test) una macchina che può guidare autonomamente e che si pensa di offrire al pubblico già a partire da quest’anno.
Già oggi sono presenti sul mercato diverse tecnologie che consentono ai veicoli di adottare autonomamente sistemi di frenata, di accelerazione, di spegnimento del motore, ecc.
Un esempio è dato dalla Daimler AG, che nella berlina della Mercedes-Benz, S – classe Sedan, ha inserito un sistema automatico il quale, in condizioni di traffico, frena e accelera in base al comportamento del veicolo che precede.
La General Motors prevede di vendere autovetture che guidano da sole, da utilizzare in autostrada nelle corsie dedicate alle Self-Driving Cars.
Entro il 2017 la Toyota prevede di mettere in produzione e vendere autovetture con sistemi automatizzati per evitare incidenti.
Altri produttori, quali Audi, Nissan, Ford, Volvo, si stanno attivando per realizzare autovetture dotate di tecnologia dell’automazione.
E le applicazioni dell’automazione in campo automobilistico avranno una rilevante connessione con l’Internet delle Cose.
Un recente studio dell’Institute for Highway Safety (IHS) intitolato “Emerging Technologies: Autonomous Cars—Not If But When”, evidenzia come entro il 2050 tutte le autovetture del pianeta guideranno da sole sulla base di input forniti dall’uomo o da software e algoritmi.
Lo studio evidenzia anche i potenziali rischi legati a questo scenario, inquadrandoli nel più generale tema della Cyber-Security.
Le autovetture dotate di sistemi di automazione possono essere soggette a interferenze nel sistema di controllo dell’autovettura o peggio ad accessi non autorizzati.
Questo e altri aspetti hanno notevoli implicazioni in ambito legale poichè potrebbero generare comunque responsabilità nei confronti dei proprietari delle autovetture o dei responsabili della guida automatica.
A tal fine si stanno sviluppando sul mercato nuove tecniche assicurative volte a prevenire questi rischi, con particolare attenzione al tema della circolazione stradale.
A questo link trovate una rassegna legale dell’evoluzione dei rischi connessi alla sicurezza informatica.
Rimane il fatto che per ora queste polizze assicurative coprono i costi sopportati dall’assicurato per ripristinare il suo sistema informatico dopo un accesso non autorizzato o un danneggiamento di altro tipo, eventuali costi di periti tecnici incaricati per accertare le responsabilità, i danni di immagine subiti dall’assicurato in conseguenza del problema occorso e altri aspetti connessi.
A tutto questo dovrà inevitabilmente aggiungersi una copertura assicurativa per i danni arrecati a terzi in conseguenza di un difetto del software o di un accesso abusivo al sistema informatico che gestisce l’autovettura automatizzata. Naturalmente questi aspetti avranno inevitabilmente riflessi legali proprio in tema di responsabilità civile nei confronti dei terzi e di individuazione dei limiti di responsabilità della società assicuratrice.
La titolarità dei prodotti intellettuali creati da AI
Il problema non è banale: di chi è una musica creata da AI? Del creatore di AI potrebbe essere una risposta. Il problema è che se l’algoritmo che sta alla base di AI evolve autonomamente senza alcun apporto da parte del suo creatore, siamo di fronte al classico caso in cui l’allievo supera il maestro e la proprietà intellettuale dei prodotti sfugge alle logiche tradizionali.
Ora, la risposta a questo delicato quesito potrebbe essere un’altra: chi ha detto che la proprietà intellettuale (e forse in generale la proprietà) sia un istituto giuridico che resisterà al processo di innovazione in atto?
Diritti d’autore, brevetti, modelli di utilità non hanno stimolato la creatività ma solo gli utili delle grandi aziende. Anzi, l’hanno limitata fortemente questa creatività, considerato che un materiale coperto da Copyright è in sostanza non alterabile o riproducibile in qualunque contesto.
Ad oggi non mi risulta una sola legge al mondo che regoli la titolarità dei diritti d’autore di opere o invenzioni realizzate da AI. L’Unione Europea sta avviando studi in tal senso ma siamo ancora veramente alle fasi iniziali.
Definizione di codici etici e di condotta
Recentemente alla BBC, il fisico teoretico Stephen Hawking ha dichiarato che una intelligenza artificiale completa potrebbe condurre in breve alla distruzione della razza umana.
Ed e’ per questo motivo che molti scenziati tra cui lo stesso Hawking, ed esperti del mondo digitale e della robotica come il professore Stuart Russel dell’università di Berkley ma anche illuminati imprenditori come Elon Musk, hanno sottoscritto una lettera aperta a sostegno delle priorità da osservare nell’ambito delle ricerche nei settori innovativi.
Quello che un tempo poteva riguardare solo film di fantascienza è ora invece diventato di importante attualità.
Imprenditori, politici, filosofi, professori universitari ed esperti in evoluzione delll’Intelligenza Artificiale, dovrebbero dedicare le loro competenze e i loro sforzi osservando le priorità indicate nella lettera che qui si pubblica e che, ritengo, sia di grande interesse.
Secondo Hawking, Musk e un altro centinaio di grandi esperti a livello mondiale del settore, e’ imperativo costruire oggi delle salvaguardie morali e filosofiche da trasfondere nel sistema di reti neurali artificiali che già oggi è in grado di apprendere e migliorare autonomamente sulla base di input esterni analogamente con quanto accade nella mente umana tramite le esperienze.
Il mancato rispetto delle priorità in questa fase ancora gestibile dell’apprendimento di IA, a detta di questi esperti, potrebbe portare a conseguenze potenzialmente disastrose per la razza umana.
Il rispetto delle priorità, invece, ci condurrebbe allo sviluppo di una Intelligenza Artificiale in armonia con la nostra razza e tale da condurla ad un salto evolutivo. Visione utopica, quindi, e non distopica della rete.
[:]