Conte alla Conferenza sullo statuto etico e giuridico dell’intelligenza artificiale

Il Presidente del Consiglio, Giuseppe Conte, è intervenuto alla Conferenza sullo statuto etico e giuridico dell’intelligenza artificiale presso la Camera dei Deputati. Testo integrale della conferenza Saluto tutti i presenti, gli Onorevoli deputati, saluto il Presidente Violante, gli illustri relatori che mi hanno preceduto, gli insigni professori, i gentili ospiti. Io intervengo, mi pare di capire nella giornata conclusiva, ho scorso un po’ il programma di questo importante seminario di studi che affronta il tema dell’Intelligenza Artificiale (IA), sia con riguardo agli aspetti più propriamente tecnologici e applicativi dell’automazione, sia con riguardo alle questioni etiche e giuridiche connesse al suo sviluppo. Sì, il Presidente De Gennaro ha ricordato, come avete ricordato anche voi che oggi è una giornata particolarmente impegnativa, verrebbe quasi a chiedersi “Il Presidente del Consiglio cosa ci fa in un seminario ritagliandosi un po’ di spazio?”. Beh, tra i compiti del Presidente del Consiglio, ahimè sono tanti; sono tanti come potete ben immaginare che sia occuparsi dell’emergenze del maltempo, ieri abbiamo avuto un Consiglio dei Ministri, il secondo che si è dedicato al maltempo: abbiamo adottato delibere sullo stato di emergenza, varato provvedimenti per provvedere a dare una risposta urgente ai cittadini, delle varie aree colpite, lo avevamo già fatto la settimana precedente e continueremo a farlo. C'è questo, ma c'è anche, tra gli altri compiti, quello come decisore, primo responsabile delle azioni di Governo, di dare una prospettiva, di cercare di ragionare, con voi anche, per poter progettare il Paese che vogliamo. IL VIDEO [yt]zL3TdcGZWYc[/yt] E il Paese che vogliamo non è affidato ad altri se non a noi. Lo custodiamo oggi, anche con la nostra inerzia, quindi è importante interrogarsi su un aspetto fondamentale della realtà già attuale e che poi riguarderà sempre più la vita quotidiana dei cittadini, e cercare di orientare questo percorso, di guidarlo e di indirizzarlo. Ecco perché vengo qui a confrontarmi con voi per cogliere gli spunti delle vostre ricerche, per cercare di dialogare con voi e di avere quei necessari stimoli e ulteriori basi conoscitive per poter poi progettare insieme agli altri miei Ministri il Paese che vogliamo, per poter rendere al meglio un servizio ai cittadini. L’intelligenza artificiale è destinata a modificare ogni ambito - ormai ne siamo tutti consapevoli - della nostra esistenza, a partire dal mondo del lavoro, della produzione, dall’economia, dell’arte, della scienza, della sanità. Non c’è ambito della vita associata, della vita personale di tutti noi che non sarà sempre più inciso dai sistemi automatici e dalla IA in particolare. Noi siamo già adesso dentro una realtà tecnologica che, secondo un assunto di base, ampiamente condiviso anche dalla dottrina economica internazionale, costituisce peraltro una potente leva di competitività, un’opportunità senza precedenti anche per incrementare la produttività del lavoro e per consentire progressi straordinari verso lo sviluppo sostenibile. Ma l’applicazione dell’intelligenza artificiale comporta anche delle sfide, connesse soprattutto al potenziale rischio di ridimensionamento della forza lavoro sostituita sempre più dai processi di automazione, di discriminazione di fasce sociali e di minoranze escluse ancora oggi per buona parte dall’alfabetizzazione digitale e dall’accesso alle nuove tecnologie. L’automazione sottratta al controllo umano determina altresì pericoli legati all’utilizzazione dei dati per fini di manipolazione dell’opinione pubblica e anche per fini militari, sia nel contesto della cyberwarfare sia nell’evoluzione delle armi tradizionali. Sono ricadute che impongono una riflessione più generale, più sistemica, dalla quale partire per comprendere più compiutamente le conseguenze che l’Intelligenza Artificiale potrà avere in ambito tecnologico, sociologico, ma anche politico e giuridico. Come tutte le grandi rivoluzioni tecnologiche della storia dell’umanità, l’intelligenza artificiale, impatta sull’organizzazione sociale e politica degli ordinamenti, nonché sulle relazioni tra gli individui, e influenz persino la percezione che l’uomo ha di sé stesso. Tra l’altro molti pensatori contemporanei si sono interrogati sullo sviluppo della tecnica. Emanuele Severino, uno dei più grandi studiosi molto attenti alla tecnica, considera questa come l’espressione ultima e più efficiente della volontà di potenza dell’uomo e delle sue capacità di trasformare l’ordo rerum, ma deve essere regolamentata con attenzione e non orientata verso un semplice accrescimento di sé stessa. Lei ha citato, Presidente De Gennaro, Heidegger. C’è un famoso saggio di Martin Heidegger del 1953 dove si interroga sul il rischio inquietante, insito in un incontrollato e acefalo processo di sviluppo della tecnica, che il mondo si trasformi in un completo dominio della tecnica e l’uomo si lasci trovare impreparato rispetto a questo radicale mutamento. Parlando sempre di pensatori e filosofi, c’è anche Anders che elabora la paura - e credo anche molto efficace dal punto di vista della dimensione antropologica esistenziale - dell’“Uomo antiquato”. L’uomo della civiltà tecnologica che, come un novello Prometeo, diviene subalterno alle macchine da lui stesso create, avverte il dislivello tra sé e i suoi stessi artefatti. Di fronte alle macchine l’uomo perde la sua importanza e la centralità di sé all’interno del sistema sociale. Lui usa la parola “antiquato”, l’uomo cioè diventa inadeguato: ha bisogno di fermarsi, di riposare, mentre la macchina è perfetta, funziona, si ripete all’infinito, ha quella sorta di “eternità” che è il grande desiderio, la grande chimera per la dimensione esistenziale finita dell’uomo. Oggi eminenti studiosi e scienziati denunciano il “rischio esistenziale” determinato da uno sviluppo smodato ed incurante rispetto a una portentosa tecnologia, una sorta di “superintelligenza”, che, utilizzando gli stessi meccanismi cognitivi dell’uomo, si candida a sostituirlo non solo nei processi di elaborazione tipici delle applicazioni “machine learning”, ma addirittura nei processi decisionali. Sono profondamente convinto, che rispetto a una sfida di tale portata, che è così radicale per l’intera umanità, si possa rispondere solo sviluppando ed esplicitando una profonda visione del mondo, un nuovo umanesimo che metta al centro la persona umana, il rispetto dei suoi diritti, dei principi e dei valori propri, dei valori di una società democratica. Condivido quella che mi sembra più che una posizione, se mi permette Presidente Violante, una filosofia, la filosofia espressa dalla Fondazione Leonardo riguardo la necessità che i sistemi di intelligenza artificiale si conformino ad un approccio antropocentrico, a beneficio della collettività; sostengo pienamente l’idea che l’etica e il diritto “guidino” e “orientino” l’uso della tecnologia, al fine di rispettare i valori riflessi nella nostra Carta Costituzionale, nelle nostre Costituzioni che oramai si assomigliano sempre più, nelle Carte dei diritti e nei trattati internazionali. Proprio ieri il Presidente della Repubblica ha dichiarato che “lo sviluppo tecnologico dell'intelligenza artificiale impone la definizione di limiti etici che, affermando la posizione di centralità dell'uomo, contribuiscano all'attuazione piena dei principi fondanti della civiltà”. Si impone l’esigenza di affrontare, sia dal punto di vista normativo sia da quello politico, il rapporto tra uomo e macchine intelligenti, al fine di preservare l’essere umano nella sua ricchezza culturale e materiale. Dobbiamo porci quindi il problema di governare e indirizzare tale rivoluzione tecnologica, di scegliere il nostro modello di sviluppo senza lasciare che siamo le macchine a imporcelo, che deve essere orientato secondo i criteri della consapevolezza e della responsabilità. La consapevolezza, che ho ascoltato dal professor Faggin, che in un altro luogo l’ha definita “il mondo che osserva sé stesso” e che quindi che sa interrogarsi, sa dominarsi, sa guidare, sa scegliere il proprio cammino e fa riferimento a una qualità esclusiva dell’intelligenza non artificiale ma umana, che nessuna intelligenza artificiale potrà mai sostituire. La responsabilità attiene invece alla necessità da parte di tutti gli attori in campo - e qui ragioniamo delle autorità di Governo nazionale ma anche delle autorità sovranazionali, scienziati, imprenditori, giuristi, intellettuali, corpi intermedi: non ci può essere nessun soggetto che deve ritenersi escluso - di porre in essere azioni per la governance dei processi di utilizzazione e applicazione dell’intelligenza artificiale, compresa anche la definizione di un quadro innanzitutto definitorio più omogeneo, meno timido e frammentato rispetto a quello esistente. Riguardo al modello di sviluppo, occorre guardare, in una prospettiva comparata, agli altri Paesi. Quindi qui la ricerca comparatistica, il confronto è ancor più utile che in altre situazioni. In particolare gli Stati Uniti e la Cina, che sono Paesi ovviamento che sono alla frontiera dell’innovazione - nei quali si stanno diffondendo applicazioni sempre più concrete e pervasive di utilizzo dell’IA, in ambito pubblico e in ambito privato - hanno ad esempio approcci profondamente diversi. Negli Stati Uniti, la ricerca e lo sviluppo del settore sono in massima parte sostenuti e implementati dalle grandi società private di servizi, anche se esiste un dibattito interno, incentrato sulle conseguenze delle decisioni automatizzate, che coinvolge gruppi di pressione e soggetti politici, capaci di mobilitare l’opinione pubblica diffusa in un dibattito che coinvolge anche tutte le implicazioni etiche per quanto riguardai processi automatizzati e l’IA. La Cina, invece, sta adottando un approccio - come è nella natura di quell’ordinamento - centralistico, improntato a massimizzare gli investimenti pubblici in applicazioni tecnologiche soprattutto negli ambiti della sicurezza e della prevenzione dei reati. È chiaro che è un approccio che dà anche degli ottimi risultati dal punto di vista dell’evoluzione tecnologica perché c’è dietro anche la potente macchina dello Stato, ma è una prospettiva che rischia di non tener conto dei profili di tutela del diritto alla privacy e alla riservatezza dei cittadini. La via europea è più orientata invece ad una cooperazione tra gli Stati membri, incentrata sul coordinamento delle politiche di investimento e sulla definizione di strategie di governance. Che non abbiamo ancora trovato, eh. Però, bisogna lavorarci e cogliere questa direzione di sviluppo dell’azione di governo; è molto importante essere consapevoli della direzione da percorrere. Nella Risoluzione del Parlamento europeo del 16 febbraio 2017, recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica, e anche nella Comunicazione della Commissione più recente (del 7 dicembre 2018), dal titolo “Piano coordinato sull'intelligenza artificiale”, è centrale l’attenzione ai risvolti etici e sociali riguardanti lo sviluppo dell’intelligenza artificiale, che dovrebbe mirare a integrare le capacità umane e non a sostituirle. D’altro canto, la centralità dei diritti e delle esigenze dell’individuo e l’equilibrio tra intervento pubblico e autonomia privata è ciò che caratterizza da sempre - direi la cifra caratteristica - la politica europea in tema di nuove tecnologie. Per quanto riguarda la fissazione di principi etici condivisi, sono proliferate varie iniziative di soft law, un diritto lieve, mite, in ambito europeo, tra le quali le Linee Guida europee sull’etica dell’IA che indicano alcuni specifici principi etici in base ai quali valutare l’affidabilità dei sistemi di AI da parte dei soggetti che li sviluppano. Tra di essi, il principio di rispetto dell’autonomia dell’individuo, il principio della prevenzione del danno, il principio di equità, che garantisce un’equa e giusta distribuzione dei benefici e dei costi derivanti dall’utilizzo dei sistemi di IA, il principio di spiegabilità, che attiene alla trasparenza degli input che hanno determinato le prestazioni automatizzate. Da questo punto di vista, la tutela dell’individuo dallo sviluppo dell’intelligenza artificiale si inscrive comunque nell’ordito dei principi stabiliti dalle Carte dei diritti fondamentali universali e dalla nostra Costituzione: dignità umana, tutela della riservatezza, libertà di informazione, attenzione verso i temi di uguaglianza e non discriminazione, tutela del lavoro, sono questi, i principi, i valori in gioco. Per quanto riguarda i riflessi dello sviluppo dell’IA sull’ordinamento giuridico nazionale, ritengo che le questioni sollevate e le riflessioni emerse nel corso del seminario siano estremamente illuminanti e meritevoli di successivi sviluppi. Mi riferisco proprio a questo testo che avete redatto, questo Statuto etico-giuridico. Sul piano strettamente giuridico, concordo con Voi, se ho ben compreso lo spirito della ricerca, sull’esigenza di individuare forme idonee ad assicurare che i valori e i diritti tutelati dalle Carte fondamentali possano trovare adeguata protezione anche al cospetto dei sistemi di intelligenza artificiale. In particolare, condivido la necessità di tutelare i cittadini dall’esercizio di un potere, quello di utilizzazione dei sistemi di IA, che non promana più esclusivamente dalle autorità pubbliche, ma si ritrova sempre più concentrato nelle mani di operatori privati. Tali operatori gestiscono ingenti quantità di dati per realizzare attività che presentano implicazioni rilevanti per i diritti e le libertà delle persone. Questa necessaria estensione delle garanzie non comporta però l’esclusione dei poteri pubblici, che a loro volta possono essere fruitori e utilizzatori di sistemi di intelligenza artificiale per finalità disparate, tra cui l’efficientamento dell’attività amministrativa e dell’amministrazione della giustizia. Sappiamo che, lo dico anche da giurista, che in fase anche avanzata del dibattito specialistico la discussione sui possibili impieghi dell’intelligenza artificiale alle decisioni giudiziarie, sia a fini di ricerca giuridica, sia a fini predittivi e chissà. Si tratta di questioni estremamente sensibili, che necessitano sicuramente di un quadro regolatorio, in questo caso dobbiamo parlarci francamente, deve esserci un quadro regolatorio di hard law, perché qui il “diritto mite” non ci garantirebbe il raggiungimento di quegli scopi, di quelle protezioni e garanzie che dobbiamo assolutamente assicurare perché hanno una chiara e diretta incidenza sui diritti fondamentali. Per quanto riguarda invece i riflessi civilistici, i problemi aperti sono notevoli e investono in particolare il tema della responsabilità civile e degli smart contract sulle piattaforme Blockchain. Per affrontare tali situazioni andrebbe considerata - come da Voi suggerito - la realizzazione di una autorità o agenzia, che andrà coordinata a livello europeo, perché qui a livello nazionale diventa arduo muoversi, incaricata di monitorare la diffusione dell'IA e rilevare le sfide emergenti, fornendo informazioni ai decisori politici, ecco perché sono qui presente, e applicandone le determinazioni. Appare chiaro che lo sviluppo dell’intelligenza artificiale è una questione di assoluto rilievo per il futuro del nostro Paese. È una questione che riveste carattere strategico per l’azione di governo, in particolare per la prospettiva di progresso e di crescita che muove ogni nostra azione e iniziativa. Come anche evidenziato dall’Osservatorio del Politecnico di Milano sull’IA, il mercato italiano in questo campo risulta ancora agli albori sotto il profilo della mole degli investimenti, ma presenta grandi prospettive di sviluppo, che richiedono una vasta azione di incentivazione pubblica e sensibilizzazione delle imprese. In particolare, l’IA potrebbe apportare un impulso fondamentale proprio per recuperare, lo dicevo all’inizio, la produttività della forza lavoro. È un approccio, vedete, tutt’altro che ideale: perché porsi il problema dello sviluppo dell’AI significa anche affrontare e muoversi sulla base di una rivoluzione copernicana rispetto al tradizionale approccio orientato alla competitività industriale, che pure occupa un ruolo essenziale per la sostenibilità della nostra economia. La Strategia nazionale sull’Intelligenza artificiale è stata recentemente elaborata dal Ministero dello sviluppo economico, all’esito del lavoro di un gruppo di 30 esperti nazionali, chiamati ad analizzare lo stato di sviluppo e a formulare delle specifiche raccomandazioni per rendere il nostro Paese sempre più competitivo anche in questo campo. La strategia che ne è risultata, una strategia che andrà incrementata e sempre più affinata è comunque improntata ai principi dell’antropocentrismo, dell’affidabilità e sostenibilità dell’IA. Un forte accento viene già posto, all’esito di questo primo lavoro, sulla necessità di un utilizzo etico dell'IA e sull’esigenza di assicurarne l’affidabilità tecnica, attenzione non in via di realizzazione, ma sin dalla fase dell’impostazione, nella progettazione. Tale approccio contribuirà a contrastare i rischi anche di esacerbazione delle discriminazioni e di inasprimento degli squilibri sociali e territoriali che potrebbero potenzialmente connettersi a un uso inconsapevole dell’IA. E particolare attenzione, in questo senso, sarà prestata alle esigenze specifiche delle piccole e medie imprese, considerato che il nostro sistema produttivo si regge soprattutto su di loro, e che quindi hanno bisogno di essere ancora più guidate laddove evidentemente l’innovazione tecnologica così sofisticata potrebbe non essere facilmente alla loro portata. Tra gli obiettivi perseguiti, c’è senz’altro l’incremento degli investimenti, pubblici e privati, il potenziamento dell’ecosistema della ricerca e dell’innovazione; il rafforzamento dell’offerta educativa a ogni livello, per portare l’IA al servizio della forza lavoro; il consolidamento del quadro normativo ed etico che regola lo sviluppo di questa tecnologia; e ovviamente l’efficientamento della Pubblica Amministrazione. due sono gli ambiti in particolare su cui occorre intervenire con un surplus di investimenti pubblici: perché è chiaro che questo utilizzo può rivelarsi uno strumento di massima utilità in settori strategici per il nostro Sistema Paese, quali la salute, la scuola, lo sviluppo urbano ed il turismo. Ma anche la formazione dei lavoratori e l’educazione diffusa dei cittadini sull’uso e sull’impatto della diffusione delle nuove tecnologie. Quanto al primo punto, è evidente che l’IA influenzerà tutte le professioni. Secondo McKinsey, la dinamica del cambiamento delle competenze richieste sarà più marcata rispetto a quella tanto temuta dell’automatizzazione dei mestieri tradizionali e della migrazione verso nuove professioni. I cambiamenti del mercato non vanno stigmatizzati, ma vanno governati. È necessario, quindi, rivedere le nostre politiche del lavoro in modo da considerare il lavoratore in costante interazione con macchine intelligenti e autonome, partendo a monte da un aggiornamento dell’offerta educativa e formativa a tutti i livelli. Quanto all’altro punto, nella società dell’informazione, nell’era dei robot, degli algoritmi e dei big data, è fondamentale sostenere un percorso educativo pubblico che garantisca i cittadini, poiché senza cultura dell’informazione ne risentiranno direttamente i valori stessi del nostro sistema democratico. Nell’attuazione della strategia nazionale, il Governo ritiene fondamentale attivare sinergie di partenariato pubblico-privato e collaborazione intra e inter-istituzionale. Una più intensa collaborazione tra attori pubblici e privati, e in particolare tra mondo accademico e produttivo, nonché tra imprese tradizionali e di nuova generazione, ci consentirà di migliorare la performance complessiva del nostro Paese nel trasferimento tecnologico e di sfruttare appieno il paradigma dell’innovazione aperta. Appare evidente che noi stiamo ragionando su un processo di sviluppo vorticoso completamente in fieri, sul quale sarà importate vigilare, mirando a evitare ambiti di disuguaglianza sociale. Ben venga quindi il vostro contributo, le vostre riflessioni, e il fatto che ci sia uno statuto, su cui state ragionando, etico e giuridico. Il Governo può e deve giovarsi della vostra riflessione, devono ragionare con voi tutti coloro che in questo momento stanno domostrando questa particolare sensibilità. Ricordo, concludendo, l’opera di Goethe L’apprendista stregone. Il comportamento imprudente di quel giovane mago che, incapace di valutare i rischi delle proprie azioni, sovrastimando la sua abilità nel governare i suoi poteri, si mette da solo in pericolo. Ecco, di fronte ai “poteri” che ci offre l’Intelligenza Artificiale - a differenza dell’apprendista stregone di goethiana memoria - noi dobbiamo operare con la massima consapevolezza, orientando la nuova tecnologia in una direzione di sviluppo sano, sicuro e - quanto più possibile - verificabile, controllabile. Siamo noi gli artefici di questo cammino e, sebbene ogni opera umana abbia dentro di sé, direi intrinsecamente, una capacità meravigliosa di eccedere, di fuoriuscire dal controllo, dobbiamo segnare molto nettamente i confini della via che intendiamo percorrere e delimitare con chiarezza lo spazio di azione quantomeno della nostra intelligenza. Grazie a tutti. Foto - Camera dei Deputati, 22/11/2019 - Il Presidente del Consiglio, Giuseppe Conte, interviene alla Conferenza sullo statuto etico e giuridico dell’intelligenza artificiale.