Chi siamo
L’UOMO E LA MACCHINA: INQUIETUDINI E SPERANZE DEL FUTURO PROSSIMO
L’uomo e la macchina: inquietudini e speranze del futuro prossimo
Partecipano: Nello Cristianini, Professore di Intelligenza Artificiale all’Università di Bristol; Gianfranco Pacchioni, Pro-Rettore alla Ricerca dell’Università degli Studi di Milano-Bicocca. Introduce Alessandro Vato, Responsabile del laboratorio di Neural Computer Interaction dell’Istituto Italiano di Tecnologia – IIT di Rovereto.
ALESSANDRO VATO:
Innanzitutto benvenuti a tutti. Vi ringrazio per essere intervenuti, ringrazio il Meeting per averci invitato e i nostri relatori, che adesso vi andrò a presentare. Ogni giorno in tv e sui giornali leggiamo le notizie che descrivono nuove scoperte scientifiche, le applicazioni tecnologiche nell’ambito della robotica dell’intelligenza artificiale. Spesso queste notizie sono anche il pretesto per descrivere scenari futuri, fantascientifici, popolati da robot pensanti, che prendono decisioni autonome, e a volte provocano questo nel lettore, negli spettatori, e anche un misto di ammirazione, curiosità e paura per il timore, per esempio, che prendano il sopravvento, che perdano il controllo, o anche semplicemente che il fattore umano sia sostituito da un algoritmo. Spesso, non avendo strumenti adeguati, le persone difficilmente riescono a distinguere quali sono gli scenari probabili da quelli sperati dai romanzi di fantascienza. Allora l’incontro di oggi s’inserisce all’interno di un dialogo costantemente avvenuto qui al Meeting con scienziati e ricercatori di altissimo livello. In particolare, a partire dall’anno scorso, si è cominciato ad approfondire il tema del rapporto dell’uomo con le nuove tecnologie, aiutati anche dallo spazio allestito dall’Associazione Euresis e Camplus. E attraverso dei dialoghi quotidiani con scienziati, filosofi, giuristi, che sono coinvolti nei temi che affrontiamo, e anche da esempi concreti che voi potete vedere e toccare. Nell’incontro di stasera affrontiamo il tema del rapporto tra l’uomo e le macchine con particolare attenzione all’impatto che le tecnologie hanno sulla nostra vita e su un aspetto specifico, che è, appunto, l’intelligenza artificiale. Noi vorremmo affrontare questo tema evitando due atteggiamenti possibili: da una parte una fiducia incondizionata e acritica allo sviluppo tecnologico senza riconoscerne le sfide che questo porta e le domande innanzitutto; oppure dall’altra parte una paura eccessiva ingiustificata di scenari futuri ostili all’uomo. Ecco, l’unico approccio possibile penso che sia il sano realismo che abbiamo ereditato, appunto, dai nostri padri, citando il tema del Meeting, che ci permette un’osservazione intera e appassionata di questa realtà per conoscerla, per conoscerla in modo più approfondito e senza privilegiare degli schemi già acquisiti. Per far questo stasera abbiamo invitato due scienziati di altissimo livello, che ringraziamo per aver accettato il nostro invito e che fra poco andrò a presentare. Abbiamo Gianfranco Pacchioni e Nello Cristianini. L’incontro di stasera sarà organizzato in questo modo: due interventi e poi vediamo se c’è spazio per fare un’ulteriore domanda. Gianfranco Pacchioni è prorettore alla ricerca presso l’Università Milano Bicocca e si occupa di teoria quantistica della materia con particolare riferimento a materiali inorganici e loro superfici e nanoparticelle. Laureato in Chimica ha ottenuto il Dottorato di Ricerca presso la Frei University di Berlino e lavora presso il Centro di Ricerche IBM in California. Farà il suo primo intervento cercando di affrontare appunto il tema dell’impatto sulle tecnologie, mentre Nello Cristianini è Professore di Intelligenza Artificiale presso l’Università di Bristol, attualmente le sue ricerche riguardano l’analisi su larga scala di contenuti multimediali utilizzando diversi metodi di intelligenza artificiale. Cristianini è coautore di due libri molto noti sull’apprendimento automatico e un libro di bioinformatica, è vincitore del premio Royal Society World Research Merit ed è attualmente titolare di un Grant ERC; prima di essere Professore dell’Università di Bristol è stato Professore dell’Università Davis della California. Questa è una sintesi della loro biografia, però vi fa capire il livello dei nostri interlocutori, quindi lascio la parola al Professor Pacchioni. Grazie.
GIANFRANCO PACCHIONI:
Bene, grazie, buonasera innanzitutto, voglio ringraziare per quest’opportunità che mi è data di condividere con voi questa chiacchierata di circa venticinque minuti in cui cercherò di stimolare qualche riflessione, senza la pretesa di dare nessuna risposta; qui vi farò un po’ una carrellata, diciamo, mi occuperò di cose un po’ diverse, tutte diciamo però inerenti alle tecnologie moderne. Comincerei con questa immagine che illustra degli oggetti che sono di uso quotidiano, oggetti che noi ormai diciamo, di cui facciamo difficilmente a meno, ma che soltanto venti-venticinque anni fa non esistevano proprio. Alcuni di questi non esistevano neanche dieci anni fa. Questo lo dico per segnalare il cambiamento e la velocità del cambiamento con cui avvengono le cose. Alcuni oggetti che sono qui illustrati sono addirittura entrati diciamo nel nostro uso un po’ di anni fa e ne sono già usciti, per esempio l’i-pod, piuttosto che altre cose, che sono la macchina fotografica digitale, che è stata una rivoluzione quando è stata introdotta, ormai sostituita da altri strumenti come i telefoni cellulari, eccetera; ma anche oggetti come quelli che vedete descritti qui sono totalmente realtà recentissime, non esistevano più di dieci-quindici anni fa e però stanno condizionando e completamente modificando il nostro modo di rapportarci anche con le altre persone. Allora, com’è nato tutto questo e quando è cominciato tutto questo? Nella storia della scienza della tecnologia ci sono dei momenti particolari che facciamo fatica ad identificare nel corso dello sviluppo, ma a ritroso può essere possibile collocare. Uno di questi è sicuramente la nascita del transistor. Il transistor è un’invenzione che ha una data precisa, siamo nell’antivigilia di Natale del 1947, quando questi tre scienziati, Brattain, Bradford Shockley e Bardeen, mostrano al capo del loro laboratorio quest’oggetto, che è un oggetto macroscopico, di qualche centimetro di dimensione, fatto di germanio, che amplifica il suono della voce. Una cosa diciamo tutto sommato poco rivoluzionaria, se ci vogliamo pensare, ma da lì inizia l’era della miniaturizzazione e passano un po’ di anni, arriviamo negli anni Sessanta, nasce il circuito integrato e questo che vedete nell’immagine è Gordon Moore, uno dei fondatori di Intel, il quale già prevede che da quest’epoca, parliamo degli anni Sessanta in poi, ci sarà un raddoppio della capacità di elaborazione ogni circa due anni e Gordon Moore in un articolo pubblicato su Popular Electronics del 1965 prevede addirittura che ci sarà un giorno in cui i computer verranno venduti nei supermercati. In questa immagine che si fa fatica a decifrare, ma c’è un signore che ha in mano un computer e lo vende di fianco a un altro signore che vende dei cosmetici. Ora, pensare questo nel 1965 era straordinariamente visionario, oggi andiamo in un supermercato ed è vero, compriamo un detersivo accanto a un computer. Arrivano gli anni Settanta, arrivano i primi computer personali, i personal computer, per chi ha qualche capello bianco vedrete degli oggetti che in qualche misura riconosciamo e fanno un po’ tenerezza anche dal punto di vista della potenza che potevano avere allora, però vedete anche rappresentato quello che era il più grande computer costruito con delle valvole termoioniche che era lo ENIAC del 1946, pesava trenta tonnellate e aveva diciassettemila valvole; capite come si diciamo evolve la situazione. Tutto questo è però propedeutico a una rivoluzione per me profondissima nella storia dell’umanità, che è la nascita di internet; anche qui internet nasce nel 1989 formalmente, perché è la data in cui viene deposta l’idea diciamo di questa rete di computer, ma in realtà internet poi si afferma nei primi anni Novanta ed è soltanto verso la fine del millennio che diventa uno strumento di utilizzo generalizzato. Ora ci sono pochi dubbi sul fatto che internet sia una delle più grosse rivoluzioni nella storia dell’umanità e nasce con la rivoluzione elettronica, con l’era del silicio, ma i numeri che comporta questa rivoluzione in pochissimi anni sono impressionanti: oggi si parla di tre miliardi di utenti, sette miliardi di contratti telefonici, cento miliardi di pagine web, cioè una quantità di informazione disponibile per le persone che non si è mai vista in precedenza, quindi una vera e propria rivoluzione epocale. Allora quando si parla di nanotecnologie, se vi venisse chiesto come possiamo rappresentare, che cosa sono le nanotecnologie, ecco potrei dare questo esempio molto semplice: voi vedete da una parte quello che era il computer di bordo della missione Apollo negli anni Sessanta, quella che ha portato l’uomo sulla Luna; era uno scatolotto di circa 60 centimetri per 30 per 20 con velocità di calcolo di circa due megahertz. Oggi, dall’altra parte vedete che cos’è un nostro telefono cellulare che ha potenze di calcolo migliaia di volte superiore in un volume che è migliaia di volte inferiore. Bene, con il primo strumento cosa abbiamo fatto? L’uomo è andato sulla Luna, con il secondo strumento anziché andare sulla Luna andiamo su Facebook, andiamo su internet, eccetera e comunque è una rivoluzione dal punto di vista delle diciamo dimensione di oggetti che consideriamo. La rivoluzione elettronica è proseguita e si sta spostando sempre di più verso quella che possiamo definire l’elettronica flessibile e miniaturizzata e questo è importante perché pensare ad avere degli strumenti diciamo flessibili permette poi di integrarli per esempio in tessuti, in abiti o in oggetti che possono essere indossati. Vedete che sono già dei progetti di telefoni portatili flessibili, quindi diciamo addirittura stretchabili, allungabili o cose di questo genere. Tutto questo ha una rilevanza perché miniaturizzare sempre di più questi oggetti sempre più potenti permette anche di impiantarli, quindi di fatto di avere un’elettronica che viene in qualche misura direttamente innestata sull’organismo biologico, anche sull’organismo umano ed ovviamente si aprono anche degli scenari che per l’umanità non ci sono mai stati. Pensate alla possibilità di riparare diciamo danni neurali, danni neurologici, recuperare funzioni che oggettivamente può accadere all’innesto di questi oggetti. Ovviamente questo apre anche degli interrogativi. Alessandro prima li citava: la fantascienza arrivata ben prima della scienza su questi temi: il cyborg, cioè l’idea di avere degli organismi dove si innestano dei componenti elettronici su degli organismi viventi è una cosa che esiste nella letteratura fantascientifica da moltissimo tempo. Ecco, però siamo molto più vicini a questo tipo di situazioni di quanto potessimo pensare anche solo un po’ di anni fa. Questo è un esperimento che è stato fatto una quindicina di anni fa negli Stati Uniti dove a dei topi sono stati impiantati degli elettrodi nella corteccia celebrale, poi questi elettrodi sono collegati a un computer portatile che il topo indossa ed è in grado di ricevere un segnale radio e il segnale radio trasmette delle istruzioni al topo, il topo fa quello che gli viene detto di fare: vai a destra-va a destra, vai a sinistra-va a sinistra, sali su una scala-sale su una scala e addirittura è stato possibile diciamo in questo modo stimolare delle sensazioni di piacere e di appagamento nel topo (poi tu mi dirai se questo è vero). Tutto questo ovviamente rappresenta un frantumare delle barriere che per l’uomo non si erano mai verificate. Ci sono degli studi ancora molto embrionali ma di fatto questo è il transcranial Direct Current Stimulation, dove di fatto facendo passare bassi flussi di corrente in certe zone del cervello si possono riparare dei danni cerebrali, ma anche stimolare, sembra, delle proprietà cognitive, aumentare capacità di linguaggio, capacità matematiche, memoria, eccetera. Addirittura questi studi sono stati fatti, per quanto ho letto, per esempio dagli Stati Uniti, in ambito militare per curare la depressione di persone che sono tornate da guerre o da situazioni di questo genere. Allora tutto questo diciamo è ovviamente molto inquietante, ma è anche molto stimolante e le nanotecnologie però hanno un altro grande settore e sbocco. Quando noi vogliamo coniugare le nanotecnologie con le biotecnologie possiamo aprire anche qui scenari estremamente interessanti. Quello che vedete qui rappresentato è di fatto l’immagine di un film di fantascienza degli anni Sessanta piuttosto noto, si chiama “Fantastic Voyage” o era chiamato “Viaggio allucinante” nella versione italiana, vinse due Oscar. E’ la storia di fatto dove c’è un inventore geniale, che ha trovato il modo per miniaturizzare gli oggetti, diventa oggetto della contesa dei servizi segreti di grandi potenze contrastanti, viene ferito in maniera grave e in pericolo di vita l’unico modo per salvarlo è che i suoi collaboratori entrano in un sottomarino il sottomarino viene miniaturizzato , viene iniettato nel circuito sanguigno della persona e il sottomarino inizia questo viaggio fantastico all’interno del corpo umano e finalmente va a rimuovere un grumo di sangue che mette a rischio la vita del nostro scienziato. Questo film, che tra l’altro è molto interessante perché fatto tutto con effetti speciali senza computer graphics (siamo negli anni Sessanta), in realtà anticipa il tema della medicina di precisione, della medicina di fatto che va direttamente là dove bisogna curare la malattia; cioè noi oggi quando ci approcciamo alla cura, alla terapia, eccetera, purtroppo se abbiamo una infiammazione all’alluce prendiamo un antinfiammatorio che poi agisce su tutto l’organismo, se prendiamo un chemioterapico questo incide sì sulle cellula ammalate, ma ovviamente ha delle ricadute anche sulle cellule sane, quindi c’è un problema di fatto di non riuscire ad andare esattamente sul corpo. Ora la nanomedicina e le nanotecnologie in medicina hanno questo scopo: ci sono grandi progressi, sia nell’aspetto diagnostico, cioè sia nella capacità di poter individuare molto più precisamente dove si vanno a verificare le zone malate, le zone dove sono alterazioni di tessuti, sia l’aspetto curativo terapeutico. C’è tutta una ricerca oggi dove nanoparticelle sono in grado di trasportare farmaci e rilasciarli là dove serve, specificamente su quelle zone e su quei tessuti dove occorre intervenire. Ovviamente la strada è ancora molto lunga perché il problema è quello di riconoscere esattamente le cellule malate, quindi avere delle particelle in gradi di riconoscere queste cellule, trasferire i farmaci specificamente su queste cellule, senza intaccare invece le cellule sane. Ecco, tutto questo ci porta a riflettere, visto che il tema di oggi è sulle macchine, sul fatto che quando andiamo a ridurre le dimensioni in cui ci muoviamo, quindi a entrare in un mondo dell’estremamente piccolo, cioè entriamo nel mondo delle molecole e oggi si può parlare di macchine molecolari. Le macchine molecolari sono degli oggetti che sono in grado di fare un lavoro. Fare un lavoro non è una cosa ovvia perché una macchina molecolare deve fare un lavoro, ma deve farlo secondo un certo gruppo di istruzioni, secondo una certa logica, deve avere delle informazioni su che cosa fare. Inoltre deve saper trarre da qualche fonte di energia l’energia necessaria per funzionare. Ora, quello che vedete illustrato sullo sfondo azzurro è una macchina molecolare reale, è una catena di atomi di carbonio attorno a cui c’è un anello di atomi di carbonio in giallo; questo anello può scorrere in avanti e in indietro semplicemente azionato dai fotoni della luce solare. È stata sintetizzata da un collega chimico di Bologna, Vincenzo Balzani, uno dei padri di queste tecnologie; non serve a niente, ma dimostra la possibilità di costruire in laboratorio degli oggetti funzionanti con le caratteristiche di una macchina molecolare. La tematica ha assunto un’importanza tale che l’anno scorso il comitato Nobel ha dato il premio Nobel per la chimica proprio a tre grandi scienziati in questo settore nell’ambito della macchine molecolari. Purtroppo non l’ha avuto anche Balzani, l’avrebbe meritato, ma sapete che il premio Nobel al massimo va a tre persone e qui non c’è stato spazio. Perché questo è molto rilevante? Perché in realtà se noi guardiamo la natura, la natura funziona esattamente come delle macchine molecolari molto sofisticate. Faccio solo un esempio: la sintesi delle proteine che avviene nelle nostre cellule avviene grazie ai ribosomi. I ribosomi sono degli insiemi di proteine e di molecole di RNA messaggero, che sono in grado di autoassemblarsi, di prendere gli amminoacidi, cioè i singoli pezzi della nostra proteina, concatenarli secondo uno schema ben preciso, sapere quando la catena, la proteina è completata, quindi quando il montaggio è finito, rilasciare la proteina nella cellula e a questo punto essere pronti per un altro ciclo, per un’altra sintesi. Tutto questo, con grande efficienza, con bassissimo tasso di errori, a temperatura ambiente, a pressione ambiente, senza fare rumore. Una macchina straordinaria, che ovviamente è il frutto di un lungo processo evolutivo e che l’uomo in qualche modo cerca di riprodurre attraverso processi sintetici. Allora è chiaro che questa strada che si sta aprendo e si sta aprendo negli ultimi anni sta portando delle innovazioni molto molto interessanti, ma anche con un certo senso di inquietudine. Questo è un lavoro che è apparso su “Science” nello scorso anno ed è un batterio interamente sintetico. È stato progettato al computer, poi si è partiti dagli amminoacidi di partenza, questi sono stati concatenati, sono stati clonati, sono stati trasdotti, poi sono stati cresciuti, alla fine il batterio si autoreplica, circa ogni due/tre ore, ha un genoma che è piuttosto piccolo, circa 473 geni, ma è un oggetto che se alimentato si autoriproduce, come dico, completamente per via sintetica. Vi dicevo prima che avvengono delle rivoluzioni, spesso sotto i nostri occhi, a volte ce ne accorgiamo un po’ dopo. Bene, una di queste rivoluzioni secondo me è avvenuta pochi anni fa. Nel 2013 c’è stato un grosso evento scientifico e se chiedessi alla sala se avete sentito parlare del bosone di x immagino che la maggior parte dei presenti ne abbia sentito parlare. Se chiedessi in sala quanti hanno sentito parlare della tecnica Crispr, ho l’impressione che molti meno ne abbiano sentito parlare. In realtà la mia percezione è che questa tecnica Crispr avrà sul nostro futuro, sulla nostra vita, delle implicazioni e delle conseguenze molto molto più rilevanti. Crispr è una tecnica biotecnologica d’ingegneria genetica che consente di intervenire sul DNA , tagliando dei pezzi di DNA sostituendoli e quindi modificando in maniera molto precisa questa cosa. Agisce come una forbice, ma in realtà taglia dei legami chimici e li sostituisce con altri legami chimici. Questa tecnica è stata usata in questi anni per modificare il DNA di piante, animali eccetera, però questo è un lavoro che è uscito il 2 agosto di quest’anno, cioè tre settimane fa, su Nation, dove per la prima volta la tecnica Crispr è stata utilizzata per modificare un embrione umano. Si trattava di correggere un gene che è responsabile di una malattia cardiaca: l’esperimento è riuscito e lo sviluppo dell’embrione è stato bloccato perché non è consentito dalle regole etiche attualmente presenti e se questi embrioni fossero stati portati a gestazione sarebbero nati degli essere umani con, non solo questo tipo di DNA modificato, quindi senza avere questo gene responsabile di questa malattia cardiaca, ma anche tutte le generazioni successive non avrebbero avuto questa eventuale mutazione. Questo ovviamente apre questi interrogativi, oltre che prospettive molto interessanti. Allora a questo punto della mia chiacchierata, avrei ancora qualche minuto, volevo fare una specie di flashback e rifarmi a un personaggio che io amo moltissimo che è Primo Levi. Primo Levi, sapete, è uno scrittore famosissimo per aver scritto questi libri sulla sua esperienza nei campi di concentramento: Se questo è un uomo, La tregua, ha scritto anche un libro Il sistema periodico, perché lui era un chimico, quindi molto interessante, ma qui voglio riferirmi ad alcuni racconti che Levi ha scritto negli anni ’60, che sono scritti di fantascienza in qualche misura, in cui però ha anticipato con una grandissima lucidità, alcuni dei temi di cui stiamo parlando, ne voglio citare due di questi racconti. Il primo è il racconto del “Mimete”: il Mimete è un duplicatore, è un oggetto, dove, posto un campione in un comparto la macchina riproduce in tutto e per tutto questo oggetto nel comparto adiacente. Dice: ricreare in tutto e per tutto il documento, le sue imperfezioni, le fibre, le lacerazioni, le macchie, in un processo di duplicazione, in cui nell’esatta posizione in un singolo atto del modello viene fissato un atomo analogo estratto dalla miscela di alimentazione: carbonio dove era carbonio, azoto dove era azoto e così via. Si trattava veramente di una tecnica rivoluzionaria, la sintesi organica a bassa temperatura, l’ordine dal disordine in silenzio, rapidamente e a buon mercato. Il sogno di 4 generazioni di chimici. Allora, il protagonista di questo racconto si diverte, duplica un dado, poi duplica una banconota, ma ovviamente la curiosità lo spinge a provare a duplicare degli organismi viventi, prima lo fa con una mosca, poi lo fa con una lucertola , la cosa non gli riesce tanto bene. Si rende conto che gli mancano degli elementi chimici, perché la cosa funzioni, se li fa spedire, modifica la macchina , insomma ad un certo punto, addormenta la moglie, mette la macchina nella moglie, duplica la moglie e si trova con due mogli. La vicenda a questo punto si complica, perché la vita con due mogli…una si chiamava Emma prima, l’altra si chiamava Emma seconda diventa complicata, la sua vita da vivibile diventa un inferno, alla fine gli viene un’idea per uscire da questo empasse: entra nella macchina e si duplica lui stesso e dopo diventano due Gilberti e due Emme e tutto torna come prima. Perché vi racconto questa storia? Perché questo racconto anticipa due rivoluzionarie scoperte degli ultimi anni: una è la clonazione, perché duplicare un oggetto, o addirittura un oggetto animato, cioè esattamente nella stessa identica struttura è la clonazione, niente di diverso. E l’altro la stampante 3D: la stampante 3D è un oggetto che è entrato nel nostro uso comune recentissimamente ma è destinata a rivoluzionare profondamente molti dei processi che noi utilizziamo oggi. Vi dico che si sta lavorando anche a quello che è la stampante 3D o bio- stampante 3D, ossia la possibilità di costruire organismi o parti di organismi anche attraverso questi processi. Ovviamente sono delle complessità molto grandi, può anche darsi che queste cose non vengano realizzate però, diciamo che queste sono delle vie molto importanti. L’altro e ultimo racconto che vi voglio citare ha a che fare con la realtà virtuale. Ora qui vedete in questa immagine, nella foto in alto, c’è Mark Zuckerberg, che è il fondatore di Facebook. Facebook sta investendo delle quantità molto molto rilevanti di denaro nello sviluppo di questi visori, questi caschi par realtà virtuale. Ora c’è una ragione per tutto questo: uno dei temi di cui si parla molto oggi è il cambiamento di professione nel prossimo futuro o il fatto che l’automazione andrà in qualche modo a uccidere o a cancellare un certo numero di lavori. Ci sono delle prospettive che un certo numero di persone si trovi con un gran tempo libero nel futuro e c’è chi sta già pensando di riempire questo tempo libero con questo tipo di oggetti. Allora, Levi, in un racconto che chiude questo libro che si chiama Le storie naturali, ha questo racconto che si chiama Trattamento di quiescenza: racconta di questa macchina. Prima ne descrive una, l’Andrac, che è un congegno rivoluzionario che si fonda su una comunicazione diretta tra i circuiti nervosi e i circuiti elettronici, sottoponendosi a un piccolo intervento chirurgico è possibile azionare una telescrivente o guidare un auto solo mediante impulsi nervosi senza l’intervento dei muscoli. Siamo nel 1965. Ma quello di cui mi voglio occupare è un altro strumento. Il Torek invece non esige nessun intervento cruento: la trasmissione delle sensazioni registrate sui nastri avviene attraverso elettrodi cutanei. L’ascoltatore, anzi il fruitore non ha che indossare un casco e durante lo svolgimento del nastro riceve l’intera ordinata serie di sensazioni che il nastro stesso contiene: visive, uditive, tattili, olfattive, gustative, ecc… Lui racconta poi una serie di esempi. Questo casco viene indossato da una persona, il casco registra le sensazioni di questa persona e poi una persona passivamente può vivere le stesse sensazioni. Lui ad esempio racconta che ad un certo punto ha indosso uno di questi caschi per ascoltare uno dei nastri della serie verde, sport, si trova in uno stadio, sente il boato della folla, sente il calore del terreno che viene, gli fa anche male una caviglia perché evidentemente aveva preso un calcio poco prima, ma poi vede una palla arrivare dalla destra, corre, si butta lungo la palla, tira, calcia la palla, entra in gol, l’adrenalina si scatena nel suo organismo e la persona che fruisce questa cosa vive questa esperienza assolutamente impossibile da vivere a noi comuni mortali (io non ho mai insegnato un gol in seria A), ma in questo modo qualcuno lo può vivere. Ora, tutto questo è bellissimo, ma lui racconta poi una serie di cose, i nastri sono di varie serie, vari colori. C’è una serie di nastri di colore nero che sono, diciamo, le esperienze più estreme. E vi leggo le ultime pagine, l’ultima pagina di questo racconto che chiude anche il libro dice: Povero Simpson, credo che per lui sia finita. Dopo tanti anni di fedele servizio per la Natka, che era questa società che costruiva queste macchine, l’ultima macchina Natka lo ha sconfitto, proprio quella che gli avrebbe dovuto assicurare una vecchiaia varia e serena. Ha combattuto col Torek come Giacobbe con l’angelo ma la battaglia era perduta in partenza, gli ha sacrificato tutto: le api, il lavoro, il sonno, la moglie, i libri. Il Torek non dà assuefazione purtroppo, ogni nastro può essere fruito infinite volte e ogni volta la memoria genuina si spegne e si accende la memoria d’accatto che è incisa sul nastro stesso. Perciò Simpson non prova noia durante la fruizione, ma è oppresso da una noia vasta come il mare, pesante come il mondo quando il nastro finisce. Allora non gli resta che infilarne un altro e passato dalle due ore quotidiane che si era prefisso a 5, poi a 10, adesso a 18 o 20. Senza Torek sarebbe perduto, con Torek è perduto ugualmente. In 6 mesi è invecchiato di 20 anni, è l’ombra di se stesso. Se la saggezza di Salomone era stata acquistata con dolore, in una lunga vita piena di opere e di colpa, quella di Simpson è frutto di un complicato circuito elettronico e di nastri a 8 piste e lui lo sa e se ne vergogna e per sfuggire alla vergogna si rifugia nel Torek, si avvia verso la morte, lo sa e non la teme, l’ha già sperimentata 6 volte, in 6 versioni diverse registrata su 6 dei 10 nastri della fascia nera.
Grazie
ALESSANDRO VATO:
Lascio la parola a Nello Cristianini per il prossimo intervento. Grazie
NELLO CRISTIANINI:
Grazie, grazie, io non ho niente da mostrarvi quindi parleremo in modo un po’ informale. Quando avevo 13 anni, ero forse un ragazzino un po’ inusuale perché passavo molto tempo da solo in camera con il mio computer e questo sembrerebbe una cosa normale oggi. La classica storia del teenager col computer, ma quello era il 1981 e non conoscevo nessun altro che avesse un computer. Credo che non ce ne fossero a Gorizia, ed io avevo questo piccolo ZX80, che programmavo in basic, collegato a un televisore e facevo piccoli programmi, piccole formule matematiche, in quegli anni mi interessava l’astronomia, piccoli videogiochi. Giunto al ginnasio a un certo punto avevo bisogno di ripetizioni di greco e c’era un vecchio prete, don Antonio, salesiano, nel convento dietro casa che mi aiutava con il greco e un pomeriggio venne a sapere che io a casa giocavo con un computer e fu veramente incuriosito e chiese di vederlo dicendo, …beh, ne ho sentito tanto parlare alla televisione, non ne ho mai visto uno, sono vecchio, posso vedere un computer? E così organizzammo la visita e così venne a casa mia, poco distante e quando vide la macchinetta collegata al televisore chiese con un’aria quasi ostile: accendilo e dopo molti minuti chiedigli: quando è nato Alessandro Magno? Ed io gli dissi: ma non funziona così! Perché bisogna fagli fare le formule, i videogiochi, …No, no, chiedigli, non si sa mai, e così io, a 13 anni, lui avrà avuto 80 anni: e io scrissi al computer: quando è nato Alessandro Magno? E la risposta fu inevitabile: sintax error. E lui, aveva un’espressione veramente delusa sulla sua faccia e così propose: se faccio un programma in due minuti, può aspettare. Io posso fare un programma e allora lui decise di aspettare e il programma fu semplicissimo: a qualunque domanda rispondeva sempre 326, 356 a.C., quello che era l’anno, …non lo so…Chiamai don Antonio e dissi: adesso possiamo rifare il progetto e scrivendo la domanda questa volta la risposta fu perfetta. Quando è nato Alessandro Magno? 356 a.C. Pac! Successo! E mi aspettavo un trionfo. E la sua risposta fu terribile. Per forza che lo sa, gliel’hai appena detto! Anche un bambino lo saprebbe adesso, non conta! E gli dissi: ma questo è il modo con cui un computer funziona e la sentenza fu definitiva: Queste macchine non sanno mai meglio di noi e se ne andò, lasciandomi a pensare e ci pensai per parecchio tempo perché, anche inconsciamente, tantissimi anni dopo, quando vidi per la prima volta siri, da qualche parte strana del mio inconscio la prima domanda che uscii fu questa e la posso provare a rifare perché adesso parla anche in italiano siri, vediamo se funziona: quando è nato Alessandro Magno? Luglio 356 a.C. (applauso) Don Antonio ha notato, e mi venne voglia di tornare indietro nel tempo con quelle macchine tipo Primo Levi per mostrargli questo prodigio e spiegarglielo, perché nel frattempo ero diventato un esperto in intelligenza artificiale e sapevo bene come funzionavano questa macchine. Ovviamente non fu possibile spiegare queste cose a don Antonio. Ma anche se avessi potuto tornare indietro al 1981 cosa avrei potuto dirgli? Come si fa a dire a qualcuno che questa scatoletta bianca attaccata a un televisore bianco e nero fra tre anni qualcuno inventerà qualcosa che qualcuno chiamerà Windows e che si comincerà ad usare facilmente e magari fra 13 anni tutti l’avranno in casa per scrivere a macchina e cominceranno a collegarsi tra di loro col telefono per mandarsi la posta poi magari tra 15 anni la gente comincerà a collaborare online per scrivere una enciclopedia, Wikipedia. Non so cosa direbbe don Antonio. E poi fra venticinque anni i computers saranno tascabili dentro i telefoni. E fra trent’anni in qualche modo sarà possibile creare algoritmi che leggono Wikipedia, ne comprendono i contenuti, capiscono le domande nel linguaggio parlato e rispondono, come ha fatto adesso il mio telefono. Questa sarebbe la storia meno plausibile e incredibile del mondo. Non c’era nulla in quell’anno che lasciasse presagire che questo sarebbe diventato possibile. La domanda è: com’è andata? Com’è possibile che siamo arrivati a questo punto in questo momento? La storia di come siamo arrivati a questo punto, con questi algoritmi che possono rispondere a queste domande e fanno il resto, è una storia interessante ed è una storia che conosco perché in piccola misura ne faccio anche parte (piccolissima misura). Ma intanto la prima cosa da dire è che l’intelligenza artificiale esiste da sessant’anni o più, non è una cosa nuova, ma per i primi quarant’anni non ha prodotto veramente risultati utili. Si è cercato dagli anni cinquanta in poi di programmare i computers a fare quello che noi pensiamo sia il funzionamento dell’intelligenza umana. Ovviamente questi erano i primi pionieri matematici. Se tu chiedi a un matematico: qual è la cosa più intelligente che si possa fare come esseri umani? La risposta è chiara: dimostrare teoremi. Quindi l’idea della dimostrazione dei teoremi divenne il paradigma per il ragionamento intelligente. Quando proprio erano flessibili dicevano “giocare a scacchi”. Giocare a scacchi divenne il classico paradigma per decenni. Quando io ho fatto la tesi a Milano nel 1996 ancora si parlava di scacchi come un modello d’intelligenza artificiale. Ho trovato articoli in cui si cerca di ridurre i problemi di traduzione automatica, i problemi di navigazione di un robot autonomo, tutti quanti al problema degli scacchi. Ovviamente nessuno ha mai visto macchine che vanno da sole o traduttori automatici negli anni ottanta e novanta, non era possibile. Eppure oggi le abbiamo e questa è una cosa interessante perché a un certo punto, verso metà degli anni novanta, mentre ancora a scuola s’insegnava l’intelligenza artificiale classica, in cui si deve riprodurre la dimostrazione dei teoremi e la partita di scacchi, nella realtà nei laboratori si era già cominciato a sviluppare altri metodi, scorciatoie, trucchi. Perché il sistema non funzionava, quindi a scuola s’imparava il latino e poi a casa si parlava il volgare, all’università si faceva deduzione, assiomi, teoremi, logica e poi in realtà nel laboratorio si faceva quello che si faceva: trucchi statistici molto spesso. Così si cominciò a fare piccoli sistemi che capiscono il linguaggio parlato, riconoscono i caratteri manoscritti, magari individuano un volto in una foto. E lentamente si cominciò ad avere successo. Furono impiegati i primi sistemi funzionanti per leggere il codice postale sulle lettere, poi i primi sistemi per parlare con i computers, e avanti così. Bene, la lezione era chiara: invece che cercare di risolvere il problema astratto e generale, di ridurre qualcosa ad assiomi generali con la logica, è meglio imparare dagli esempi. Questo divenne il metodo che funzionò. Raccogliere grandi quantità di esempi: immagini da classificare, caratteri manoscritti, documenti bilingui da usare come esempio per traduzione, e poi disegnare algoritmi che imparano da questi esempi. Questo è il metodo di oggi e a me fa piacere perché il mio lavoro è sempre stato negli ultimi ventidue anni machine learning: l’apprendimento delle macchine, costruire macchine che imparano da esempi. Quindi improvvisamente il linguaggio dell’intelligenza artificiale non fu più quello della logica, della deduzione, dei teoremi e degli scacchi, ma quello della statistica, della ottimizzazione matematica, del pattern recognition (non so come si chiama in italiano). E gli esempi non furono più giocatori di scacchi ma cose come Amazon e Google. Amazon è un esempio perfetto: funziona decentemente, puoi raccomandare un libro a un utente e molto spesso la raccomandazione è plausibile senza avere un modello psicologico dell’utente e senza avere un modello letterario del libro, ma in base a correlazioni statistiche trovate nelle milioni di altre vendite che ha già fatto in precedenza. Ecco, questo è in essenza quello che facciamo quando vogliamo fare un sistema che corregge lo spelling, che corregge l’ortografia sul computer. Non c’è nulla di linguistico, cerca la sequenza di lettere più frequente che somiglia a quella che abbiamo digitato. Quando scrivete nel telefonino e avete il completamento automatico delle frasi, il computer deve cercare di indovinare quello che volete dire semplicemente avendo visto milioni di altri testi può trovare la frase più plausibile che potreste stare cercando di scrivere. Statistica e dati. Facebook può comandare contenuti, perché avete poco spazio su uno schermo e migliaia di possibili contenuti, e con questo tipo di tecnologia si può capire anche quale parte di una pagina Wikipedia riporta la data di nascita di Alessandro Magno. Statistica pura senza comprensione. Siri comprende il parlato, comprende i contenuti di Wikipedia e risponde alle domande. E’ così semplice, non c’è nulla di astratto e teorico. Però questo metodo ha bisogno di grandi quantità di dati, se un sistema intelligente fosse un razzo, il motore sarebbe l’algoritmo ma il carburante sarebbero i dati. Il problema per me è stato per anni fare l’algoritmo ma adesso il problema per noi è fornire tanti dati alla macchina, perché più dati forniamo, meglio la macchina funziona. E questo è l’inizio anche di un’altra storia che va detta subito, ma così è il modo in cui siamo arrivati dagli anni di don Antonio fino agli anni di oggi, cambiando completamente il paradigma (quello che Thomas Kuhn chiamava paradigm shift). Cambiando interamente il paradigma dell’intelligenza artificiale abbiamo conquistato dei problemi di computer vision, machine translation, speacher traslation che erano assolutamente al di fuori della nostra portata. Oggi abbiamo macchine che vanno da sole, senza guidatore, e abbiamo prodotti che guadagnano soldi, che sono venduti, che traducono, e avanti così. Ma i dati, ecco. Come facciamo a trovare milioni e milioni di immagini, di testi, di contenuti di ogni tipo, di comportamenti umani da usare come esempi per una macchina che impara? Questa è un’altra storia, perché nel frattempo mediante un’incredibile convergenza di tecnologie abbiamo creato una infrastruttura globale per lo scambio dei dati. Quello che una volta era il sistema telefonico, televisivo, telegrafico, bancario, i negozi, la posta, tutto questo è stato rimpiazzato da un singolo sistema, basato su internet largamente, che ci consente di mandare posta gratis, telefonare gratis, guardare video gratis. Tutto attraverso lo stesso medium, mezzo di comunicazione di massa. Ha preso il posto del resto, che infatti lentamente sta scomparendo. Ecco, quello è il posto ideale per raccogliere dei dati, perché non solo guardiamo passivamente queste cose ma il medium ci osserva. Osserva il nostro comportamento (cosa compriamo, cosa scriviamo, cosa facciamo, che scelte facciamo) e usa queste osservazioni per imparare. Questa forse è una cosa che è un po’ meno evidente perché è molto discreto il sistema. E’ discreto ma ci osserva con grande interesse perché deve imparare dalle nostre azioni. Imparare cosa ci interessa, cosa ci serve e cosa faremo se lui ci propone questa o quell’altra opzione. Prevedere le nostre mosse è importantissimo per i sistemi intelligenti di oggi, quindi Amazon, Google, Facebook, Twitter, tutti questi sistemi che conosciamo imparano continuamente osservandoci. Questo non è un telegrafo con un cavo di rame tra due persone, che è passivo, questo è un mezzo attivo che è molto interessato ai contenuti. Può bloccare delle e-mails sgradite, può raccomandare degli articoli di interesse. E questo mezzo ha i suoi scopi: scopo di Amazon è vendere i libri, scopo di Google è vendere pubblicità. Quindi noi comunichiamo tra noi usando un mezzo di comunicazione di massa nuovo, che non è neutrale, che è interessato ai contenuti, che comprende in parte i contenuti e che ha i suoi scopi. Lo abbiamo messo al centro di questa infrastruttura di cui facciamo uso e da qui non possiamo uscire perché non si può fare senza ormai. Questa è una storia incredibile se ci pensate, la prima volta che incontriamo nella nostra vita delle macchine intelligenti è in una condizione in cui non possiamo farne a meno, siamo obbligati. Perché ci siamo messi in questa condizione? Beh, è facile, c’erano dei vantaggi pratici ed economici. Le agenzie di viaggio lo sanno bene: oggi noi compriamo il biglietto direttamente dalla compagnia aerea e prenotiamo l’albergo da soli, c’è un sacco di gente in mezzo che non serve più. Questa si chiamava nel passato la disintermidiation, l’eliminazione degli intermediari. Questo ha avuto un grande vantaggio economico nell’incrementare l’efficienza dell’economia, e c’erano tanti intermediari: i pubblicitari, gli agenti di viaggio, ma anche le compagnie discografiche che ora hanno problemi perché c’è Apple che pubblica la musica direttamente. C’erano le compagnie editrici che ora devono gestire i problemi con Amazon che pubblica i libri direttamente. C’erano i giornali, non solo con gli annunci economici ma anche con le notizie, che adesso sono in crisi perché nessuno li compra più. Per un po’ abbiamo goduto di questo piacere di eliminare questi potenti intermediari (editori, giornalisti, impresari televisivi etc) e di pubblicare le notizie direttamente, fare dei video, dei libri; disintermediation. Qui iniziano anche i primi problemi, perché la verità è che a un certo punto ci siamo accorti che questa cosa qua ha anche dei lati negativi. Qualche anno fa qualcuno ci ha detto che alcuni stati hanno costruito un sistema di sorveglianza che usa proprio quest’unica infrastruttura globale per monitorare le comunicazioni. Le telefonate, le e-mails, skipe, gli acquisti, le informazioni che leggiamo o le cose che compriamo. C’è stata grande sorpresa sulla stampa, tutti sono rimasti sorpresi indignati, arrabbiati, ma la verità è: che cos’altro ci aspettavamo? Se abbiamo migrato tutte queste cose su un solo sistema e questo sistema è digitale manca solo un computer al centro che legga tutto. A parte le compagnie che lo fanno per la pubblicità, era quasi inevitabile. Ecco, la privacy. Avere delle macchine che s’interessano a noi e fanno dei modelli di cosa faremo noi in diverse condizioni per sfruttarli è una cosa nuova, non c’è mai stato prima. Poi lo scorso anno abbiamo avuto altre interessanti situazioni, per esempio la compagnia di assicurazioni Admiral in Inghilterra ha messo a punto un sistema che decide il prezzo che pagate per assicurare la vostra macchina in base ai contenuti che avete messo su Facebook, perché in base a questi contenuti si può inferire la vostra personalità e certi tipi di personalità secondo loro sono collegati a rischi più o meno alti. Le vostre attività online danno informazioni che non volevate dare sulle vostre personalità e questo influenza il costo. Un’altra compagnia, Cambridge Analitica, sempre nel Regno Unito, ha usato queste informazioni psicometriche per scegliere i messaggi elettorali da mandarvi personalmente. Quindi ognuno ha ricevuto messaggi diversi in base alla propria personalità. Questo, loro si vantano, ha influenzato sia le elezioni di Trump sia quelle del Brexit. Sarà vero o no? Loro comunque lo affermano con grande piacere. Sempre lo scorso anno abbiamo visto la diffusione massiccia di notizie false, la campagna di Hilary Clinton è stata danneggiata da notizie chiaramente false che circolavano in gran numero sui social media, perché gli algoritmi che le raccomandavano sono designati perfettamente per aumentare al massimo il numero di click non per controllare la validità. Scandalo, shock e sorpresa ma cos’altro ci aspettavamo se abbiamo tolto gli intermediari? La verità è che non li abbiamo tolti, li abbiamo rimpiazzati con degli algoritmi intelligenti. Non è che se ne vanno gli intermediari, al centro di tutto ci sono degli algoritmi che decidono, cosa mandare a chi, cosa bloccare e avanti così. Ora noi chiediamo che Facebook blocchi le notizie false e magari anche i casi di bullismo e i contenuti criminali. Prima o poi lo faranno se glielo chiediamo per legge: ci sarà un ulteriore filtro in cui il nostro sistema di comunicazione dovrà decidere quale contenuto è accettabile e quale no. Poi ci arrabbieremo perché c’è la censura, però dobbiamo cominciare ad affrontare da adulti questi dilemmi. O l’uno o l’altro. C’è una serie di dilemmi di questo tipo che stanno emergendo per la prima volta, perché abbiamo messo macchine intelligenti al centro della nostra vita. Un altro è la compagnia americana Compass, che produce un software che usano i giudici per decidere quale detenuto può uscire su cauzione, usato per esempio in Wisconsin. Va bene, magari funziona: impara da esempi del passato e fa la previsione Però, cosa diciamo noi, cosa possiamo dire, se un algoritmo ci nega la libertà su cauzione? A chi possiamo parlare? O se ci dice che nostro figlio non può andare in quella scuola perché non avrà successo o che non possiamo avere l’assicurazione sulla macchina perché non siamo affidabili o il mutuo…
Sono domande che sono nuove e bisogna chiederle, a parte il grande problema della privacy. Quindi, in questo momento ci manca tutto un insieme di componenti della cultura. Io non ho delle fiabe da raccontare ai miei figli per avvertirli dei problemi e dei rischi e di come pensare e non ho la cicala e la formica o cappuccetto rosso… Questo è un mondo diverso. So solo che in questo momento la ricerca va avanti molto veloce e ci sono altre cose in arrivo: tecnologie persuasive sono un oggetto di ricerca, c’è una grande pressione per sviluppare l’internet of things (l’internet delle cose), che vedrà connesse all’internet ulteriori parti della nostra vita (il frigorifero, il garage, le automobili, la televisione; ci saranno ovviamente bitcoin e i pagamenti elettronici); e poi c’è addirittura gente che parla di algoritmic regulation: l’idea di implementare le leggi in modo automatico mediante algoritmi. Tutto questo è in arrivo.
Ecco, da un lato, in una prima fase il nostro progresso ci ha dato più autonomia, eliminando i centri di poteri, gli intermediatori, ma ora sono a rischio di ridurre di molto la nostra autonomia, perché se l’algoritmo è incaricato di manipolare, di modificare, di predire, di gestirci… eh, in qualche modo riduciamo la nostra autonomia. Ed è difficile anche spiegarle e se è difficile spiegarle queste cose, non è facile decidere cosa vogliamo fare, quali leggi mancano, quali valori mancano e questa è la sfida di oggi. Non tanto “fare” le macchine intelligenti, ma imparare a vivere con le macchine intelligenti in società, finché siamo ancora in tempo. Tra l’altro, alcune di queste cose non sono reversibili, ma altre ancora stanno arrivando. Ed è bello che oggi si parli di Faust in questo convegno, perché qui siamo veramente in questa posizione: abbiamo avuto dei vantaggi immediati, abbiamo dato qualcosa in cambio, abbiamo ricevuto potere e convenienze, comodità, gratis, tra l’altro, e abbiamo risparmiato, ma abbiamo perso un po’ di autonomia e il mio problema è che forse nel futuro ne perderemo ancora un po’. L’opinione pubblica viene influenzata facilmente da questi nuovi media e avanti così. E non abbiamo una struttura culturale legale per capire queste cose. Bene, io non so come riusciremo a gestire queste cose, ma sono molto ottimista: un esempio c’è stato nel passato del movimento ambientalista, quando si pensava che il futuro sarà sicuramente più inquinato e più industriale e invece grazie al coinvolgimento di umanisti, artisti, giornalisti, siamo riusciti a cambiare il futuro e oggi il mondo è più pulito che trent’anni fa. Ma questo non è una cosa che fanno gli ingegneri o gli scienziati da soli. Questa è una cosa che ha bisogno di tutti (gli artisti, gli umanisti, gli altri), perché è una decisione che bisogna prendere tra l’altro, in modo collettivo, non deve prenderla un ingegnere a Palo Alto per voi. E quindi, alla fine dei conti io non so se don Antonio avrebbe capito tutto quello che ho detto oggi, però avrebbe capito questo, da umanista, che dobbiamo stare attenti che siano le macchine a servire noi e non noi a servire le macchine, questo l’avrebbe capito. Grazie.
ALESSANDRO VATO:
Ringrazio molto i relatori perché sono riusciti a darci un quadro ben dettagliato della situazione in tutti i loro aspetti. Allora, c’è tempo adesso per alcune domande, che mi nascono, appunto, sentendo, le vostre relazioni. E’ chiaro che il punto critico non è la tecnologia, non è la ricerca scientifica, ma è l’uomo. E volevo fare questa domanda, la rivolgo a te innanzitutto: è evidente che la rapidità con cui evolve lo sviluppo tecnologico richiede un tempo di assimilazione all’uomo, che è come se ci trovasse un po’ impreparati, tanto che, appunto, l’esempio, mi è piaciuto molto l’esempio che hai fatto tu di quello che pensiamo che sia una scoperta incredibile e invece magari ci perdiamo un’altra scoperta che è più recente e che probabilmente avrà grossa influenza nel nostro futuro prossimo. Quindi c’è un problema di autocoscienza, di coscienza dell’uomo che sta di fronte a questo sviluppo tecnologico, così rapido. Che cosa possiamo fare? Lo so che è una domanda non facile, ma qual è il punto critico in questo, per non arrivare sempre dopo, per non essere sempre in ritardo rispetto a qualcosa che sta accadendo?
GIANFRANCO PACCHIONI:
Sicuramente fare quello che stiamo facendo oggi, cioè discutere in maniera aperta e in maniera ragionata di questi problemi. Purtroppo non viene fatto abbastanza. Allora, la domanda che fai è molto complessa, non c’è una risposta. Una cosa è certa: come ho detto nel mio intervento, non credo che nella storia dell’umanità ci sia stato mai un momento dove il cambiamento è così rapido e, dato che scienza e tecnologia la rivoluzione scientifica ha duecento anni, ma diciamo la sua curva di impatto è cresciuta esponenzialmente negli ultimi decenni tra l’altro, ramificandosi (io come avete visto ho toccato temi diversissimi, anche perché molti di questi si intrecciano e si sovrappongono, cioè, di fatto le differenze tra nanotecnologie, biotecnologie, molto spesso questi confini vengono a mancare) questo rende difficile avere una visione complessiva, proprio perché sta diventando uno sviluppo tumultuoso in tutte le direzioni. Questo è molto preoccupante perché ovviamente, perdendo la visione d’insieme, si rischia anche di essere travolti. La prima cosa da fare secondo me è cercare di capire, cercare di conoscere, cercare di seguire questi processi, anche se mi rendo conto che non è facile, non è facile neanche per persone come noi che, ripeto, in qualche modo viviamo all’interno di queste realtà in maniera più diretta. Però io ho l’impressione che una grande fetta dell’opinione pubblica sia in realtà totalmente ignara, che è una cosa molto diversa, o addirittura veda soltanto degli aspetti positivi, che ci sono sicuramente, senza vedere quelli che sono un po’ quelli… cioè come diceva prima Nello, noi stiamo regalando tutti i nostri dati personali, la nostra storia, tra un po’ daremo anche i nostri dati genetici in pasto a questo tipo di sistemi. A quel punto si creeranno dei problemi che sono stati affrontati, che sono stati illustrati. Quindi, per me è molto importante che se ne parli. Sono un po’ pessimista perché, a chi ci rivolgiamo? Quali sono i grandi organismi, i grandi enti? La politica, purtroppo ha una prospettiva in genere che è molto più corta, molto più ridotta rispetto alla portata dei problemi di cui stiamo parlando e questo non soltanto a livello nazionale, a livello internazionale, e quindi è molto difficile tradurre anche un eventuale movimento (va beh, il movimento ambientalista ha avuto questo effetto su dei temi però molto concreti e molto pratici), tradurlo in una richiesta, dicevamo, di riflessione a livello globale, a livello politico diventa molto difficile. E poi c’è quello cui Nello ha accennato e che a me preoccupa moltissimo, che è la manipolazione della nostra società: questo è veramente l’aspetto più delicato, perché già oggi questo ormai …cioè non vorrei che avessimo già passato il punto di non ritorno in questa fase. Ripeto, tutte le persone dotate di buona volontà, di coscienza, di desiderio di apprendere (e secondo me ce ne sono tante), sono chiamate a fare uno sforzo collettivo. In questo momento la cosa da fare è cercare di aprire le coscienze e aprire un dibattito, perché le soluzioni vanno trovate in qualche misura.
ALESSANDRO VATO:
Grazie. Nello, volevi aggiungere qualcosa a questo?
NELLO CRISTIANINI:
Brevemente. Non ho soluzioni specifiche da raccomandare (sarebbe bello se le avessi). Ci saranno comunque… ci sono delle leggi che mancano e i politici non credo che le capiranno e nemmeno le faranno se a noi non interessa, se noi cominciamo a capire cosa c’è in gioco, poi ci saranno dei motivi per una compagnia, per esempio, di fare un motore di ricerca o una rete sociale con certi criteri più socialmente accettabili… poi dipenderà da noi quale usiamo. Ci saranno dei prodotti come le uova organiche o no e noi scegliamo il prodotto che è più vicino ai nostri valori. Partiti: su molti partiti noi votiamo per quello che è più vicino ai nostri valori. Ma il punto iniziale è comunicare e chiarire con tutti cosa c’è in gioco, altrimenti tutto questo gioco non può cominciare.
ALESSANDRO VATO:
Grazie. Faccio un’altra domanda a entrambi. Parto da Nello, perché ha tirato fuori il tema. Il nostro dialogo di stasera è evidente che ha a che fare molto con il titolo del Meeting, perché (e questa è la domanda) la generazione di adesso ha difficoltà a dialogare su queste cose, su questi tempi specifici apparentemente con la generazione precedente, perché, come tu hai avuto problemi a spiegare cos’è un computer al don Antonio. Però il titolo del Meeting dice: “Quello che tu erediti dai tuoi padri, riguadagnatelo per possederlo”. Quindi, la mia domanda è: che cos’è che dobbiamo riguadagnare nel rapporto con don Antonio, per esempio, che cosa, come la tradizione, come un umano educato può affrontare, non da esperti (perché evidentemente non è una questione di competenze unicamente), ma come un umano adulto può affrontare questi temi, cosa possiamo imparare noi adesso da don Antonio?
NELLO CRISTIANINI:
Non è facile dire qualcosa che non sia banale, qui, però la verità è che sfide grandi le abbiamo già viste in passato, non è questa la prima volta che siamo davanti a un bivio. Si tratta, secondo me, di… Io sono disposto anche a rallentare un po’ la ricerca, se necessario, in biologia questo si fa, in biologia si aspetta il comitato etico, per esempio che approvi certi studi, in fisica anche questo accade, non capisco perché in informatica queste cose non vengono discusse. Certe volte è importante anche rallentare, ma quello che è più importante è sapere cosa conta, quindi, ecco, il dibattito dovrebbe essere sui valori, prima di fare leggi, bisogna parlare di valori: cosa conta per noi? E’ più importante risparmiare un po’ di soldi, è più importante avere autonomia dei cittadini, è più importante privilegiare l’interesse collettivo, quello individuale? Queste sono domande che prima o poi comunque ogni generazione deve ripetere. Così come c’è il dilemma: “Vogliamo più sicurezza o più privacy, più libertà?” Come se ci fosse una tensione fra troppa libertà e sicurezza, no? C’è una serie di dilemmi che affrontiamo noi adesso, come quelli di prima (vogliamo che i contenuti di Facebook siano o no filtrati?). Ci saranno dei dilemmi. Il nostro contributo sarà elencarli, sono già soddisfatto se riusciamo a elencarli. Le generazioni precedenti possono mostrarci le priorità, immagino, cos’è che dobbiamo valutare.
ALESSANDRO VATO:
Grazie. Giro questa domanda anche a Gianfranco. E’ evidente e mi hanno molto interessato vari aspetti e ritorno all’umano anche perché entrambi avete usato questo termine “imitare dalla natura”, quindi è evidente che il punto di riferimento è il reale, è quello che già c’è e sul fatto di guardare la realtà, secondo me, i nostri padri hanno molto da dirci. Volevo chiederti: come evitare che le vecchie generazioni, i nostri padri, si tirino indietro da questo punto di vista? Tu hai fatto un libro dove racconti un po’ i problemi della scienza, lo sviluppo negli ultimi anni della ricerca scientifica e quindi affronti questo problema tra le varie generazioni di come fa la scienza. Che cosa e ribadisco la domanda in un altro modo: che cosa noi veramente possiamo ereditare dai nostri padri come tradizione e cosa vuol dire che noi ce lo riguadagniamo per poterlo mettere in gioco in questa nuova sfida di queste tecnologie?
GIANFRANCO PACCHIONI:
E’ una bella domanda. Io sicuramente ho concluso il mio intervento con questi racconti di Primo Levi, proprio per cercare di mettere al centro di questa riflessione il fatto che comunque c’è la figura umana, c’è la persona umana, che è dotata di intelligenza (e oggi possiamo, l’intelligenza, replicarla in modo artificiale), ma è dotata anche di coscienza. E Levi aveva una personalità e una sensibilità grandissima e se uno legge questi racconti degli anni sessanta, si intravvede la sua preoccupazione e lui lancia un messaggio, cioè lui cerca di dire: attenzione, io intravvedo un futuro che forse all’epoca era assolutamente imprevedibile, però già lo vedo e quindi è molto importante, in qualche misura, coglierne le implicazioni. Ora ci siamo arrivati e di questi messaggi, che prima erano un po’ subliminali, sono diventati più forti e dobbiamo in primo luogo mettere al centro l’educazione cioè l’educazione e al centro dell’educazione il nostro essere di persone razionali ma anche con dei sentimenti: le macchine ancora questo non ce l’hanno. Non mi risulta che i computer s’innamorino e quindi forse abbiamo delle prerogative che avevano più spazio nel passato. Oggi forse stiamo dando troppo spazio al ruolo dell’automazione. Dobbiamo riconquistare uno spazio a quella che è la figura centrale di uomo. Questo, ripeto, attraverso riflessioni, attraverso la scuola, per esempio. Ho l’impressione che si parli poco di queste cose nella scuola, ma capisco che non è facile, proprio perché è un’evoluzione così rapida che anche formare gli insegnanti a parlare di questi temi non è banale Quindi direi, che dal passato abbiamo molto da imparare. Nel libro che tu citavi io racconto come facevamo scienza quando io ho cominciato negli anni ottanta. Era un modo abbastanza diverso che è cambiato un po’ proprio per gli stessi meccanismi. Per esempio nel riconoscere i maestri, imparare dalle persone che in qualche modo erano un punto di riferimento. Oggi questa figura dei maestri c’è sempre di meno, c’è sempre più la rete come elemento di confronto. Non dico che sia negativo, però, ripeto, i buoni maestri sono spesso quelli che ci lasciano poi il messaggio più forte, quello che noi poi cerchiamo di trasmettere agli altri. Questo non dobbiamo perderlo di vista.
ALESSANDRO VATO:
Ringrazio entrambi i relatori veramente, è un applauso meritato. Concludo dicendo un aspetto che non mi aspettavo (non sapevo i loro interventi di cosa parlassero esattamente), però è evidente un punto, che il problema non sono le macchine, la tecnologia, i robot o l’intelligenza artificiale, ma il punto principale è una sfida educativa perché i robot, la tecnologia e la ricerca scientifica è fatta da uomini e quindi avete usato termini come “consapevolezza”, “valori”, “coscienza”, “educazione”… Questo è il punto e quindi il messaggio che esce, come lo interpreto io, da questo incontro, è che quello che stiamo facendo qua è il modo migliore per accettare la sfida educativa, che questi temi, che queste nuove tecnologie comunque lanciano e richiedono a noi con tutte le nostre professionalità (ingegneri, matematici, chimici, legislatori, politici): ognuno nel suo ambito, non può evitare di accettare questa sfida. E quindi rilancio questa sfida a voi, alle persone che partecipano al Meeting quest’anno e che poi torneranno nei loro luoghi di lavoro. Questo dialogo continua stasera con gli stessi relatori in una maniera più bidirezionale, nel senso che potrete fargli domande nello spazio WHAT che è stato messo a punto da Euresis e da Camplus, proprio per permettere di avere un dialogo diretto dopo gli incontri di questo tipo e quindi ringrazio ancora tutti.
Dico un’ultima cosa: quest’anno è possibile contribuire alla costruzione del Meeting attraverso delle donazioni. A questo scopo all’interno di numerosi padiglioni troverete le postazioni Dona Ora. Le donazioni dovranno avvenire unicamente presso i desk dedicati dove sarete accolti da volontari che indossano la maglietta verde Dona Ora. Quindi non sbagliate. Questo è il modo con cui noi in qualche modo contribuiamo, diamo un contributo anche materiale al creare uno spazio dove a tema c’è esattamente la sfida educativa e quindi un tentativo di una educazione.
Vi ringrazio, ringrazio i relatori e ringrazio tutti e buona serata.