Da qualche giorno si è concluso SIMPOSIO, progetto-evento di NONE, giovane collettivo italiano di architetti, interessato a ricercare i confini dell’identità, il rapporto uomo-macchina, quello tra cinema e arte, e tutto quanto i cambiamenti della storia e delle tecnologie che le danno forma si presti al loro sguardo. Quest’anno si è svolto nel Villaggio ENI a Borca di Cadore (4-7 luglio, 2019), nel paesaggio e nello spirito delle Dolomiti con l’intenzione di creare una community genuina stimolando la percezione, la facoltà critica e il pensiero profondo per provare a creare nuovi modelli per la comprensione della contemporaneità e per formulare nuovi mondi. Su Arshake ne ha parlato tempo fa Angelo di Bello con Aspettando Simposio e ne riparlerà presto per raccontare la sua esperienza. Nel frattempo, abbiamo parlato con Alessia Zarzani venuta da Montréal per raccontare a SIMPOSIO della sua particolare esperienza nella collaborazione alla Dichiarazione di Montréal per un’intelligenza artificiale (IA). L’intervista si è svolta via e-mail il 2 luglio, 2019.
E.G.Rossi: Ci puoi raccontare della tua ricerca? Come un architetto paesaggista si è ritrovato all’interno di una ricerca su etica e AI?
La dichiarazione di Montréal per un’intelligenza artificiale (IA) responsabile, resa pubblica nel dicembre 2018, è un vademecum per l’uomo, la politica, le industrie ed i cittadini, che affronta 10 principi etici e indirizza ad 8 raccomandazioni per mantenere il controllo dell’uomo sulla macchina.
Lanciata nell’ autunno 2017 dall’Université di Montréal, ci sono voluti diciotto mesi di intenso lavoro, un’equipe trans-disciplinare composta da filosofi, urbanisti-architetti, giuristi, bioetici, informatici, esperti in apprendimento sia umano che delle macchine, decine di eventi e workshop organizzati per co-redigere la dichiarazione, coinvolgendo oltre cinquecento cittadini, esperti, organizzazioni e associazioni interessate. La dichiarazione è una mappa che cerca di tracciare in un settore in piena espansione, il cui potere e capacità di mutazione della società sono fenomenali, le linee etiche che sono associate.
Far parte dell’equipe di ricerca é stata una concatenazione di fortunati eventi, nel 2016, quando, come dottoranda in paesaggio, insegnavo come assistente della Professoressa Alessandra Ponte, storica del paesaggio, dell’Université de Montréal. Puntualizzo che quando si parla di Paesaggio intendo la comprensione della formazione di un territorio che al suo interno ingloba differenti valori sia culturali, economici ed ecosistemici. Per il trimestre invernale abbiamo costruito un corso di Research by design studio (un laboratorio di ricerca in architettura) basato proprio sulla questione del perché Montreal vuole diventare la nuova Silycon Valley per l’Intelligenza artificiale. La ricerca partiva dal presupposto di come sia facile dimenticare che l’immaterialità e ubiquità delle informazioni oggi richieda una loro traduzione in nuove tipologie architettoniche e strategie planetarie urbane per ospitare sistemi infrastrutturali per far circolare e ordinare la massa dei dati prodotti dagli utenti. Questo lavoro di ricerca con gli studenti ha dato la possibilità di produrre una nuova cartografia capace di leggere i medium dell’informazione materici. Nell’ottobre del 2017 è nata una prima pubblicazione che è finita in mano di Christophe Abrassart, responsabile della co-costruzione della Dichiarazione che mi ha contattato per sapere se ero interessata a collaborare con l’equipe. In particolare, mi sono occupata della creazione degli scenari in prospettiva per le differenti attività pubbliche inerenti le Smart cities, tra cui le AVs ( autonomous vehicule system), e gli IoT, dei racconti brevi, dagli immaginari infra-utopici, che potevano alimentare la discussione riguardante i differenti problemi etici. La collaborazione come ricercatrice con la Dichiarazione si è susseguita fino all’analisi dei dati e redazione finale del dicembre 2018.
Raccontavi che il tuo metodo di lavoro consiste nel creare degli scenari, dei racconti che poi vengono letti nelle biblioteche di Montréal, a volte distopici, per permettere di discutere dei principi etici. Come costruisci questi racconti? A chi sono diretti? Quali riscontri hai avuto rispetto alle tue aspettative?
Il metodo di ricerca utilizzato per la Dichiarazione è stato quello della co-costruzione in prospettiva strategica, altrimenti detta foresight, con degli scenari ambientati nel 2025 divisi per settori di interesse che proponevano una situazione specifica.
Occupandomi di paesaggio urbano, non si può certamente omettere l’impatto che la nuova mobilità autonoma avrà anche nell’utilizzazione dello spazio pubblico, nella condivisione dei mezzi di trasporto e del sistema integrato per l’ottimizzazione della viabilità. Indagare l’etica nell’algoritmo delle Autonomous cars diventa essenziale. Difatti una maggiore autonomia data all’intelligenza della macchina in questi ruoli può portare a situazioni in cui l’IA deve fare scelte autonome che coinvolgono la vita dell’uomo. Basandoci su differenti ricerche in atto, sui recenti fatti di cronaca, e sulle innovazioni tecnologiche ancora in sperimentazione, abbiamo scelto di proporre uno scenario che come protagonista aveva un veicolo senza conducente per nutrire il dibattito riguardante differenti valori etici quali benessere collettivo, democrazia, giustizia, vita privata, etc… Questo scenario, è stato discusso sia nelle biblioteche che in sessioni di lavoro specifiche. Non esistendo una buona o una cattiva risposta in questo metodo di ricerca, il riscontro che ho avuto è stato sempre positivo, in quanto vedevo con i miei occhi l’interesse che questo approccio più creativo e democratico riusciva a dare come risultati.
Se alcune decisioni importanti sono prese sulla base di calcoli algoritmici, come è, o dovrebbe essere, distribuita la responsabilità di tali scelte? [questo il relazione alle macchine autonome ma da estendere a qualsiasi AI che sia coinvolta nel decision making in relazioni a questioni di carattere generale, tra le quali anche quelle climatiche]
In generale, come specificato nella Dichiarazione che potete trovare on line, i principi e le raccomandazioni che l’equipe di ricercatori ha sviluppato hanno proprio questo scopo: devono servire ad elaborare responsabilmente l’algoritmo. Come espresso nel rapporto finale, i principi e le raccomandazioni di questa Dichiarazione sono le direzioni di una bussola etica che guida lo sviluppo dell’intelligenza artificialmente verso fini moralmente e socialmente desiderabili. La Dichiarazione è uno strumento per poter facilitare questa transizione digitale che tuteli il benessere e la libertà e l’eguaglianza di tutti e tutte.
Sei entrata nel progetto come architetto paesaggista. Quali discipline e professionalità sono state chiamate a collaborare al vostro progetto? Ce ne sono altre che sentite di dover coinvolgere e che non avete ancora coinvolto?
Come primo approccio sono stati organizzati i cinque settori di sviluppo dell’IA: il settore dell’istruzione, il settore della polizia giudiziaria e predittiva, il settore sanitario, il settore del lavoro e il settore delle smart city e oggetti connessi. Attraverso le attività svolte altri quattro cantieri sono emersi, quello della alfabetizzazione numerica, dell’inclusione numerica della diversità, della governance partecipativa, e dell’ambiente. Differenti ricercatori specializzati in materia si sono trovati a collaborare insieme a specialisti in arte, sociologia, robotica, scienze ambientali e paesaggistiche, legge, bioetica, criminologia, apprendimento, scienze dei dati.
Tutte le discipline sono o saranno soggette a riflettere sull’argomento, noi abbiamo solo avviato questa discussione. La Dichiarazione è un primo passo per un ragionamento collettivo e democratico. Come specificato nella Dichiarazione, questa è un documento di orientamento aperto, adattabile alla luce dell’evoluzione della conoscenza e delle tecniche dell’utilizzo dell’ IA nella società.
Dato che presto sarete immersi nella natura – circondati dalle montagne venete – a dibattere sulla tecnologia, ti chiedo cosa significa per te natura. Dovremmo ripensare il termine anche alla luce di quanti si sono arresi all’idea che la natura sia un costrutto tutto culturale e che, in quanto tale, va completamente rivisto?
Secondo Gilles Clément, teorico del paesaggio, la natura in quanto elemento incontaminato dall’uomo non esiste, al suo posto possiamo ritrovare una nuovo paesaggio selvaggio, mutevole e ribelle. Secondo il teorico ci troviamo in un giardino planetario di cui l’uomo deve prendersi cura. L’architetto Buckminster Fuller, negli anni 70 parla del nostro pianeta e del suo ecosistema naturale denominandolo astronave spaziale terra dandoci un manuale di istruzione per non arrivare alla distruzione. Credo che sia arrivato il momento di redigere un manifesto contemporaneo che integri in questo discorso le nuove tecnologie, e penso che a Simposio, circondati dalle Dolomiti, ci siano gli elementi per poter iniziare questa riflessione collettiva.
Alessia Zarzani si è diplomata in architettura e progetto urbano all’Università la Sapienza di Roma. Dopo aver indagato la metropoli e l’urbanistica in contesto informale a Rio de Janeiro, nel 2018 ha ricevuto un PhD in cotutela in Design presso l’Università di Montréal e in Planning e Management per il Paesaggio e per l’Ambiente presso l’Università la Sapienza di Roma. E’ attualmente professore a contratto in Landscapes and Urban Spaces and History Theories and Practices of Contemporary Landscape presso l’Ecole d’architecture de paysage et urbanisme dell’Università di Montréal. Alessia Zarzani collabora con il gruppo di ricerca presso UdeM su Intelligenza Artificiale e Urban Design, ed è ricercatrice per la “Montréal Declaration for a responsible AI”.
immagini: (cover 1) Simposio plenario – Aula Magna. Villaggio ENI. photo credits Cristina Vatielli – NONE collective (2) Alessia Zarzani – Simposio. photo credits Cristina Vatielli – NONE collective (3) Architecture et information 2.0, Université de Montreal, 2017, slide,copyright Montréal Declaration for the Responsible Development of Artificial Intelligence (AI) (4) A. Ponte, A. Zarzani(2017), Architecture et information 2.0, Université de Montreal, copyright Montréal Declaration for the Responsible Development of Artificial Intelligence (AI) (5) Simposio, Campeggio. photo credits Cristina Vatielli – NONE collective