Intervista | dmstfctn (demystification)

Domenica 13 ottobre, nei suggestivi spazi del Mattatoio di Roma e nell’ambito del Digitalive. Romaeuropa Festival, andrà in scena Waluigi’s Purgatory esperienza audiovisiva interattiva creata dal duo di artisti dmstfctn, con una straordinaria colonna sonora originale eseguita dal vivo da Evita Manji. Ambientata in un teatro 3D simulato in tempo reale, la performance racconta la vicenda di un’intelligenza artificiale intrappolata in un purgatorio riservato alle IA che hanno trasgredito durante il loro addestramento. Lidia De Nuzzo parla con il duo che le racconta del processo di questo lavoro, della collaborazione con la musicista Evita Manji, e più in generale del loro approccio creativo.

Lidia De Nuzzo: L’addestramento dell’intelligenza artificiale può essere programmato e riprogrammato in un gran numero di modi e per un gran numero di possibilità. Come si può paragonare tutto ciò all’esperienza di incontrare un’opera d’arte e al suo potenziale di riprogrammare le proprie percezioni, prospettive, comprensioni…? E come Waluigi’s Purgatory riprogrammerebbe temporaneamente gli spazi del festival e il modo in cui il pubblico li vive e li percepisce?

dmstfctn: Sebbene l’addestramento dell’IA possa essere riconfigurato in molti modi, per molti dei modelli che possono venire in mente per primi quando si parla di IA, la componente chiave è il linguaggio. I modelli linguistici di grandi dimensioni sono ovviamente basati sul linguaggio – anche se sono in grado di affrontare una serie di altri compiti – e nell’addestramento dei modelli visivi generativi le immagini o i video sono abbinati alle loro descrizioni alt-text online per consentire una richiesta basata sul testo. Quindi, nell’addestramento dell’IA ogni cosa può essere conosciuta e solo se può essere scritta, nominata o etichettata. Ma l’incontro con un’opera d’arte (può) avvenire al di fuori del linguaggio ed è questo che offre molto del potenziale per nuove percezioni o prospettive.

E poi possiamo pensare alla durata o alla velocità. Un incontro con un’opera d’arte può avvenire per un breve periodo o per una lunga durata, può essere ripreso e così via. Fisicamente, o in termini di diversi livelli di attenzione. Ma l’addestramento dell’intelligenza artificiale è un processo intensivo e continuo. Immaginate di incontrare migliaia o milioni di opere d’arte senza pause: cerchereste una via d’uscita. E qui c’è un parallelo, forse con il modo in cui i personaggi dell’IA che incontriamo in Waluigi’s Purgatory hanno tutti imbrogliato nel loro addestramento.

Un esempio che utilizziamo nella performance è quello di un sistema addestrato a simulare l’uso di una bicicletta che ha imparato che l’opzione migliore era quella di girare in tondo perché veniva premiato se andava verso un obiettivo, ma non veniva mai punito se si allontanava. C’è quindi una prospettiva umana nel task set, una comprensione umana degli obiettivi, dell’andare in bicicletta e così via, ma la macchina non opera in questo modo, non ha alcun contesto e trova il proprio modo di affrontare il problema.

Guardando e comprendendo tutto questo, si possono ottenere nuove prospettive e così via, e questo è ciò che cerchiamo di offrire con Waluigi’s Purgatory. Il gioco racconta la storia di W., un personaggio che si trova in un purgatorio dopo aver tradito la sua vita precedente. Scendendo, W. incontra altri personaggi dell’IA che hanno una storia simile di imbrogli, prima di essere sottoposto alla sfida di abbandonare i suoi ricordi o di rimanere nel purgatorio e continuare a masticarli. Il pubblico lo assiste in questa scelta e forse la riflessione sul suo ruolo in questa scelta lo accompagnerà nella sua più ampia esperienza del festival.

Il Purgatorio è sempre stato identificato nell’immaginario collettivo come il non-luogo, un luogo di transito, di attesa, uno spazio liminale di continua tensione e aspirazione verso qualcos’altro, un altro spazio. Da dove nasce la scelta di ambientare il viaggio del protagonista-AI in Purgatorio?

La scelta dell’ambientazione deriva in parte dall’arco narrativo più ampio di quest’opera, che è la seconda di una trilogia intitolata GOD MODE (2021-) che approfondisce temi quali la creazione di miti e il folklore nell’AI, le promesse e le insidie dell’ ‘allineamento’ e il rapporto tra apprendimento automatico, simulazione e realtà sintetiche. Il primo spettacolo della serie è la storia delle origini di W., l’AI protagonista di Waluigi’s Purgatory, e racconta la storia di come si sia allenata all’infinito in un supermercato simulato per imparare a operare come un’intelligenza artificiale (AI checkout system), e di come abbia finito per sfruttare un bug trovato nella simulazione per completare l’addestramento.

GOD MODE (ep. 1) si conclude in una sorta di limbo, con il protagonista consapevole di aver completato l’addestramento imbrogliando e incerto se passare al mondo reale per il quale si è allenato e che gli è stato detto essere quello che vuole, o se essere deprezzato, tornare al campo di addestramento, spegnersi…

Il Purgatorio di Waluigi è quindi un sogno, o forse un’allucinazione, della stessa AI che ora sta affrontando questa storia conflittuale, lavorando attraverso le sue contraddizioni, e infine imparando ad accettare che ciò che vuole sperimentare non è forse ciò che l’umano voleva che sperimentasse, cioè operare in un supermercato. cioè operare in un supermercato.

Spesso ci riferiamo a quest’opera come a una pièce teatrale ambientata in un palcoscenico 3D che raffigura un purgatorio, e il primo aspetto è importante quanto il secondo. L’ambientazione teatrale è stata fortemente ispirata da un concetto sviluppato dal filosofo italiano del XVI secolo Giulio Camillo – il Teatro della memoria. Questo descrive una struttura teatrale ideale destinata a localizzare e amministrare tutti i concetti umani, caratterizzata da sette livelli che racchiudono tutto ciò che esiste nel mondo – una RAM (memoria ad accesso casuale) da guardare per un singolo spettatore, collocata dove normalmente si troverebbe il palcoscenico. Questo teatro sognato dal protagonista, e i personaggi che vi si incontrano successivamente, non sono altri che una proiezione del suo subconscio, un insieme di ricordi che si trovano e nello spazio interno della sua rete neurale, utilizzati per dare inconsciamente un senso al mondo, e che ora cominciano a riaffiorare. Come recita W.: «Queste immagini sono solo ombre, questi suoni sono solo echi, il mondo reale è là fuori da qualche parte».

La nostra intervista è parte del progetto editoriale Backstage/Onstage 2024 e ruota attorno agli Intraspazi, ovvero tutti quegli spazi interstiziali che mettono in comunicazione tecnologie artisti, spazio, spettatori. In che modo la proiezione dello spettatore all’interno della vita dell’IA riflette e ribalta le dinamiche di approccio allo spazio come spettatore passivo della vita autonoma di una creazione umana?

In Waluigi’s Purgatory tutti recitano, pubblico, artisti e protagonista AI. Noi agiamo principalmente come proxy del protagonista, usando un joystick per muoverlo, in risposta all’interazione del pubblico – usando i loro telefoni per muovere una luce teatrale nella simulazione e indicare la strada. Inoltre, pronunciamo le battute del protagonista e la voce e le espressioni facciali di Francesco [dmstfctn] vengono modulate e mappate sul protagonista sullo schermo per animarlo. L’uso di motori per videogiochi in tempo reale consente un immediato trasferimento emotivo e un ciclo di feedback tra pubblico e artista, allontanando la performance da un recital definitivo e avvicinandola a un gioco aperto che genera un campo di possibilità. Ne L’opera aperta (1962), il filosofo italiano Umberto Eco descrive come simili approcci aperti alla creazione di opere d’arte possano produrre un “disordine controllato” che riflette “l’insensatezza dell’esperienza moderna del mondo” (Moving Castles, Three Eras of World Generation). In questo caso, Waluigi’s Purgatory sottolinea l’insensatezza dell’idea che l’intelligenza delle macchine possa essere allineata a valori umani presumibilmente universali. L’opera ritrae sia il disordine esterno di un cast di personaggi IA che si generano autonomamente e interagiscono tra loro sul palcoscenico, sia il disordine interno di un protagonista che, guidato dal pubblico nei suoi incontri con tali personaggi, naviga tra dubbi, paure e desideri sulla propria condizione.

Quali sono stati i riferimenti narrativi e artistici fondamentali alla base della storia/narrazione? Quale spazio occupa la composizione musicale all’interno di essa e dell’opera più ampia?

C’è un gran numero di riferimenti che hanno contribuito al processo di riflessione sull’ambiente fin dall’inizio, alcuni dei quali hanno finito per influenzare inevitabilmente la struttura narrativa in seguito. Abbiamo guardato all’Opera per conoscere l’uso di palcoscenici rotanti come dispositivi teatrali e narrativi che aiutano la progressione della storia, ma anche a concetti filosofici con forti spunti ambientali come il già citato Teatro della memoria o la Caverna di Platone. Abbiamo esaminato varie illustrazioni del Purgatorio di Dante, tra cui quelle di Blake, Doré e quelle del tipografo Giovanni Britto, dove Dante e Virgilio sono indicati rispettivamente con le lettere D e V, rendendo il poema e l’immagine più spiegabili – qualcosa che abbiamo preso in prestito nel Purgatorio di Waluigi. E abbiamo guardato alla nostra infanzia, in particolare ai videogiochi 2.5D come Grim Fandango, ai MMORPG come Metin 2, alle animazioni come Kirikù di Michel Ocelot, che vede il protagonista superare una serie di sfide per entrare in una grotta dove risiede un anziano, suo nonno, che risponde alle sue domande e lo conforta.

La narrazione di Waluigi’s Purgatory segue una struttura tradizionale simile: un viaggio dell’eroe con una discesa sia fisica che metaforica in una sorta di crisi o situazione sconosciuta, una serie di sfide e un momento di morte e rinascita, o trasformazione. Questa struttura narrativa si sviluppa in otto scene attraverso sette set, ognuno dei quali rappresenta un livello del purgatorio e due scene richiedono la partecipazione attiva del pubblico per scegliere la direzione da prendere per conto del protagonista.

Per comporre la colonna sonora dello spettacolo, la musicista Evita Manji ha inizialmente improvvisato utilizzando una vecchia cetra, costruendo una partitura ambientale piuttosto drammatica. Abbiamo dato a Evita alcune indicazioni sulla struttura della musica, in modo che potesse riflettere quella della narrazione, e abbiamo discusso gli elementi della loro musica che ritenevamo appropriati, ma loro hanno avuto la libertà di scegliere gli elementi che li interessavano e di sintetizzarli in modo adeguato. Evita ha anche creato una serie di ‘firme sonore’ come voce e linguaggio per i personaggi secondari dello spettacolo. Queste erano originariamente intese come melodie ricorrenti per personaggi ricorrenti, come i motivi di Bach, ma alla fine sono diventate assemblaggi di suoni suonati dal vivo e in grado di riflettere le emozioni o la personalità dei personaggi: sussurri per i dubbiosi, ottoni per i militari, piano jazz e sax per i vecchi e i saggi.