In dialogo con Nozomu Kubota

Nozomu Kubota è relativamente nuovo al mondo dell’arte. Ha studiato e lavorato come ingegnere di intelligenza artificiale e imprenditore. Con la sua azienda, che ha fondato all’età di 19 anni, ha realizzato numerosi brevetti che ha venduto in paesi di tutto il mondo, dagli Stati Uniti alla Cina. Per anni ha lavorato per rendere l’intelligenza artificiale più accurata, finché il suo lavoro non lo ha portato a confrontarsi con alcune domande che hanno aperto la strada a quella che sarebbe diventata la sua pratica artistica: cosa significa «accuratezza» per una macchina? E cosa le sfugge rispetto agli esseri umani? La sua pratica si è quindi concentrata sugli outlier – quei punti dati anomali che vengono scartati durante la creazione dei sistemi di intelligenza artificiale. Quando questi valori anomali coincidevano con le singolarità umane – sebbene in minoranza – Kubota si è allontanato dalla macchina per incontrare le persone e intervistarle. Così facendo, ha restituito queste singolarità all’umanità, trasformando l’errore in un’eco di consapevolezza riguardo alla diversità dei profili umani – compresi quelli genetici e fisiologici: profili che la macchina riconosce solo nei modelli standardizzati e non nelle singolarità che questi possono presentare a livello fisico e genetico.

Lo abbiamo incontrato ad Ars Electronica, dal 1979 è uno dei festival più importanti al mondo dedicato all’intersezione tra arte, tecnologia e società, dove il suo progetto AI’s Silent Omissions (2025) è stato presentato al pubblico per la prima volta e ha ricevuto una menzione d’onore nella categoria Digital Humanity del Prix Ars Electronica 2026. Per questo lavoro, Kubota ha disattivato un filtro di sicurezza ed ha esaminato le immagini bloccate da un sistema NSFW. Ha scoperto che quasi nessuna conteneva contenuti sessuali o violenti, piuttosto non rispondevano agli standard: il software, per esempio, rifiutava immagini di mani con meno di cinque dita.

Il lavoro di Kubota ci guida verso il pensiero del filosofo Yuk Hui. Attraverso il concetto di cosmotecnica, Hui ci ricorda che la tecnologia non è mai universale né neutra: ogni cultura ha sviluppato il proprio modo di conciliare tecnologia, natura ed etica. In opposizione a un’unica razionalità tecnologica che tende a omogeneizzare il pianeta, Hui invoca la tecnodiversità. È proprio in questo spazio che opera Kubota, riscoprendo il locale in ciò che la macchina non riesce a riconoscere. Il lavoro di Kubota spazia dalle mani “errate” rifiutate dagli algoritmi ai dialetti della città di Nishikawa, nella prefettura di Yamagata, che rischiano di scomparire, fino a La Galigo, l’epopea bugis che la macchina non sa come altro chiamare, se non con un nome errato. Insieme, questi progetti si occupano di forme di conoscenza che i sistemi di intelligenza artificiale faticano a riconoscere o a preservare. Abbiamo parlato con lui di normalità ed errore, di lingue e memorie sommerse, e di come queste singolarità possano essere restituite al pubblico e alla coscienza collettiva.

E. G. Rossi: Hai una formazione in ingegneria e hai fondato la tua azienda all’età di 19 anni. Cosa di ha spinto verso l’arte?

Nozomu Kubota: Quando lavoravo con l’intelligenza artificiale, il mio obiettivo era principalmente quello di sviluppare l’IA e migliorarne l’accuratezza. Ma quando ho iniziato a riflettere sui pregiudizi dell’IA, o su fenomeni come il tecnofascismo, mi sono reso conto che all’interno dell’intelligenza artificiale potesse esserci un grave problema. Nell’IA sono presenti molti pregiudizi umani perché l’intelligenza artificiale apprende da set di dati, e questi derivano dai nostri presupposti generali. Tali presupposti contengono molte idee e pregiudizi, che finiscono per radicarsi. Così ho pensato che sviluppare l’intelligenza artificiale non fosse sufficiente. Anche porsi domande al riguardo è importante per la società. Volevo formulare domande migliori per la società, ed è per questo che ho frequentato il programma di Master in Belle Arti (MFA) presso l’Università delle Arti di Tokyo.

Quando sviluppiamo l’intelligenza artificiale, eliminiamo per primi i valori anomali. Ma all’interno di quei valori anomali c’è la cultura, ci sono corpi, conversazioni e ricordi. Forse al loro interno si nascondono civiltà e cultura.

Quindi voglio scoprire quali tipi di valori anomali stiamo eliminando in quest’epoca.

Voglio creare opere che gli artisti e gli ingegneri del futuro trovino avvincenti — e che anche gli artisti e gli ingegneri del passato troverebbero avvincenti, se potessero vederle.

Se consideriamo solo la sofisticazione tecnologica, per quanto avanzata possa essere la tecnologia che creo oggi, non posso aspettarmi di competere con gli artisti e gli ingegneri del futuro. Eppure i ricordi vividi delle persone che vivono oggi e le testimonianze dei problemi fondamentali del nostro tempo stanno scomparendo ogni giorno. Per quanto la tecnologia possa progredire, potrebbe non essere mai in grado di recuperare ciò che è andato perduto.

Ecco perché voglio osservare da vicino — e preservare — le vite e i ricordi che cancelliamo nell’era dell’IA. Per me è come scrivere una lettera a qualcuno che vivrà tra cento o mille anni. Credo che ci sia un valore nel lasciare quelle lettere come opere d’arte.

E penso di amare gli esseri umani. Mi piace parlare con tante persone diverse.

Hai partecipato ad Ars Electronica con l’opera video AI’s Silent Omissions (2025), che esplora l’esclusione inosservata di corpi e vite che non rientrano nelle norme dominanti dello sviluppo dell’IA e degli algoritmi. Si parte dalle mani con meno di cinque dita, che l’IA non riconosce come normali. Per quest’opera, hai analizzato 10.000 immagini generate dall’IA che erano state segnalate e bloccate dai filtri NSFW. Quale criterio hai adottato per analizzarle?

All’inizio, mentre disegnavo le mani, mi ispiravo alle immagini generate da Stable Diffusion. C’erano molte immagini di Stable Diffusion in cui le mani non avevano cinque dita. Ho iniziato a riflettere su cosa ciò significasse nell’era dell’intelligenza artificiale. Così ho disegnato le immagini che l’intelligenza artificiale aveva prodotto.

In seguito, ho iniziato a interessarmi non solo alle immagini delle mani generate dall’IA, ma anche a ciò che accade all’interno dell’intelligenza artificiale: in particolare, alle immagini respinte dai filtri NSFW. NSFW significa “not safe for work” (non adatto al lavoro). I sistemi di IA filtrano e respingono determinate immagini. Nell’intelligenza artificiale esiste una modalità sicura, ma dal punto di vista ingegneristico è possibile disattivarla. L’ho disattivata, ho ottenuto i file delle immagini scartate, li ho salvati nel mio database e li ho esaminati.

In genere, immaginiamo che le immagini NSFW siano contenuti violenti o sessuali. Ma quando ho esaminato le immagini, ne ho riscontrati pochissimi. Nella mia analisi, solo un file di immagine sembrava presentare contenuti sessuali. Un altro mostrava il dito medio, quindi forse poteva essere interpretato come offensivo, ma non era esplicitamente sessuale.

Così ho iniziato a chiedermi: perché il filtro NSFW blocca questo tipo di immagini?

Questa è diventata una domanda importante per me. Forse sono i nostri preconcetti a determinare ciò che è considerato normale e ciò che non lo è. In questo senso, siamo noi — le persone che costruiscono questi sistemi — a vietare queste mani “errate” o deformate.

Con questo lavoro, sollevi interrogativi sulla normalità. Hai riscontrato altri casi in cui l’IA esclude o riconosce erroneamente qualcosa di non familiare?

Sì. Sto sviluppando un progetto in Indonesia con l’operatore culturale Mirwan Andan, incentrato su La Galigo, una lunghissima storia poetica proveniente dal Sulawesi meridionale.

La Galigo è una delle epopee più lunghe al mondo, originariamente tramandata attraverso la tradizione orale. Sono sopravvissuti manoscritti che riportano queste storie, scritti in lingua bugis.

Gli attuali sistemi di IA faticano a comprendere accuratamente il bugis. Quando incontrano qualcosa che non riescono a comprendere, possono tentare di dargli un senso sostituendolo con qualcos’altro. E poiché la maggior parte delle persone non conosce il bugis, potrebbe non accorgersi che l’IA sta “allucinando”.

Voglio trasformare proprio questa situazione in un’opera d’arte: l’IA che genera continuamente informazioni false, costringendo ciò che è sconosciuto a diventare qualcosa già rappresentato nei suoi dati esistenti e sovrascrivendolo nel processo. È proprio questo processo che voglio portare in primo piano.

L’opera è anche un monito su come i dati di addestramento e i modelli di classificazione incentrati sull’Occidente possano distorcere le culture e le civiltà minoritarie. Vedo in questo il pericolo di una nuova forma di colonialismo ai nostri giorni.

Sto pensando di lavorare con il riconoscimento delle immagini e l’intelligenza artificiale vocale — la sintesi vocale — e di permettere all’intelligenza artificiale di fraintendere continuamente. L’installazione si chiama UNMET. In essa, un meccanismo automatizzato sfoglia le pagine di La Galigo, un sistema di riconoscimento delle immagini classifica ciò che vede e una voce sintetica pronuncia le etichette risultanti. Ad esempio, l’IA potrebbe dire: «libro, 0,95; sedia, 0,78», anche se lì non c’è alcun libro. Questo continuo fraintendimento mi affascina. La macchina continua a dare nomi, ma i significati culturali veicolati dalle pagine rimangono al di fuori delle sue categorie.

Quello che mi chiedo è cosa accada quando un sistema risponde a qualcosa di sconosciuto assegnandogli un’etichetta familiare, senza essere in grado di dire «non lo so». Il mio obiettivo non è addestrare l’IA a leggere La Galigo in modo più accurato. Piuttosto, voglio mettere in discussione il presupposto secondo cui una cultura diventa comprensibile una volta che è stata resa riconoscibile a una macchina. Il titolo UNMET evidenzia questa distanza: le pagine vengono viste, elaborate e descritte, eppure l’incontro rimane incompiuto. UNMET sarà esposto al Centro Culturale Regionale di Letterkenny, nella contea di Donegal, in Irlanda, dal 10 luglio al 28 agosto 2027.

Hai collaborato con persone locali per sviluppare sistemi di intelligenza artificiale in grado di interagire con il dialetto della città di Nishikawa, nella prefettura di Yamagata, che rischia di scomparire. Potresti parlarci di questo progetto e di come ha portato al tuo lavoro più recente?

Tutto è iniziato quando mi sono recato a Nishikawa, nella prefettura di Yamagata, dove sono presenti molti dialetti. La gente del posto parla una variante molto particolare del giapponese. Io sono giapponese e loro sono giapponesi, ovviamente. Tuttavia, anche per me può essere molto difficile capire ciò che dicono perché il dialetto è molto marcato.
Anche l’intelligenza artificiale, come ad esempio ChatGPT, non riesce a cogliere ciò che accade quando si imbatte nel dialetto di Yamagata. Così ho iniziato a chiedermi: qual è lo “standard” per l’intelligenza artificiale?
Le lingue racchiudono cultura, esperienza fisica, etica, storie: nei dialetti e nelle lingue sono presenti molti aspetti importanti della cultura. Se l’intelligenza artificiale apprende solo dal giapponese standard, che ne sarà della cultura dialettale?
Quando sviluppiamo l’intelligenza artificiale, spesso eliminiamo per primi i valori anomali per ottenere una maggiore precisione. I valori anomali scompaiono durante il processo di sviluppo.
Ma va bene così? La lingua standard è l’unica lingua importante per il futuro?
A Nishikawa, nella prefettura di Yamagata, ho incontrato molte persone gentili e interessanti. Ho sentito il bisogno di preservare questa cultura e di riflettere su come l’intelligenza artificiale potesse interagire con essa in modo diverso.

Come hai selezionato le persone e come hai interagito con loro?

Abbiamo organizzato un’audizione. Hanno partecipato circa venti persone e credo che quasi tutte avessero circa settant’anni.
Parlavano molto in dialetto.
Il dialetto sta scomparendo di generazione in generazione.
I giovani della prefettura di Yamagata spesso non lo parlano più, quindi sono gli anziani a conoscerlo ancora.
Ho pensato: devo preservare questa cultura e devo riflettere su queste lingue. Così, ho raccolto molti dati vocali da loro.

Considerata la tua esperienza nella creazione di brevetti, hai intenzione di creare un brevetto che permetta all’intelligenza artificiale di includere queste forme di differenza e pregiudizio? Oppure consideri il tuo lavoro artistico e quello tecnologico come pratiche parallele?

In effetti, considero il lavoro artistico e quello tecnologico come pratiche parallele.
Voglio che l’opera d’arte rimanga aperta perché desidero diffondere queste domande il più ampiamente possibile. Nella mia azienda ho creato molti brevetti, ma nell’arte al momento non sto pensando ai brevetti. Voglio che l’opera rimanga aperta. Nell’ambito dell’arte, voglio realizzare più opere e sollevare più domande. Voglio incontrare più persone, parlare con loro e mettere in discussione le cose insieme, per poi riflettere su quale dovrebbe essere la prossima mossa.

C’è stato qualcosa che ti ha sorpreso nella reazione del pubblico quando hai presentato il tuo lavoro?

Quando mostro i miei video  — nelle università, ai festival d’arte o alle mostre — molte persone vengono a parlarmi. Rispondono alle domande che sto ponendo.

Hanno professioni, età, generi e background molto diversi, quindi riesco a raccogliere molti modi diversi di pensare.

Ad esempio, un medico ha visto il mio lavoro e mi ha detto: «Questa è una domanda molto importante. Quando diventiamo medici, dobbiamo pensarci fin dall’inizio. Ma quando siamo impegnati con gli interventi chirurgici, forse a volte ce ne dimentichiamo».

Questo mi ha fatto capire che l’arte può entrare in contatto con molte professioni diverse. E quelle professioni mi danno molti spunti. In seguito, posso pensare a nuove opere. Attraverso le domande, forse possiamo entrare in contatto senza confini.

Quando sono venuto qui, mi sono reso conto che, sebbene proveniamo da paesi diversi, possiamo parlare delle stesse questioni. Questo mi rende molto felice.

Stai progettando una nuova opera?

Sì. Sto pensando a due opere. Una è legata all’Indonesia e l’altra alla prefettura di Yamagata.
L’opera su Yamagata è un film.
Quando ho effettuato una ricerca utilizzando l’intelligenza artificiale, mi sono imbattuto in informazioni che l’IA non conosceva. C’è un lago chiamato Lago Gassan nella città di Nishikawa, nella prefettura di Yamagata, e sul fondo del lago un tempo c’era un villaggio.
È stata costruita una diga, l’area si è riempita d’acqua e il villaggio è scomparso sotto di essa. Lì vivevano circa 112 famiglie. Non c’erano solo case, ma anche una scuola e un santuario. Ci sono molti ricordi legati a quel luogo. Ma quando ho cercato informazioni al riguardo utilizzando l’intelligenza artificiale, l’IA non ne sapeva nulla.
Non è curioso?
L’intelligenza artificiale sembra sapere tutto, ma in realtà non è così.
Mi ha fornito solo due immagini relative a quella situazione.
Così mi sono recato nella prefettura di Yamagata e ho incontrato molte persone anziane. Ho chiesto loro: «Ne sapete qualcosa? Ve lo ricordate?»
Li ho intervistati e ho trovato un enorme archivio di fotografie.
Ho anche scoperto che lì c’era stata una scuola e che gli ex alunni si riuniscono ancora una volta all’anno per cantare il loro vecchio inno scolastico.
Voglio filmarlo. Voglio sapere che tipo di canzone sia.
Questa è una conoscenza che l’intelligenza artificiale non possedeva.
Ci sono molte situazioni di cui non siamo a conoscenza, ma ci comportiamo come se sapessimo tutto.

Non vediamo l’ora di vedere il nuovo lavoro. Nel frattempo, congratulazioni per la menzione d’onore nella categoria Digital Humanity del Prix Ars Electronica 2026 che hai ricevuto per l’opera AI’s Silent Omissions (2025)

Nozomu Kubota