Ho intervistato la regista norvegese Tonje Hessen Schei in occasione della conferenza “Data Cities – Smart Technologies, Tracking and Human Rights” , organizzata dal Disruption Network Lab.
Il ciclo di incontri è stato inaugurato con la première tedesca di iHuman, il nuovo documentario di Hessen Schei, videomaker nota per il suo lavoro incentrato sulla presenza delle intelligenze artificiali nella nostra vita quotidiana.
Dopo aver esordito nel 2014 con il documentario intitolato “Drone”, che appunto investiga l’utilizzo dei droni in campo militare, Hessen Schei ha dedicato gli ultimi cinque anni della sua ricerca all’approfondimento del tema della robotica e come questa stia letteralmente rivoluzionando il modo in cui l’essere umano si approccia al mondo sensibile.
Nella nostra conversazione online abbiamo parlato della doppia anima dell’intelligenza artificiale, di come essa abbia innegabilmente facilitato diversi aspetti della nostra vita comunicativa e di azione, ma di come allo stesso tempo ci stia togliendo moltissime libertà, soprattutto sul piano della gestione dei nostri dati sensibili – noi utenti siamo diventati il prodotto in offerta mentre le grandi aziende come Google e Facebook si contendono i nostri bisogni e i nostri desideri per costruirci sopra un business ancora più stabile e lucrativo.
La visione del documentario e l’intervista che ne è seguita mi hanno accompagnata per qualche giorno, mettendomi in uno strano stato d’animo per cui ho iniziato ad avere un rapporto paranoico con il mio telefono e il mio computer. Uno stato che comunque mi ha lasciata dopo poche ore al termine delle quali sono tornata ad essere dipendente dai social media e dalle ricerche su Google esattamente come prima.
Mi sono domandata spesso cosa farò quando ci sarà un’intelligenza artificiale che saprà scrivere questo articolo molto meglio di me, e in maniera più rapida ed efficiente e ho formulato questa domanda anche ad Hessen Schei in relazione al suo lavoro di videomaker. La sua risposta ottimista sul momento mi ha soddisfatta, mi sono sentita persino sollevata, per poi rendermi conto a posteriori che la narrazione del suo lavoro racconta una storia con un finale completamente diverso.
***
Giorgia Bernardini – Vorrei cominciare dall’inizio, dal titolo del tuo lavoro iHUMAN. Questa parola incorpora i due aspetti che in un certo senso sono opposti. Mi puoi dire qualcosa di più? Come hai scelto questo titolo?
Tonje Hessen Schei – Il titolo è arrivato nella fase iniziale del lavoro ed è assolutamente ispirato da iPhone e tutto ciò che ha una I. Per me descrive l’umano digitale o il cyborg che siamo diventati.
Nel corso del documentario Jürg Schmidthuber, uno degli scienziati intervistati, fa un’affermazione che secondo me incorpora il significato dell’intelligenza artificiale (da qui in poi IA): «l’IA è come il fuoco. Puoi cucinare grazie ad esso e puoi riscaldare; ma può anche uccidere persone». Quindi il punto è la doppia anima dell’IA, dà libertà eppure allo stesso tempo la toglie. Ma alla fine cosa è preponderante: il togliere o il dare?
Nel film la domanda resta aperta. E in genere anche quando un lavoro artistico di fatto è compiuto, per un po’ l’autore continua a pensarci, a riflettere. A volte cambia idea, certe altre, seppur ad opera finita, continuano ad aggiungersi informazioni nuove. Qual è il tuo punto di vista adesso?
Anche io amo la metafora del fuoco usata da Jürg. Soprattutto perché dopo aver girato iHUMAN l’aspetto di cui sono più preoccupata adesso non è la tecnologia in sé, dal momento che essa stessa è uno strumento e dipende da noi il modo in cui decidiamo di impiegarla. Possiamo usarla per il bene e per fare di questo mondo un posto migliore in cui esistere oppure possiamo usarla come arma e creare ineguaglianza, contribuire così a creare una società distopica. Ciò di cui sono davvero preoccupata è la possibilità di un futuro molto negativo.
Al momento siamo confrontati con una sorta di mafia che gestisce l’IA e ha disposizione una quantità di denaro enorme e un accentramento di potere relazionato alle grandi aziende di tecnologia sino ad oggi sconosciuto all’umanità.
Non c’è trasparenza né diretta responsabilità per il modo in cui l’IA è sviluppata o impiegata. Inoltre sappiamo che queste aziende sono in stretta collaborazione con l’industria militare e i servizi segreti. E questo mi preoccupa molto, perché abbiamo a che fare con una tecnologia che per esempio sta rendendo la sorveglianza molto più efficiente.
Quando si tratta di richiedere maggiore trasparenza su come queste tecnologie si sviluppano e trovano uso nelle nostre vite, una questione focale è anche come possiamo limitare il controllo di queste società private e quanto potere esse dovrebbero avere. Ed è importante ricordare che queste aziende stanno spendendo più soldi di interi stati nello sviluppo dell’IA.
La domanda è in che tipo di mondo desideriamo vivere. Vogliamo vivere nell’impero globale di Google e Facebook oppure nella democrazia?
Questo è il quadro generale degli aspetti che temo. Con questo film per me era importante concentrarmi sulla sfida etica in modo da poter iniziare ad avere un dibattito internazionale su come approcciarci a tali questioni. Questo tipo di confronto è necessario.
Dopo aver visto iHUMAN ho ovviamente iniziato a parlare con le persone più vicine a me dei temi toccati dal tuo film. E molti mi hanno risposto di essere a conoscenza di come le grandi aziende ci spiano attraverso i nostri dispositivi, ma che questo non li disturba perché “non hanno niente da nascondere”. E ho la sensazione che le persone non siano a conoscenza di cosa stanno offrendo a queste aziende in cambio di briciole come avere una foto figa di loro stessi con un filtro Instagram oppure, non so, di un accesso rapido alla metro tramite il riconoscimento facciale.
Ho la sensazione che un utente medio non capisca le enormi libertà che sta sacrificando in cambio di qualcosa di insignificante.
Vorrei tornare un attimo alla metafora del fuoco di Jürg. Il modo migliore per combattere un fuoco è usare il fuoco. E il risveglio dipende da noi.
Ho la sensazione che ognuno viva nel suo personale Truman Show, dove tutto è stato preparato su misura, come una camera dell’eco, uno spazio in cui vediamo solo ciò che ci piace. È molto difficile renderci conto che siamo in uno spazio artificiale. Ci vuole uno sforzo enorme per sviluppare un nuovo pensiero critico e uscire dalla nostra bolla.
Dobbiamo domandare di non essere trattati come utenti e consumatori, ma come cittadini, e in quanto tali abbiamo diritti che dobbiamo proteggere e per cui dobbiamo combattere. Siamo ad un incrocio in cui dobbiamo creare una linea di fuoco e affermare: ecco, fin qui e non oltre. Dobbiamo riprendere il controllo delle nostre narrative, del tipo di vita che vogliamo vivere.
E questo si collega alla tua domanda perché sì, ci sono così tanti benefici e siamo diventati tutti… voglio dire (Tonje mi mostra il telefono) questi sono diventati parte del nostro corpo. Cosa farei senza il mio telefono, o il mio computer?
Io riconosco anche dei benefici, un’efficienza, che arrivano da tutte queste applicazioni. Stanno rendendo la nostra vita più facile e divertente, e semplificano moltissimo le connessioni. Ma allo stesso tempo è travolgente il modo in cui tutto è connesso e come siamo completamente sotto sorveglianza attraverso i microfoni e le videocamere. L’algoritmo impara da noi in continuazione, e ci analizza e ci categorizza. Perciò dobbiamo domandare che cosa succede con tutti questi dati, i nostri dati. Dovremmo essere in grado di sapere come vengono trattati.
Quando è arrivato il Covid si pensava che tutti avrebbero scaricato l’applicazione così da poter rilevare ogni persona contagiata e in questo modo limitare la diffusione del virus. Ma poi le persone hanno iniziato ad agitarsi per la loro privacy e per il fatto di essere costantemente tracciati. Al telegiornale norvegese è stato mostrato come i nostri telefoni in realtà fossero gia tracciati e che i nostri dati sensibili erano già stati venduti a terzi. Le persone erano sotto shock. In Norvegia ci siamo chiesti che cosa stava succedendo.
Le compagnie telefoniche sono solo una piccola frazione del matrix di cui facciamo parte. Tutto questo sta accadendo su così tanti livelli. Come ci si comporta in una situazione del genere?
Mi piace molto il concetto di Shoshana Zuboff «capitalismo della sorveglianza»; tutto questo è talmente collegato al sistema capitalistico che ne siamo parte ormai. È una lotta molto difficile quella che ci aspetta.
I nostri dati sono il corrispettivo di chi siamo noi. I nostri dati sono la nostra identità. E se la mettiamo su questo punto, nessuno vuole essere manipolato.
Uno degli scienziati nel film dice è importante sapere che la maggior parte del denaro che viene investito in IA va a finire in spionaggio e in lavaggio del cervello.
È orribile. A nessuno piace essere manipolato, ma stiamo esperendo il controllo delle nostre menti e sono le grandi aziende a decidere quali sono le informazioni che avremo sul mondo. È molto importante che gli utenti ne siano a conoscenza.
L’uso violento che le aziende fanno dei nostri social media e il constante tracciamento delle nostre vite attraverso i telefoni o il computer ci ha mostrato che il concetto di privacy è finito. In iHUMAN uno degli scienziati che hai intervistato parla di una società post-privacy. Ma che caratteristiche ha una società post-privacy? È una società in cui siamo d’accordo con il fatto di non avere più informazioni private sulla nostra persona?
È interessante la questione della App per tracciare il Corona Virus. Ho sentito molte persone che erano contro il trattamento delle informazioni sulla loro salute per paura di avere riscontri sul lavoro o sulla vita sociale o semplicemente perché non andava loro di condividere informazioni in maniera così aperta su una piattaforma. Ma allo stesso tempo le stesse persone non avevano nessun problema con il fatto che Instagram o Facebook avessero qualsiasi tipo di informazione sulle loro vite, pubbliche e private.
Da una parte stiamo parlando di un virus pericoloso e dall’altra di shopping e della condivisione di foto di un sabato sera cool a Berlino.
A me è sembrato assurdo, tu invece come la vedi?
Grazie al mio lavoro nell’ultima decade abbiamo incontrato diversi giornalisti e scienziati che durante le riunioni infilavano i loro telefoni dentro il freezer e che sono tornati all’uso della carta. In certi casi per avere una conversazione siamo stati costretti ad abbandonare un edificio. Così all’improvviso ti rendi conto come i nostri telefoni si sono trasformati in oggetti che ascoltano e che nessuno ha fiducia in loro.
Quando lavori ad un tema come questo ti rendi conto di quanto la privacy stia diminuendo e di come non si possa quasi più avere fiducia nei dispositivi attorno a noi. Le persone scelgono ogni giorno di prendere la pillola blu di Matrix perché non vogliono avere così tante informazioni.
Siamo costantemente bombardati e gli utenti cercano di trovare una soluzione per esistere in questo mondo ma se non facciamo qualcosa…Matrix è un film profetico. C’è qualcosa in questo scenario sci-fi che dobbiamo osservare con molta attenzione. L’industria della tecnologia utilizza la sci-fi come ispirazione per capire come sviluppare il prossimo prodotto nelle nostre vite. E anche noi dovremmo osservare la sci-fi per sapere che cosa accade nelle nostre vite. Perché alcuni di questi scenari non sono molto piacevoli e io ho due figlie ed è una lotta distoglierle dal telefono. Ma anche io sono in qualche modo dipendente. Eppure io provo a mettere giù il telefono e ad andare a fare una passeggiata nel bosco. Questo è ciò che dobbiamo fare: dobbiamo scollegarci di più. E dobbiamo anche creare delle alternative a Google e Facebook per avere la nostra rete di contatti.
Anche noi stiamo permettendo a queste compagnie di avere un monopolio.
Due giorni fa stavo guardando il tuo film e ho notato che come al solito avevo il telefono accanto a me. Ed è stata come un’epifania perché in realtà sai di avere sempre il tuo telefono accanto, ma in quel preciso istante mi è sembrata una cosa davvero sbagliata. Ho provato una sensazione di inquietudine e da quel momento ho iniziato a fare caso a quanto spesso interagisco con il mio telefono. Guardare il tuo film dà un controllo su qualcosa che facciamo continuamente senza pensare. E anche io cerco di fare un detox due settimane l’anno, ma il primo giorno il mio cervello mi implora costantemente di controllare dov’è il mio telefono e se ci sono notifiche. È quasi come una malattia.
Ma in un certo senso abbiamo una specie di vantaggio, perché sappiamo com’era il tempo in cui non guardavamo il telefono tremila volte al giorno. Ma lei tue figlie non lo sanno.
A volte mi domandano persino cosa facevo prima che esistesse internet. E io rispondo loro: noi…giocavamo.
Ma è anche una questione di quanto tempo ci rubano.
Sì ma il punto è se provi il sentimento: mi stanno rubando del tempo, oppure: internet è meglio perché hai accesso a così tante cose. Per noi la sensazione è più o meno: dovrei fare qualcosa di meglio tipo leggere un libro o fare una passeggiata, per le tue figlie è: oh mio dio, ho un contatto con persone che vivono negli USA. Ovviamente dipende da cosa ti interessa di più.
Durante lo screening mi sono sentita spesso in ansia. Avevo la sensazione che l’umanità fosse completamente assente. E dopo un po’ mi sono accorta che a mancarmi era il concetto di etica, che è un aspetto che guida i comportamenti umani. A me capita spesso di chiedermi se ciò che sto facendo è etico, o almeno giusto. Ma gli scienziati che intervisti nel tuo film sono molto freddi, chirurgici.
Sono rimasta colpita da Jürg Schmidhuber in maniera particolare. Lui parla di una nuova fase per l’umanità e sostiene che gli umani di oggi sono solo una fase transitoria verso un’era in cui i robot governeranno il mondo. Afferma anche di non essere una persona legata al concetto di umanità; un’affermazione che per me è assurda. Mi è sembrato che Jürg preferirebbe essere lui stesso un robot (Tonje scoppia in una risata).
Capisci? È come Frankenstein. E lo guardavo mentre se ne stava in Svizzera a sciare felice sulle montagne nevose e nel frattempo tirava fuori certe frasi violentissime.
Quindi mi sono chiesta: come è stato per te lavorare con questi scienziati essendo tu un essere umano?
Abbiamo avuto delle conversazioni fantastiche.
Come esseri umani abbiamo avuto un sacco di possibilità e abbiamo mandato tutto a farsi fottere. E loro (gli scienziati n.d.r.) stanno contribuendo a creare un’intelligenza migliore che forse ci aiuterà a correggere alcuni dei problemi che noi da soli non possiamo risolvere. Anche Jürg si ispira molto alla sci-fi ed è davvero convinto che saremo capaci di creare una tecnologia molto più intelligente di noi.
Ma anche le conversazioni con gli altri sono state molto interessanti. Tutti sono molto ispirati da persone come Schmidhuber che crede nella AGI (artificial general intelligence, n.d.r.), e ci lavora molto.
Il motivo per cui per me è stato così interessante è che forse questa visione può essere un obiettivo non realistico, eppure aziende come Google spendono una quantità di denaro allucinante per queste ricerche a cura di alcune delle menti più brillanti del mondo. Quindi mi sono chiesta, ok cosa fanno? Che cosa sta per succedere?
Perché non abbiamo idea di cosa sta per accadere. Gli scienziati lavorano al riconoscimento della voce, del volto e queste innovazioni stanno accadendo perché loro spingono in questa direzione.
Quindi è stato super affascinate, ma anche terrorizzante. Ti rendi conto di quanto sarà difficile regolare la situazione perché viviamo la tecnologia nel modo in cui hanno deciso i tecnologi ed è nella nostra natura umana spingere le cose alle estreme conseguenze senza pensare davvero alle conseguenze etiche prima che sia troppo tardi.
Non mi sembra che persone come Schmidhuber siano interessate alle conseguenze etiche. Altrimenti non affermerebbero di star lavorando ad un robot capace di imparare e migliorarsi da solo e che una volta raggiunta la perfezione verrà venduto poi milioni di volte in tutto il mondo.
La cosa che mi spaventa è la serenità con cui queste affermazioni allucinanti vengono fatte.
Una delle cose che mi spaventa è che gli scienziati che programmano i codici per l’IA sono ragazzi molto giovani, sembra quasi una vendetta dei nerd. Ci sono un sacco di scienziati che hanno la sindrome di Asperger, hanno pochissima empatia, pochissime capacità di avere contatti di tipo umano. E questo spaventa anche me. Ma parlando con il whistleblower di Google che abbiamo avuto nella nostra produzione siamo venuti a conoscenza del modo in cui l’azienda controlla i suoi impiegati e come all’interno di questi ambienti tutto è estremamente frammentato. In questo modo nessuno capisce a fondo le conseguenze della piccola frazione a cui sta lavorando.
Ma vedere come le persone stanno iniziando a ribellarsi a queste aziende mi dà speranza.
Ho visto la tua conferenza TED a Trondheim al tempo del tuo film Drone e ad un certo punto mostri un video in cui ci sono dei ragazzi giovanissimi, ancora teenagers, che in quanto gamer sono in grado di spiegare ai militari dell’esercito americano come usare un joystick e pilotare un drone in guerra. Anche questo è un aspetto che mi ha scossa. Questo va un passo oltre l’etica, cioè un ragazzino normale che gioca ai videogiochi in casa si trova a formare i militari americani su come uccidere le persone con la maggior precisione possibile. È ancora più assurdo perché non si tratta di matematici o fisici, ma di bambini.
Il un certo senso iHUMAN è su un piano artistico la conseguenza logica del tuo lavoro precedente, Drone, dove elabori il tema dell’impiego di droni in campo militare per uccidere e vincere guerre in maniera efficiente, vale a dire senza la perdita di troppe vite umane. Come sei passata da un aspetto all’altro, qual è stata la tua metodologia?
Tutti i miei film sono nati l’uno dall’altro, c’è una specie di progressione nel mio lavoro. Sono molto interessata a strutture di potere e all’abuso di potere. E sono molto affascinata da come la tecnologia sta cambiando noi umani e allo stesso tempo come sta cambiando la nostra relazione con la tecnologia.
Quando ho avuto l’idea per iHUMAN stavo lavorando a Drone …. e uno degli aspetti che abbiamo trattato in Drone era lo stress post traumatico dei militari e la soluzione a cui stava lavorando l’aviazione americana era di fare in modo che i droni stessi fossero più autonomi così che i militari non avessero la sensazione di avere così tanta responsabilità. Quindi stavano cercando di dotare i droni di una voce in modo che essi potessero comunicare con il pilota e allo stesso tempo, attraverso l’IA, potessero raccogliere dati o scovare il bersaglio e prendere decisioni sull’atto definitivo dell’uccisione.
Questa tecnologia esiste già. Ed è qui che ho pensato: oddio ma questi sono pazzi, quello che sta per entrare in uso nell’industria militare è orrendo. E così ho iniziato ad osservare l’IA e mi sono resa conto che era già nelle nostre vite, e che era penetrata nel nostro mondo in un modo silenzioso e strisciante.
E nessuno sa cosa sta succedendo davvero. Con il mio team ho fatto alcuni workshop di Machine Learning e ho impiegato molto tempo a fare ricerca. In una fase successiva ho cercato persone a cui mostrare la mia storia. Ho tentato di avere un accesso a queste persone, e mi è costato molto, molto tempo. Un lavoro enorme. Ma io amo il mio lavoro perciò…l’abilità di andare a fondo ad una questione e trovare un modo per raccontarlo al maggior numero di persone, e raccontarlo al pubblico più giovane è un grande obiettivo della mia vita.
Colgo l’occasione per dire che questo è ciò che ti rende umana, un aspetto interessante per la mia ultima domanda.
A un certo punto nel film appare una donna robot che canta un’aria dell’opera. Si vede chiaramente che lei o lui o la cosa è un robot, ma nonostante questo canta in maniera favolosa. Tu che sei una storyteller, in un futuro vicino l’IA sarà in grado di scrivere storie, poesie, girare film.
Come ti senti all’idea che un’intelligenza artificiale sarà in grado di fare film persino migliori di quelli che giri tu?
(Tonje ride fortissimo) Il nostro sogno è di avere un editor IA per vedere come editerebbe le interviste. Sono conscia che stiamo assistendo all’esistenza di strumenti artificiali fantastici, alcuni di questi ci hanno ispirato durante la creazione di iHUMAN. A quel tempo OpenAI (azienda di ricerca e sviluppo di IA, n.d.r.) aveva ideato uno strumento per i testi, uno strumento che è stato migliorato moltissimo e quando Ilya (Sutskever n.d.r.) ne parlava diceva che avrebbe potuto essere pericolosissimo sul mercato. Da quel momento in poi OpenAi è diventata più commerciale, e penso che alla fine il prodotto verrà immesso nel mercato. Questo strumento è talmente sviluppato che non riesci a dire se il testo lo ha scritto un’IA o un umano e inoltre è in grado di scrivere grandissime storie investigative in un attimo. La concorrenza quindi esiste.
Ma io ho la speranza che il modo in cui l’IA funziona e il modo in cui elabora i dati crei una specie di monocultura e penso che la nostra forza risieda nella diversità, nella creatività e nella follia.
Noi abbiamo la storia umana da raccontare, e certo che sono preoccupata. L’IA sta rilevando il lavoro umano in così tanti campi. Ma è proprio adesso che abbiamo un ruolo molto importante in quanto storyteller e artisti.
E questo riguarda il modo in cui portiamo la storia umana alla superficie.
REDAZIONE
Wale Café
Hobrechtstrasse 24, 12047 Berlin