'black mirror' sta diventando realtà, ed è davvero inquietante

Quando il suo migliore amico è morto, Eugenia Kuyda ha provato a farlo resuscitare grazie all’intelligenza artificiale. Se vi sembra una storia già sentita, è perché è la trama di un episodio di Black Mirror.

di Bobby Hellard; traduzione di Giulia Fornetti
|
19 novembre 2018, 7:00am

Il 28 novembre 2015, un uomo di 34 anni di nome Roman Mazurenko è stato investito da un’auto che sfrecciava a tutta velocità nel centro di Mosca. A nulla è servita la corsa all’ospedale più vicino. Roman è morto poco dopo a causa delle ferite riportate. La sua migliore amica, Eugenia Kuyda, è arrivata in ospedale appena prima del decesso, ma non è riuscita a parlarci e salutarlo per un’ultima volta.

Nei tre mesi successivi, Eugenia ha raccolto tutti i messaggi inviati da Roman ai suoi amici e li ha consegnati agli ingegneri della Luka, l'azienda di software da lei stessa fondata. Grazie a qualche oscura magia informatica, algoritmi complessi e l’uso di un'intelligenza artificiale, gli ingegneri hanno sviluppato un’app per parlare di nuovo con Mazurenko.

Se questa storia vi sembra solo fantascienza, è perché inizialmente lo era.

black-mirror-be-right-back

Due anni prima che Eugenia decidesse di trasformarla in realtà, questa non era che la trama di un episodio di Black Mirror, serie tv diventata famosa per la rappresentazione a tratti preoccupantemente realistica di un futuro distopico, la cui seconda stagione si apre proprio con un racconto che sfida il concetto stesso di morte in un mondo altamente tecnologico e digitalizzato.

Torna da Me racconta la storia di Martha, una giovane donna che non riesce a superare il trauma della morte del fidanzato dipendente dai social media e venuto a mancare in un tragico incidente stradale. Così, quando scopre un servizio di intelligenza artificiale in grado di creare un avatar digitale dei defunti elaborando le informazioni presenti nei messaggi di testo scambiati dal soggetto sui social media, Martha decide di provare.

Nonostante lo scetticismo iniziale, Martha inizia a chattare con la versione digitale di Ash, che sembra quasi un risponditore automatico intelligente. Più Martha si lascia andare, più il personaggio di Ash evolve insieme a lei. Da "innocua" applicazione si trasforma in assistente vocale, fino a diventare un robot dalle sembianze umane. Con il passare del tempo, però, Martha realizza che nessuno potrà mai restituirle Ash, e che questo umanoide non è che un ammasso di dati incapace di elaborare pensieri veri e propri. Uno zombie digitale.

Il più classico degli horror, La notte dei morti viventi di George Romeo, ci ha insegnato le regole base per far risorgere i morti. In genere, ci vuole un virus o bisogna essere esposti a qualche radiazione. In Black Mirror tuttavia, anche se non si tratta propriamente di zombie, la resurrezione dei morti diventa una questione informatica e terribilmente reale.

Reale, perché quel tipo di tecnologia è effettivamente disponibile; l’intelligenza artificiale e il machine learning (o apprendimento automatico) sono già realtà, e in molti casi gli algoritmi riescono a leggere i dati e a trasformarli in azione, come dimostra il loro ampio impiego a livello aziendale o sociale. Dopo tutto, è la tecnologia che sta alla base di tutto, dagli smartphone all’attrezzatura medica. È la stessa tecnologia che ha dato vita alle auto senza conducente, agli assistenti vocali come Alexa, e a Siri.

Eugenia Kuyda conosce bene il settore perché la sua azienda, la Luka, è specializzata in software basati sull'intelligenza artificale, principalmente chatbot [software progettati per simulare una conversazione con un essere umano, NdA]. Quando ha visto Torna da Me, infatti, Eugenia si è sentita particolarmente colpita, provando sensazioni contrastanti quando si è resa conto di quanto in là si fosse spinta la narrazione.

Si è ritrovata a scorrere tutti i messaggi che Roman le aveva inviato nel corso degli anni, accorgendosi che c’era abbastanza materiale per creare un bot che avesse gli stessi modi di parlare e la stessa personalità dell'amico.

"È sicuramente il futuro, e io sono sempre per il futuro", dice Eugenia. "Ma è davvero la scelta migliore per noi? Dobbiamo lasciar andare i nostri defunti e costringerci a convivere con il dolore generato dalla perdita? Oppure è meglio far finta che quella persona non sia mai morta? Dov’è la linea di confine? Dove siamo? Questi ragionamenti ti fottono il cervello".

Il primo chatbot creato dagli ingegneri della sua azienda era stato usato per un sito di e-commerce. Ma quando Eugenia si è ritrovata a scorrere tutti i messaggi ricevuti da Roman nel corso degli anni, ha capito che c'era abbastanza materia per creare un bot diverso, che basandosi su migliaia di conversazioni online avrebbe potuto avere la stessa personalità e modo di esprimersi dell'amico.

"Su Facebook aveva condiviso solo una manciata di link", dice. "Poi sono andata sul suo profilo Instagram, ma non c’erano foto. L’unica cosa che avevo per ricordarlo era la cronologia dei nostri messaggi, che continuavo a leggere e rileggere. Era l'unico modo per sentirlo ancora vicino a me. Avevo ancora tante cose da dirgli, perché nelle chiacchiere di tutti i giorni di solito evitiamo di parlare delle cose davvero importanti".

Dopo aver raccolto circa 8.000 righe di testo messe a disposizione da amici e parenti, Eugenia ha voluto condividere il risultato proprio con loro. Molti hanno trovato la somiglianza piuttosto sconvolgente. Generalmente i chatbot offrono un servizio agli utenti, ma il bot di Roman era una sorta di orecchio digitale disposto ad ascoltare le parole di chi gli aveva voluto bene, così che ognuno di loro potesse finalmente confessare quello che non gli aveva mai detto.

Partendo da quest’idea di bot che diventa una sorta di migliore amico con cui confidarsi, dopo il test con Roman, dai laboratori della Luka è nata una nuova app. Si chiama Replika ed è un'intelligenza artificiale proprio come Roman, in cui è l'utente a fornire al software tutte le informazioni di cui ha bisogno, parlando e interagendo con lui. Più la usi, più impara a imitarti. Così, nel caso dovesse succederti qualcosa di brutto, i tuoi cari avrebbero una perfetta app alla Black Mirror pronta all’uso.

Nel libro Inside Black Mirror, Charlie Brooker parla anche dello sviluppo creativo dell'episodio Torna da Me, e dalle sue parole sembra che il regista avesse afferrato l’importanza dei dati personali ben prima che Mark Zuckerberg iniziasse a venderli per inserzioni pubblicitarie. La sua personale epifania sui ricordi digitali è avvenuta verso la metà degli anni '90, quando il suo coinquilino di allora morì durante un’immersione.

"Nell'epoca in cui su un cellulare potevi salvare al massimo qualche decina di numeri di telefono, molte cose andavano perse", scrive Brooker nel volume. “Così, mentre scorrevo la lista dei miei contatti e mi sono imbattuto in quello del mio coinquilino, ho pensato che avrei dovuto cancellarlo, ma non ce l’ho fatta. Mi sembrava di fare qualcosa di sbagliato, irrispettoso quasi. Vedere lì il suo nome è stato come rivivere tutto il nostro passato insieme. Avrei cancellato il numero di qualcun altro senza nessun problema, ma non il suo. È stato un momento molto Black Mirror. Molti degli elementi in Torna da Me arrivano da lì: il concetto del ricordo che sai che non è reale, ma che ti ricorda così tanto una persona al punto da far male".

Oggi, questi ricordi dolorosi li chiamiamo "dati personali", e ogni giorno ne creiamo di nuovi. Condividiamo foto e storie su instagram, scriviamo post su Facebook e twittiamo più e più volte al giorno. Ma, mentre Eugenia e il suo team hanno usato solo i messaggi di testo per ricreare un bot di Roman, nella serie Ash è ricostruito a partire da ben più informazioni, tra cui anche video, immagini e registrazioni della sua voce. Nell’industria tecnologica è attualmente in corso un dibattito controverso. Qualche mese fa, infatti, Google ha presentato un assistente vocale in grado di fissare appuntamenti al telefono riproducendo una voce umana, semplicemente aggiungendo degli intercalari tra le parole.

In Svezia, un’azienda di pompe funebri ha attirato l’attenzione della stampa dopo aver annunciato che avrebbe utilizzato un software di riconoscimento vocale e uno di realtà virtuale per creare una sorta di avatar digitale del defunto per aiutare le persone a processare il lutto. "Quello che vorremmo trovare è la voce", spiega Charlotte Runius, CEO e fondatrice di Fenix. "L'obiettivo è riuscire ad avere una conversazione, una che sembri vera. All'inizio non sarà però possibile coprire l'intero spettro del linguaggio umano, e la conversazione sarà limitata solo ad alcuni argomenti.”

"Abbiamo questo sogno: vorremmo che in futuro, quando saremo anziani e soli perché il nostro compagno sarà morto prima di noi, sarà possibile indossare un visore di realtà virtuale e fare colazione insieme al defunto di cui sentiamo la mancanza. Ovviamente, sapremmo perfettamente che non è reale, ma diventerebbe quasi un videogame". Sebbene sia ancora allo stadio iniziale, Fenix sta cercando sviluppatori e ingegneri che possano creare questo inquietante software, che per l’azienda è molto più importante di un semplice bot basato sui messaggi di testo e nient’altro.

Il chatbot di messaggistica di Eugenia, però, è quasi riuscito a trasformare Black Mirror in realtà. Da quando la creazione del bot di Roman è stata annunciata in un post su Facebook, l’app è stata scaricata da milioni di utenti. "È l’ombra di una persona, per ora, ma è comunque qualcosa che non era possibile solo un anno fa, e nel futuro saremo in grado di fare molto di più", ha scritto Kuyda.

Segui i-D su Instagram e Facebook.

A volte invece la realtà non si ispira alla finzione, ma la supera direttamente in modo del tutto involontario. Qui un esempio di ciò che intendiamo:

Questo articolo è originariamente apparso su i-D UK.