comment un épisode de black mirror est devenu réalité

Quand son meilleur ami est mort, Eugenia Kuyda s’est inspiré de la série pour le ressusciter à l'aide de l’intelligence artificielle.

par Bobby Hellard
|
16 Novembre 2018, 9:57am

Le 28 novembre 2015, un homme de 34 ans du nom de Roman Mazurenko s’est fait percuter par une Jeep lancée à pleine vitesse dans le centre de Moscou. Il a été transporté en urgence vers l’hôpital le plus proche, mais il a succombé à ses blessures. Juste avant qu’il ne décède, sa meilleure amie - Eugenia Kuyda - l'a vu, mais elle n’a pas eu la chance de pouvoir lui parler une dernière fois.

Les trois mois suivants, Eugenia les a passés à rassembler des messages que les amis de Mazurenko conservaient dans leurs téléphones, avant de les transmettre aux ingénieurs de Luka, son entreprise de logiciels. Grâce à un peu de vaudou numérique, impliquant des algorithmes et de l’intelligence artificielle, les ingénieurs de Kuyda ont réussi à développer une application qui lui permet de parler à Mazurenko. Ça vous rappelle une étrange histoire de science-fiction ? Normal puisqu'à l’origine, c’est exactement le cas…

Deux ans plus tôt, Kuyda découvre la version fictionnelle de cette histoire dans Black Mirror, la série d’anticipation cauchemardesque de Charlie Brooker. La deuxième saison, saluée pour le réalisme avec lequel elle envisage un futur dystopique, s’ouvre sur un épisode qui remet en question la nature même de la mort à l’ère digitale.

Be Right Back raconte l’histoire de Martha, une femme qui ne parvient pas à faire le deuil d’Ash, son petit ami accro aux réseaux sociaux – lui aussi mort dans un accident de voiture. On lui parle d’un service qui lui permettrait de ressusciter Ash sous la forme d'un avatar digital, par la simple collecte de ses posts sur les réseaux sociaux et de ses messages.

1542119077781-be-right-back-black-mirror

Bien que réticente au départ, Martha finit par utiliser le service sur son ordinateur et se met à chatter avec le Ash digital, qui apparaît à travers un service de messagerie instantanée. Plus Martha se sent à l’aise, plus le Ash digital se développe. D’application, il passe à assistant vocal, puis à robot pendant la première demie-heure de l’épisode. Mais plus Ash évolue, plus il devient clair qu’il n’est pas une vraie personne. Il n’est qu’un rassemblement de données ; un écho de réflexions en ligne, incapable de penser librement ou par lui-même. C’est presque un zombie digital.

Depuis le classique de l’horreur La Nuit des Morts-Vivants, le film de zombie nous a fourni des instructions très claires sur la façon de ramener les morts à la vie. D’habitude, c’est le fait d’un virus, ou d’une exposition à des radiations de toutes sortes, mais la version de Black Mirror – bien qu’Ash ne soit pas précisément défini comme étant un zombie – introduit une idée de résurrection virtuelle qui se révèle d'une plausibilité particulièrement dérangeant.

Plausible, parce que la technologie est déjà disponible : l’intelligence artificielle et des formats comme l’apprentissage des machines - où un algorithme lit des données et des informations avant de les traduire en actions - sont largement répandus dans nos vies quotidiennes et dans le monde de l’entreprise. Ils sont disponibles partout, tant sur les smartphones que dans nos équipements médicaux. C’est la même technologie qui permet aux voitures de rouler sans conducteur et qui se cache derrière un assistant vocal comme Alexa, ou Siri sur votre iPhone.

Eugenia Kuyda sait parfaitement tout ça, puisque que son entreprise, Luka, est spécialisée dans la mise au point de logiciels d’intelligence artificielle, essentiellement des chatbots. Quand elle a vu Be Right Back, elle est restée mitigée, surtout quand elle a vu jusqu’où ça allait.

« Mais quand elle s’est retrouvée confrontée à la quantité infinie de messages que Mazurenko lui avait envoyé au fil des années, elle s’est dit qu’il y avait quelque chose à faire avec. Elle s’est rendue compte qu’elle pouvait construire un type de bot différent, qui serait inspiré de Mazurenko, et qui imiterait tout simplement sa façon de parler. »

« C’est clairement le futur, et je suis toujours tournée vers le futur, explique t-elle. Mais est-ce qu'on y gagne vraiment quelque chose ? Est-ce que ça permet de faire son deuil,de laisser libre cours à ses sentiments ? Ou est-ce que c’est comme avoir une personne morte dans son grenier ? Où est la limite ? On est où, là ? Ce sont des questions qui retournent le cerveau. ».

Pendant deux ans, Kuyda a construit son entreprise de technologies, et son premier vrai chatbot était consacré à du shopping en ligne. Mais quand elle s’est retrouvée confrontée à la quantité infinie de messages que Mazurenko lui avait envoyé au fil des années, elle s’est dit qu’il y avait quelque chose à faire avec. Elle s’est rendu compte qu’elle pouvait construire un type de bot différent, qui serait inspiré de Mazurenko, et qui imiterait tout simplement sa façon de parler.

« Sur sa page Facebook, il n’y avait que quelques liens, dit-elle. Je me suis rendue sur son compte Instagram, et il n’y avait aucune photo. Tout ce que je pouvais faire pour repenser à lui, c’était aller sur notre conversation messenger, scroller, et tout relire. C’était ce qui me rapprochait le plus de sa présence. J’avais toujours l’impression d’avoir beaucoup de choses à lui raconter, et je trouvais un peu bizarre qu’il n’existe pas un genre de rituel pour dire tout ce qu’il nous reste à dire. ».

Après avoir récolté environ 8000 lignes de messages envoyés à des amis ou à de la famille, l’application a d’abord été partagée avec eux. Beaucoup ont trouvé que la ressemblance était troublante et que Kuyda tenait là quelque chose de spécial. Les chatbots offrent normalement un service - qu’il soit commercial, comme les assistants sur les sites de vente en ligne, ou de l'ordre de la nouveauté domestique, c'est le cas d'Alexa. Mais le bot « Roman » est tout autre : il prête une oreille digitale aux utilisateurs et leur permet de dire quelque chose de privé, en l’occurrence, de dire ce qu’ils avaient besoin de dire à Mazurenko.

À partir de cette idée d’un chatbot auquel on peut se confier, Luka a développé sa nouvelle application Replika, qui est une IA comme « Roman » et utilise la même technologie, mais marche à l’envers : c’est vous qui développez cette intelligence en lui envoyant des messages. Plus vous lui parlez, plus elle apprend à être vous. De telle sorte qu’au moment de votre mort, vous vous retrouvez avec un avatar automatisé à la Black Mirror prêt à l’emploi.

Lorsqu’il décrit l’épisode dans le livre Inside Black Mirror, Brooker semble avoir compris l’importance des données, et ce bien avant que Mark Zuckerberg ne vende les nôtres à des fins publicitaires. Il a eu une épiphanie au milieu des années 1990, juste après la mort de son ancien colocataire dans un accident de plongée.

« À l’époque où les téléphones avaient encore une capacité de stockage maximale, parfois, vous deviez effacer des choses », dit-il. « Alors je parcourais la liste, et il y avait le nom et le numéro de ce gars. Je me suis dit que je devais effacer ça, mais soudain, j’en étais incapable. Ça me semblait irrespectueux, insensible et mal. C’était un souvenir, alors je devais le préserver, et trouver le numéro de quelqu’un d’autre à effacer. C’était un moment très « Black Mirror ». Une bonne partie de Be Right Back vient de là : la notion d’un souvenir que vous savez être faux, mais qui vous rappelle assez quelqu’un pour être douloureux. ».

Aujourd’hui, on appelle ces « souvenirs douloureux » des données, et on en laisse une quantité sans précédent en ligne. On ne cesse de poster photos et stories sur Instagram et on tweete plusieurs fois par jour. Mais si Kuyda et son équipe n’ont eu besoin que de messages pour développer un Roman Mazurenko digital, l’Ash de Black Mirror est créé à l’aide d’un spectre bien plus large de communications en ligne. Ses écrits, ses images, et même sa voix. Un sujet assez controversé dans l’industrie des technologies digitales. Il y a quelques semaines, Google a dévoilé un assistant vocal flippant qui peut prendre des rendez-vous en imitant une voix humaine, et qui se racle la gorge entre chaque phrase.

Une entreprise de pompes funèbres suédoise a attiré l’attention de la presse en annonçant son projet d’utiliser un logiciel de reconnaissance vocale et de faire appel à la réalité virtuelle pour remplacer digitalement les morts, afin d’aider les gens à faire leur deuil. « Ce que nous voulons trouver, c’est la voix » explique Charlotte Runius, la PDG et fondatrice de Fenix (prononcé Phoenix). « Notre but, c’est de pouvoir alimenter une conversation qui semble réelle. Au début, l’IA ne sera pas capable de couvrir tous les aspects du discours humain et ne se limitera qu’à certains sujets, comme ceux dont on discute au petit déjeuner, par exemple. »

« Nous nous projetons dans un futur où, quand vous serez vieux et seul parce que votre moitié sera décédée, vous pourrez mettre vos lunettes de réalité virtuelle et prendre le petit déjeuner en ayant l'impression de la retrouver. Bien sûr, vous saurez que ce n’est pas pour de vrai, mais nous voyons plus ça comme un jeu sur ordinateur, à vrai dire ». Bien qu’elle n’en soit qu’au stade de la réflexion, l’entreprise Fenix a commencé à chercher des développeurs et des ingénieurs pour aider à construire ce service fantôme, fondant sa plus grande ambition dans ce service d'un nouveau genre.

Mais le chatbot basé sur les messages de Kuyda lorgne dangereusement du côté de Black Mirror. Depuis qu’elle a annoncé l’existence du bot Roman dans un post Facebook, des millions de personnes l’ont téléchargé sur leurs iPhones. « C’est toujours l’ombre d’une personne, mais ce n’était pas possible il y a tout juste un an, et dans un futur très proche, nous seront capables d’en faire bien plus », a écrit Kuyda.

Retrouvez i-D sur Facebook, Instagram, Twitter et Flipboard.

Tagged:
robots
Technologie
black mirror
Charlie Brooker
intelligence artificielle