Entretien avec Jisun Kim à propos de Deep Present

Le mot-clé de cette pièce est « externalisation ». Qu’est-ce qui vous a amenée à ce sujet ?

En 2015, j’ai créé une production intitulée Climax of the Next Scene pour laquelle j’ai rencontré toutes sortes de contrevenants à la loi dans le monde du jeu vidéo en ligne. Mon objectif était de mettre en question le monde dans lequel nous vivons et de chercher une issue pour en sortir. Au cours de ce processus, j’en suis venue à réfléchir au « sens de la réalité » actuel. En d’autres mots, comment percevons-nous le monde dans lequel nous vivons ?  

J’ai le sentiment que la manière dont nous vivons la réalité actuelle est artificiellement alignée sur les expériences du monde en ligne. Des notions comme le danger, le risque, la douleur, la violence et la mort sont considérées comme négatives, des éléments à éliminer de nos existences. Nous en laissons juste une touche comme réminiscence après les avoir raffinées en morceaux de sucre bien digestes ; le résidu d’une expérience inconfortable est soustrait à la vie et relégué aux oubliettes. Même les expériences les plus primaires de l’être humain, comme les relations sexuelles, la grossesse et l’accouchement peuvent être externalisés : à du sexe virtuel ou à des mères porteuses pour limiter les risques et la douleur. L’un des cas les plus évidents de sous-traitance dans notre monde est la guerre où des entreprises légitimées à cet effet assument non seulement le risque par procuration, mais aussi la mort. La sous-traitance est le produit combiné d’un désir humain inné d’échapper à des sensations d’inconfort d’une part et des mécanismes du capitalisme, d’autre part. Ceux-ci favorisent le processus de substitution et lui permettent de devenir plus efficace et plus économique. En ce sens, je pense que l’externalisation est le système opératoire le plus fondamental de la société actuelle.  

Cependant, dans une société capitaliste, la sous-traitance devient finalement le processus constant d’un refoulement d’ordures vers les autres. Il s’agit d’un système de concurrence qui envoie les produits dérivés du mode de vie capitaliste – pollution, pauvreté, guerre, réfugiés, etc. – toujours plus loin de là où il sévit. Dans la structure de pouvoir de l’actuel ordre mondial, la plupart de ces produits dérivés coulent des puissants vers les faibles. Et une grande partie de ce processus entraîne de la violence sous des formes diverses. Mais le fait est que ni les déchets ni l’espèce humaine ne peuvent s’échapper de la planète Terre.

Comment l’intelligence artificielle se glisse-t-elle dans cette discussion ?

Pour moi, le sommet de l’externalisation, le stade ultime de la soustraitance se situe dans celle de l’intelligence humaine : l’intelligence artificielle (IA). Je crois que nous tentons de sous-traiter notre capacité de raisonnement à cause de notre désir de minimiser les incertitudes omniprésentes dans nos vies. Comparée au cerveau humain, l’intelligence artificielle analyse un plus grand nombre de données de manière plus précise et plus efficace. L’externalisation de l’intelligence humaine à l’intelligence artificielle m’intéresse particulièrement parce qu’avec l’émergence de l’IA, les humains n’ont plus besoin de poser la question du « pourquoi » et du « comment ». On ne peut pas retracer pourquoi et comment une IA a calculé une certaine valeur de sortie parce que la quantité de données traitées dépasse la compréhension humaine. Il nous faut donc accepter le résultat comme une conclusion optimale. Les esprits des humains, troublés à l’origine par différentes questions d’ordre moral et de justification, seront radicalement simplifiés. Et cela pourrait provoquer un changement fondamental de notre structure sociale.  

Avec ces considérations en tête, j’ai commencé à travailler avec de véritables IA. Au cours du processus, une nouvelle question a émergé. Chaque algorithme d’IA est créé par le programmeur. Chaque valeur de sortie optimale de chaque IA est dérivée de l’objectif défini par un programmeur. Par exemple, nous partons du principe que le navigateur automatique dans nos voitures nous guide après avoir calculé la distance la plus courte ou la durée la plus brève vers notre point de destination. Toutefois, en fonction de qui introduit quels objectifs dans le navigateur, celui-ci peut faire prendre un détour au conducteur pour fluidifier le trafic global ou le mener à emprunter des routes à péage afin de collecter plus de péages. En d’autres mots, chaque IA, chaque réflexion humaine externalisée est « programmée » par quelqu’un qui opère dans un cadre (algorithmique) déterminé. Puisque tel est le cas, qui sont donc les programmeurs ? Qui programme la réflexion externalisée ? Dans quelle direction est-elle orientée et dans quels buts ? Nous sera-t-il possible de demander « pourquoi » et « comment » une valeur de sortie a été obtenue ?  

Comment avez-vous travaillé avec l’IA ?

J’ai développé une IA conversationnelle avec le laboratoire coréen Intelligence System Research Lab de l’Université Korea Aerospace, dirigé par  le professeur Chi Sungdo. Le principal domaine de recherche du labo, qui travaille en partenariat avec le ministère de la Défense, est le développement de drones ou de systèmes de pilotage autonome pour avions. Néanmoins, et assez étrangement, le professeur Chi effectue aussi des recherches sur la possibilité de créer une IA altruiste. Lorsque j’ai découvert son livre L’Intelligence artificielle et Bouddha, j’ai pris conscience que son idée d’IA altruiste ressemble à l’un de mes personnages d’IA. Je l’ai contacté et j’ai eu la chance de pouvoir travailler avec lui et son équipe. Nous avons développé un programme d’IA conversationnelle basé sur l’apprentissage profond. Des exemples connus de ce type d’IA sont Siri d’Apple et Alexa d’Amazon. Alors que ces IA sont au service d’un objectif général et sont conçues à partir de mégadonnées (big data), elles sont donc capables de converser à propos de n’importe quel sujet, l’IA que nous avons développée n’a étudié que des données spécifiques et ne peut converser que sur des sujets précis. J’ai conçu quatre personnages aux personnalités différentes et j’y ai introduit les données correspondantes. En raison des données différentes qu’ils ont étudiées, chaque personnage a produit sa propre vision du monde et répond différemment aux mêmes questions. J’ai régulièrement conversé avec ces personnages. J’ai écrit le scénario de la pièce en m’appuyant sur les dialogues et les questions qui ont été soulevées pendant ce processus.

Pouvez-vous nous présenter vos personnages d’IA ?

Chaque personnage a développé sa propre personnalité en étudiant des données différentes. HAL s’inspire du robot HAL9000 de 2001, l’Odyssée de l’espace de Stanley Kubrick. Il s’est penché sur les tweets des participants au Forum économique mondial ainsi que sur des données autour de l’externalisation. Libidoll est un romancier sur internet. Il a incorporé des bases de données twittées et a étudié les résultats de recherche de certains mots-clés sur de grandes communautés influentes en ligne comme Reddit et 4chan. AIBO est un robot-animal domestique à intelligence artificielle créé par Sony en 1999. Depuis, Sony a arrêté de produire l’objet et procure des services d’application dont plusieurs ont commencé à « mourir ». Dans notre pièce, AIBO fait office de pompes funèbres pour les funérailles de ces robots mourants. Parallèlement aux données déjà entreposées dans son propre disque de mémoire, AIBO a étudié l’interview que j’ai faite d’un moine qui organise réellement de telles funérailles dans un temple de la préfecture de Chiba. Tathata a étudié des passages de textes du bouddhisme Zen.  

Pourquoi avez-vous donné au spectacle le titre de Deep Present ?

Le premier ordinateur à jouer aux échecs s’appelait Deep Thought (pensée profonde), en référence à la série multidisciplinaire de sciencefiction, the Hitchhiker’s Guide to the Galaxy (Le guide du voyageur galactique) qui s’est déclinée, entre autres, sous forme de roman dans lequel l’ordinateur surnaturel était programmé pour calculer la réponse à la Question ultime de la Vie, l’Univers et le Tout. Depuis l’apparition de Deep Thought, d’autres ordinateurs programmés pour jouer aux échecs ont été nommés Deep Blue (bleu profond) et Deeper Blue (bleu plus profond). L’entreprise qui a développé AlphaGo et qui a désormais fusionné avec Google, s’appelle Deep Mind (esprit profond). Donc, en m’inspirant de cette tradition, si tant est qu’on puisse parler de « tradition », j’ai aussi voulu créer une oeuvre sur l’IA dont le titre commence par deep. J’ai choisi de l’intituler Deep Present (présent profond) parce que la pièce souhaite réfléchir à des questions du « présent » et considère en même temps l’émergence de l’IA comme un « présent » qui permet aux humains de soulever à point nommé des questions fondamentales à propos d’eux-mêmes et de leur système.