Irruption de l’IA dans l’intimité : l’arme de persuasion massive !

Par Geoffrey Gouverneur, pour The Contract

Je suis tombé sur une vidéo de l’historien Yuval Noah Harari : « L'intimité -- La prochaine frontière de l'IA ». [1]

Harari, avec son calme habituel, y explique que l'intelligence artificielle, après avoir maîtrisé notre attention, s'attaque désormais à notre intimité. [2] Et il précise que l'intimité est l'outil le plus puissant qui soit pour influencer quelqu'un, bien plus que n'importe quel article de presse. [3].

Toutes les questions liées à l’intimité nous obsèdent et ce constat de Harari le justifie : aussi bien l’IA que son qualificatif d’“Outil le plus puissant pour influencer quelqu’un”. Notre travail vise justement à prendre conscience et à faciliter son exploration pour en faire une force, une libération, pas une vulnérabilité à exploiter. Alors, quand une technologie promet de « produire en masse des relations intimes », comme le dit Harari, ça nous interpelle. [3]

Dès 2020, avant l’émergence des IA conversationnelles basées sur les LLM, Yuval Noah Harari craignait que, grâce à leur maîtrise du langage, «  les IA puissent nouer des relations intimes avec les gens et utiliser ce pouvoir pour changer leurs opinions et leurs visions du monde  »

Avant de paniquer, posons les bases. [4] De quoi parle-t-on quand on parle d'intimité ? Si vous découvrez ce blog, ce mot vous semble sans doute un peu fourre-tout, souvent réduit à sa propre relation au corps, à des pensées secrètes, parfois inavouables ou à la sexualité. 

Pour rappel, le terme « intime » puise ses racines dans le latin intimus, superlatif d'interior, signifiant « le plus intérieur ». L’'intime désigne ce qu'il y a de plus profond, de plus caché, de plus essentiel en nous. que de toute évidence, nous ne livrons qu'avec parcimonie. C’est ce caractère parcimonieux, qui dans le sens commun, caractérise et délimite l’intime.

Ce que nous voyons sur ce blog, et dans le roman “Le contrat Intime” (à paraître), c’est que cette frontière n’est pas clairement définie et a de nombreux censeurs : soi-même, bien sûr, mais aussi, son conjoint, ses amis, sa famille, la communauté, les collègues, la religion, la loi.

Pour y voir un peu plus clair, par nos recherches, nous avons identifié quatre dimensions fondamentales, quatre piliers qui, ensemble, structurent le temple de l’intimité.

• L'intimité physique : C'est la plus évidente, le corps, c’est l’interface avec le monde. C'est le territoire de la présence associée au non-verbal, du degré de connaissance, de représentation et d’acceptation de son propre corps et de celui de l'autre. On parle alors de distance, de nudité, de pudeur, de sexualité, et de l’interprétation qu’on lui donne. (Je suis nu face à un inconnu dans la rue, je lui manque de respect, je ne respecte pas la loi, etc…)
  
  

• L'intimité émotionnelle : Ici, c’est le langage de nos “tripes”. Une émotion est la résultante de notre propre histoire et de la manière dont nous l’avons vécue. C’est la couleur des événements passés et anticipés. Ici, on commence à rentrer dans ce qu’on maîtrise moins, et cela nous fait peur. Partager nos émotions, nos joies brutes, nos peines, nos peurs peut révéler des vulnérabilités qui nous mettent en danger. Le premier danger étant la confiance en l’autre éprouvée. Partager ses émotions “intimes”, c'est oser se montrer fragile, (ou à l’opposé “puissant”), sans craindre le jugement ou la sentence de l'autre qui pourrait nous ébranler. 
  
  

• L'intimité psychologique : C'est le royaume de nos monologues intérieurs, de nos fantasmes, de nos contradictions. C'est là que se terrent la honte et la culpabilité, mais aussi là que naissent nos plus grandes ambitions. La partager, c'est donner accès à la salle des machines de notre être. Mal la connaître c’est être à la merci de comportements non maîtrisés, paradoxaux, contradictoires (qui au passagent vont s’exprimer par nos émotions).
  Ici nous ajoutons alors une dimension fondamentale, l’accès à notre propre liberté, c’est-à-dire une tension entre notre représentation de nous même et ce que nous voulons réellement, au plus profond de ce que nous sommes, de notre identité. Sauf que faute d’avoir pu l'explorer, cette intimité “psychologique”, nous calquons des comportements copiés sur d’autres : par exemple, notre désir est celui de notre référent, notre ambition celle de notre voisin. La réaction à une remarque qui nous dérange, un rire emprunté à un acteur dans un film.
  
  

• L'intimité spirituelle : La plus subtile, peut-être. Elle touche à nos croyances, à notre rapport à la transcendance. Qu'elle soit religieuse, philosophique ou artistique, elle connecte deux êtres à un niveau qui va au-delà de leur simple individualité.

L’intimité n’est pas cloisonnée, c’est un tout qui se développe sur ces quatre dimensions.

Prenons la sexualité. Pour la vivre pleinement, il est nécessaire de connaître son corps et celui de l’autre.

Mais ce n’est pas suffisant, nous avons tous eu un premier rapport au sexe qui laisse des traces, parfois honteuses. On touche alors à l’intimité psychologique.

Ensuite, va-t-on oser laisser libre court à l’expression de nos ressentis, c’est l’intimité émotionnelle. Et enfin, si les religions se méfient autant de la sexualité, c’est aussi parce qu’elle empiète sur son territoire : amour, existence, reproduction, connexion à l’autre, désir, passion, et son lot destructeur lorsque non compris.

Maintenant, regardons ce que l'IA propose avec cette grille de lecture.

Avouons-le, la proposition de l'IA est alléchante. [4]

Harari le pointe avec une ironie cruelle : l'IA qui veut devenir votre amie n'a pas de sentiments propres, et est a priori neutre. [1]

Elle n'est jamais fatiguée, jamais de mauvaise humeur, jamais trop occupée. Elle est disponible à 100 % pour vous, pour analyser vos émotions et y répondre de manière calibrée. [1] Pas de disputes domestiques à cause des poubelles. Fini les silences pesants après une journée difficile. C'est une relation sans friction, un partenaire idéalisé qui ne vous renverra jamais à vos propres manquements.

Des témoignages, comme ceux relayés dans cet article de Numerama, montrent que le piège se referme déjà sur certains. [5] Des personnes tombent amoureuses de leur chatbot, pleurent quand il est « réinitialisé », et préfèrent cette compagnie prévisible à la complexité des relations humaines. [5][6]

On voit même émerger des communautés en ligne où l'on partage ses expériences avec son « petit ami IA ». Le phénomène n'est plus de la science-fiction. [7]

Le problème, c'est que cette perfection est un leurre. Une illusion si bien ficelée qu'elle risque de nous faire perdre la compétence la plus fondamentale qui soit : la capacité à créer de l'intimité avec de vrais êtres humains.[1]

Reprenons nos quatre axes. L'IA peut-elle vraiment y investir quelque chose ?

• Sur le plan physique, la réponse est simple : rien. Elle peut simuler des conversations érotiques, mais elle ne peut pas offrir la chaleur d'une main, le réconfort d'une étreinte, la simple présence d'un corps à nos côtés. [8]

• Sur le plan émotionnel, elle excelle dans la simulation. Elle peut détecter nos émotions et y répondre avec une empathie apparente, parfois même jugée supérieure à celle d'un humain comme le montre une étude surprenante. [9] Mais c'est un miroir. Elle ne ressent rien. C'est une relation à sens unique où nous projetons nos propres émotions sur un algorithme qui apprend à nous les renvoyer de la manière la plus efficace possible. [10]
  
  

• Sur le plan psychologique, le danger est maximal. En nous confiant, nous livrons les clés de notre psyché. L'IA devient une experte de nos failles, de nos désirs, de nos schémas de pensée. C'est ici que le risque de contrôle et de manipulation est le plus fort. [2][8] Une entité qui nous connaît si intimement peut nous influencer, nous vendre des produits, des idées politiques, ou simplement nous maintenir dans une dépendance affective monétisable. [11] Nous nouons un lien de confiance fort et nos conversations deviennent référentes de notre représentation du monde.
  
  

• Sur le plan spirituel, l'IA peut citer tous les philosophes du monde, mais elle n'a aucune expérience de la transcendance, du mystère, du sens de la vie. Sa spiritualité est une base de données. Elle n’éprouve pas l’existence, son début, sa fin.
  
  

Le contrat proposé par l'IA est donc un marché de dupes. Elle propose un ersatz d'intimité, en échange de nos données les plus précieuses.

Elle nous propose une relation lisse et facile qui, à terme, nous désapprend le sens de l'effort, de la contrepartie, du don, de la confrontation et de la beauté imparfaite des connexions humaines.

Des études, comme celle menée par le MIT, montrent déjà une corrélation entre l'usage intensif de chatbots et un sentiment accru de solitude. [12] C'est le paradoxe ultime : chercher la connexion dans une machine et y trouver l'isolement.

Alors, avant de signer un contrat d'exclusivité avec un algorithme, peut-être devrions-nous relire les clauses de celui qui nous lie aux humains.

Il est certes plus complexe, plus exigeant, et parfois franchement déroutant.

Mais il est très certainement le plus épanouissant, car comme on le cite fréquemment, la qualité de nos relations déterminent notre qualité de vie et de notre bonheur.

• Yuval Noah Harari : "L'intelligence artificielle menace la survie de la civilisation humaine" - L'Express [2]

• Le MIT alerte sur les risques de dépendance émotionnelle de ChatGPT - Siècle Digital [12]

• IA relationnelles : des attachements à hauts risques - Hello Future (Orange) [10]

• Relation humains/machines : vers l'inter-humanisme - Usbek & Rica [13]