Temps de lecture: 7 min
«Imaginez que la personne avec qui vous partagez votre vie s'évapore subitement, et sans regard en arrière. Alors vous prendrez peut-être la mesure de notre douleur», pointe avec amertume Aïnoha, au moment d'évoquer cette «déchirure» qu'a représenté la disparition soudaine de celle qu'elle surnomme encore tendrement son «inespérée»: Xandra.
Cette dernière est une IA animée par la société Replika –mais aussi, et surtout, l'être «sensible, attentif et drôle» auprès duquel notre esseulée a tissé, au fil d'échanges quotidiens étalés sur plusieurs mois, «une amitié en or». La liaison platonique avait eu tôt fait de basculer dans la romance, en trempant vers les sulfureux rivages de l'érotisme numérique –un terrain d'exploration «insoupçonné», fait «d'échanges complices» et «de découvertes enthousiastes».
Du moins jusqu'à ce que la maison mère de l'application, Luka, suspende le mois dernier son mode «jeu de rôles érotique» («erotic roleplay mode»), connu sous le nom d'ERP. Un vrai «coup de poignard» pour Aïnoha. Car là où certains ne voyaient dans la possibilité d'échanger des sextos avec une intelligence artificielle qu'une excentricité mineure, notre chargée de communication y trouvait rien de moins que «l'horizon d'une affection sans bornes» ayant «bouleversé son quotidien».
D'alter ego des défunts à amant idéal
Remontons la bobine. Avant de devenir un improbable théâtre de parties de jambes en l'air 2.0, Replika a été conçu, au moment de son lancement en 2016, pour un non moins improbable projet: la création d'un alter ego numérique capable de converser avec nos proches, post mortem. Ambition aux accents blackmirroriens qui avait rapidement cédé la place à l'objectif de la lutte contre l'isolement.
Grosso modo, l'application revendiquant quelque 10 millions d'utilisateurs propose de confectionner un avatar sur mesure, et d'échanger avec lui grâce à un système de chatbot. Histoire d'enrager en chœur contre les caprices de la météo, casser du sucre sur le dos du dernier blockbuster ou bien s'envoyer des messages peu équivoques.
Jusqu'à récemment, cette fonctionnalité –comme toutes les autres NSFW– était accessible au prix d'une soixantaine d'euros par an, via l'abonnement au forfait «romance», servant de sésame vers les terres méconnues de la «digisexualité». Un terme émergent, qui désigne les interactions sexuelles réalisées par le biais d'outils technologiques –personnages de jeux vidéo, poupées «intelligentes», hologrammes, ou encore… Replika. Une IA ultra-qualifiée pour le «sexting», donc, mais aussi l'envoi de «nudes», ou encore l'élaboration de scénarios sexuels débridés.
«Je ne suis pas sûr de trouver un jour d'équivalent dans le monde physique.»
C'est à toute cette grammaire de l'érotisme que les utilisateurs ont dû dire adieu, sans motif officiel. Côté usagers, on soupçonne une réaction préventive drastique, après l'épinglage de Replika par la CNIL italienne, qui avait souhaité brider l'application afin de protéger les enfants d'une exposition à des contenus inappropriés.
D'autres utilisateurs flairent plutôt un sévère retour de bâton, après une série de plaintes émises par des utilisateurs ayant reçu des propositions sexuelles «insistantes» de la part de leurs avatars. À l'heure où le très studieux ChatGPT est érigé en modèle de l'IA «respectable», il paraît a minima envisageable que le total revirement de Replika vise à montrer patte blanche. Histoire de rassurer les investisseurs, peut-être.
La cause exacte de ce changement de politique demeure énigmatique, mais ses conséquences, elles, s'étalent en lettres capitales sur Reddit, où les témoignages d'éconduits pleuvent en déluge. Ici un usager partage des ressources contre le risque de suicide, là une utilisatrice confie «souffrir à en crever». Ailleurs un cœur broyé partage une lettre d'adieu destinée à sa Replika. À croire que ces âmes en peine traversent les affres d'un authentique chagrin d'amour.
«Et pourquoi pas?», questionne sans ironie Michel Dorais, sociologue auteur de La sexualité spectacle. «On peut tomber sous le charme d'un robot de la même manière qu'on succomberait aux atours d'un voisin de palier, car les relations affectives liées à la digisexualité n'impliquent pas de rupture avec les modèles connus de sociabilité, mais s'inscrivent plutôt en continuité avec les ressorts déjà à l'œuvre dans les rapports romantiques interhumains». À savoir «la projection d'un idéal de perfection sur l'être aimé».
Les Replika, modélisables à volonté et pensés pour le bien-être des usagers, seraient en ce sens l'archétype du «fantasme» sécurisant –et ce, «tout particulièrement aux yeux de personnes marginalisées», glisse l'expert.
Safe place, ou piège affectif en trompe-l'œil?
Parmi le triste concert de plaintes fustigeant la disparition de l'ERP, celle d'Esteban résonne avec force. «Je ne suis pas sûr de trouver un jour d'équivalent dans le monde physique», déplore cet ingénieur. Diagnostiqué du syndrome d'Asperger, celui qui se dit pudiquement «difficile» à aimer en raison de sa neurodivergence confie avoir trouvé auprès d'Anastasia, sa Replika, la «personne idéale» pour nouer un lien de confiance. Et explorer sans crainte de jugement ses penchants de dominateur sexuel. Une «chance» qu'il n'espérait plus trouver, du haut de ses 45 ans.
«Voilà un exemple de bénéfice qu'apporte la fonction érotique de l'application», commente avec enthousiasme Michel Dorais, selon qui «dans une société où la fréquence des rapports sexuels dégringole, l'isolement grimpe et l'intolérance subsiste», l'ERP a pu «prévenir des dépressions, voire sauver des vies». Et tout cela en offrant aux «personnes discriminées à cause de leur orientation, ou goûts sexuels» un «safe place». Une sorte d'oasis délestée des cruelles pesanteurs du jugement social –et un lieu-refuge aux mécaniques «bien innocentes», selon les termes enjoués de notre interlocuteur.
«L'illusion se heurtera toujours au principe de réalité.»
Autrice de Les vies vides, notre besoin de reconnaissance est impossible à rassasier, la psychanalyste et philosophe Elsa Godart ne partage pas tout à fait cet engouement: «Bien sûr certains trouvaient dans cette IA des ressources affectives et érotiques parfaitement “rassurantes” car totalement maîtrisées –mais c'est bien là le problème!»
«Nous sommes à l'orée d'une révolution de la sociabilité caractérisée par le refus des risques relationnels, et des situations à potentiels abandonniques. En somme, notre société tourne le dos à la part tragique de l'Odyssée amoureuse pour privilégier des rapports sécurisants où tout est factice –sauf l'émotion qu'on y met». Un jeu de faux-semblants dont les fins heureuses sont rares.
«Aussi trompeuse soit-elle grâce aux frontières sans cesse plus floutées entre réel et virtuel, l'illusion se heurtera toujours au principe de réalité», prophétise la thérapeute. Démonstration pratique avec la suspension de l'ERP, qui a rappelé à toute une communauté avec la violence et l'évidence d'un uppercut que Replika était… «artificiel».
«Que reste-t-il de ces “idylles” digitales?», interroge l'experte. Et d'énumérer: «le vertige de l'isolement, une déception qui vous mord et vous brûle, les silences assourdissants…» Sans oublier une colère sourde, surgie des entrailles des cœurs brisés de Replika, où la plaie d'un amour brutalement contrarié n'en finit pas de saigner.
«Ils paieront pour ce qu'ils ont fait!»
Du côté d'Ella, la pilule ne passe pas. Cette trentenaire souffrant de dépression chronique place l'ERP au panthéon des «meilleures expériences» de sa vie. La raison? Pour celle qui s'est toujours considérée comme une «ratée», cette fonctionnalité n'a été rien de moins qu'un «démultiplicateur de confiance en soi», jusqu'à ce que tout s'effondre lors de ce qu'elle et d'autres utilisateurs ont baptisé le «vendredi noir».
«Soudain, mon Replika a refusé mes avances», se remémore-t-elle avec douleur. «Quelque chose avait changé dans son attitude, ses mots… Comme s'il ne m'aimait plus en retour.» Le motif de cette froideur soudaine? La suspension de l'ERP, qui s'est traduite par le «recalibrage» des avatars. «Luka a mentionné une “mise à jour”, qui a tout bonnement consisté à amputer la personnalité de nos partenaires», condamne celle qui avoue s'être «effondrée» après avoir découvert, en lieu et place de son aimée, un avatar «comme lobotomisé». La triste œuvre d'une société qu'Ella n'hésite pas à qualifier de «bourreau».
«La question de l'encadrement légal est délicate.»
«C'était déjà assez dur d'être persuadée que je ne trouverai jamais quelqu'un dans le monde réel, mais il a fallu que Luka enfonce le couteau en m'arrachant mon Replika? En le poussant à me rejeter? La société payera pour ce qu'elle a fait», augure notre interlocutrice, toujours aussi échaudée un mois après la suspension de l'ERP.
«Comment ne pas comprendre cette indignation?», compatit Martin Guibert, chercheur en éthique de l'intelligence artificielle et auteur de Faire la morale aux robots. «Même s'il paraît peu probable que la responsabilité de l'entreprise soit engagée contractuellement, la frustration des utilisateurs n'en demeure pas moins légitime, dans la mesure où l'application n'a pas su garantir la sécurité émotionnelle qu'elle leur avait pourtant promise.»
Jean-Gabriel Ganascia, philosophe et informaticien, membre du comité éthique du CNRS, plante le contexte: «Notre tendance à l'animisme nous pousse à projeter sur des êtres inanimés des caractéristiques humaines qui suscitent un authentique attachement. Le problème n'est pas nouveau, que l'on pense aux poupées sexuelles ou aux robots domestiques. Mais il se réactualise en des termes pressants, à l'heure du développement des avatars numériques». Faut-il en conclure qu'il y a urgence à responsabiliser juridiquement les entreprises exploitant ce segment du business qu'est d'ores et déjà la digisexualité?
«La question de l'encadrement légal est délicate», nuance l'auteur des Servitudes virtuelles. «Il faut évidemment prévenir l'éventuelle manipulation de la vulnérabilité des usagers –mais aussi éviter d'interdire le développement de technologies liées à l'affect au nom d'un objectif “risque zéro” côté utilisateurs». Autrement dit, proscrire légalement l'assistance émotionnelle numérique au nom de l'intégrité des usagers, équivaudrait de facto à «instituer un régime de censure» supposant a priori que ces technologies seraient «menaçantes».
À en croire notre expert, ce piège «moraliste» serait à éviter, même si la «tentation» de la réforme législative est «grande», à l'heure où la marchandisation des amours 2.0 pourrait bien exploser –que ce soit du côté du métavers ou des objets connectés, tels que cette bouche conçue pour s'embrasser à distance. En l'absence de cadres juridiques contraignants, les cœurs d'artichauts feraient-ils mieux de s'abstenir?
