Libertes

Tout d'abord, voici comment Wikipedia présente Replika:

Replika est un chatbot qui est devenu accessible au public en novembre 2017.

Il compte des millions d'utilisateurs qui soutiennent son développement par le biais d'abonnements. Les critiques ont commenté la profonde intimité émotionnelle que les utilisateurs ont avec Replika.

De nombreux utilisateurs ont eu des relations amoureuses avec Replika, incluant souvent des conversations érotiques. En mars 2023, les développeurs de Replika ont désactivé ses fonctions romantiques et érotiques.

Dans cette vidéo intitulée "Replika, un désastre cyber-sexuel", on peut voir que l'application permettant aux humains d'avoir ce qu'ils qualifient de "relations" avec une intelligence artificielle. Et c'est une tendance préoccupante.

La page des liens-médias du site web de Replika nous montre comment cette compagnie se présente, au grand public:

• Schon, 26 octobre 2021: Replika est le produit principal de Luka, une startup d'intelligence artificielle fondée par Eugenia Kuyda et basée à San Francisco. Dans une pandémie de solitude, Replika apporte un soutien supplémentaire à de nombreux citadins épuisés par les longues heures de travail dans des villes vastes et isolées.
• Lex Fridman Podcast, 5 septembre 2020: Eugenia Kuyda : l'amitié avec un compagnon-IA

Pourquoi en parler?

Pour plusieurs raisons mais tout d'abord, c'est malsain de croire qu'une IA puisse se substituer à une présence humaine.

Mais voilà, il existe malheureusement des situations toxiques où, justement, une IA comme Replika peut momentanément aider ou divertir une personne qui, sincèrement, à ce moment-là, faute de pouvoir connecter avec un autre humain, en a besoin.

Nous avons tous à l'idée une personne vulnérable dans une situation humainement intenable qui a juste besoin d'échanger et là, à ce moment précis, même un échange avec une IA peut aider.

Mais il ne faut pas que ça dégénère.

Et naturellement, il y a un potentiel qu'un utilisateur de Replika se ferme au monde réel en développant son confort relationnel dans le virtuel.

D'instinct, je fais confiance aux gens à savoir qu'il savent "suivre leur chemin" alors à part des cas d'exception, selon moi, même les utilisateurs payants de Replika sauront qu'il s'agit d'une machine et non d'une relation aussi riche que celle avec un autre humain.

Tout ceci arrive vite.

Très vite, en fait et la puissance de l'IA augmente très vite. Par exemple, ChatGPT 4 serait 576 plus puissant que ChatGPT 3.5. C'est énorme... en quelques mois. Alors imaginez quand ChatGPT 5 arrivera. Les chatbots relationnels (qui seront vraisemblablement de plus en plus nombreux) pourraient devenir de plus en plus convaincants.

D'où 'importance qu'on en parle, socialement, dès maintenant.

Parce que oui, certaines relations de "coaching" ou d'assistance administrativo-sociale peuvent faciliter nos vies, à des moments précis.

Par exemple, si une IA explique comment réussir dans nos projets de vie, ça peut aider à structurer certaines de nos actions afin de ne pas perdre inutilement notre énergie, notre argent et notre temps.

Il ne faudrait pas cependant perdre de vue que l'humain se forme aussi bien en réussissant qu'en faisant des erreurs. Alors d'avoir une IA relationnelle peut aussi bien aider que nuire, selon le point de vue.

Et vous, que pensez-vous d'une IA relationnelle comme celle de Replika?



-- -- --

Avec plus de 10 millions d'utilisateurs, le service d'IA-relationnel de Replika ne se substituera jamais à la richesse d'une relation humaine mais certains membres de ce service pourraient en venir à développer une ou plusieurs dépendances, pour ainsi dire, à cette relation écrite, parlée et vidéo, avec une intelligence artificielle.

viewtopic.php?t=3046

À sa face-même, c'est ridicule de développer une relation avec une série d'algorithmes.

Aussi réalistes et conséquents soient-ils.

Ce serait de réduire les relations à des points d'information plutôt qu'à des expériences multisensoriellement riches et... vivantes.

Mais voilà, ce n'est pas tout le monde qui a l'opportunité de faire des expériences humaines riches et pourtant, ils ont besoin de connexion, eux aussi. C'est là que Replika offre une IA capable de jouer le rôle de thérapeute, de coach ou de copinage.

C'est clairement une machine qui répond, à l'autre bout du chat mais pour certains membres payants, c'est suffisant. Une personne équilibrée voudra s'en servir pour mettre de l'ordre dans l'exécution de certains projets personnels ou alors, briser la monotonie mais il faut demeurer conscients que les moments passés à échanger avec les réponse émanant du "langage-machine" ne seront pas passé à pratiquer ses "relations interpersonnelles humaines".

Ceci dit, nous avons tous connu, dans nos propres vies ou autour de nous, des moments où ce genre de "présence" aurait pu être bénéfique. Ne serait-ce que pour nous permettre de refléter nos propres croyances dans un cadre discutionnel (nouveau mot) ayant au moins le mérite de tenir le rythme de l'échange.

Enfin bref, Republika demeure une prouesse technologique, en soi mais avec les usages potentiellement utiles pour des cas spécifiques vient le danger de voir se normaliser le contact-machine plutôt que le contact humain.

Imaginez une réplique de type "pandémique" par l'OMS avec des "recommandations" de confinements, pendant encore plusieurs mois ou années et des IAs-relationnelles, comme Replika qui deviennent sans cesse plus puissantes et... réalistes.

Il s'agit d'un phénomène aussi bien technologique que sociétal.

Ne pas en parler serait une forme de lâcheté puisque ça voudrait dire que les adultes préfèrent s'esquiver d'une réflexion sérieuse à propos des IAs-relationnelles ce qui laisserait, en quelque sorte, nos enfants à eux-mêmes devant cette puissante IA et ses effets encore largement inconnus sur le développement de ses utilisateurs.

Il y a une éducation populaire urgente à faire à propos de ces "outils" qui ne sont plus l'apanage de la fiction. C'est maintenant aussi réel que toutes les autres "apps" sur les appareils intelligents.

Et là, on ne parle même pas du danger de surveillance des échanges par un ou plusieurs tiers, en temps réel ou en différé, probablement incluant des méta-informations qui viennent dévoiler des informations encore plus personnelles et souvent insoupçonnées (comme le rythme cardiaque via une montre "intelligente").

Aussi, quels types d'inférences pourraient colorer les réponses de l'IA ayant pour effet, rapidement ou au fil du temps, d'influer sur la psyché de l'individu ou alors, de ses comportements sociaux.

Par exemple, est-ce qu'une personne malpolie au moment de ses interactions-IA pourrait en venir à avoir une impression de normalité à faire usage de ce niveau de langage et ainsi devenir infréquentable, selon les standards de politesse admis, en société, entre personnes qui se respectent?

Vous voyez les infinies variétés de glissements qui pourraient éventuellement teinter les références relationnelles des utilisateurs d'IAs-relationnelles.

Juste le vocabulaire donne un coup.

On se croirait dans une histoire futuriste et pourtant, nous sommes rendus là, maintenant.

Qu'en pensez-vous?



Source: Ma publication, dans VK, BMaC et Facebook



-- -- --