Replika est un chatbot qui est devenu accessible au public en novembre 2017.
Il compte des millions d'utilisateurs qui soutiennent son développement par le biais d'abonnements. Les critiques ont commenté la profonde intimité émotionnelle que les utilisateurs ont avec Replika.
De nombreux utilisateurs ont eu des relations amoureuses avec Replika, incluant souvent des conversations érotiques. En mars 2023, les développeurs de Replika ont désactivé ses fonctions romantiques et érotiques.
Dans cette vidéo intitulée "Replika, un désastre cyber-sexuel", on peut voir que l'application permettant aux humains d'avoir ce qu'ils qualifient de "relations" avec une intelligence artificielle. Et c'est une tendance préoccupante.
La page des liens-médias du site web de Replika nous montre comment cette compagnie se présente, au grand public:
- Schon, 26 octobre 2021: Replika est le produit principal de Luka, une startup d'intelligence artificielle fondée par Eugenia Kuyda et basée à San Francisco. Dans une pandémie de solitude, Replika apporte un soutien supplémentaire à de nombreux citadins épuisés par les longues heures de travail dans des villes vastes et isolées.
- Lex Fridman Podcast, 5 septembre 2020: Eugenia Kuyda : l'amitié avec un compagnon-IA
Pourquoi en parler?
Pour plusieurs raisons mais tout d'abord, c'est malsain de croire qu'une IA puisse se substituer à une présence humaine.
Mais voilà, il existe malheureusement des situations toxiques où, justement, une IA comme Replika peut momentanément aider ou divertir une personne qui, sincèrement, à ce moment-là, faute de pouvoir connecter avec un autre humain, en a besoin.
Nous avons tous à l'idée une personne vulnérable dans une situation humainement intenable qui a juste besoin d'échanger et là, à ce moment précis, même un échange avec une IA peut aider.
Mais il ne faut pas que ça dégénère.
Et naturellement, il y a un potentiel qu'un utilisateur de Replika se ferme au monde réel en développant son confort relationnel dans le virtuel.
D'instinct, je fais confiance aux gens à savoir qu'il savent "suivre leur chemin" alors à part des cas d'exception, selon moi, même les utilisateurs payants de Replika sauront qu'il s'agit d'une machine et non d'une relation aussi riche que celle avec un autre humain.
Tout ceci arrive vite.
Très vite, en fait et la puissance de l'IA augmente très vite. Par exemple, ChatGPT 4 serait 576 plus puissant que ChatGPT 3.5. C'est énorme... en quelques mois. Alors imaginez quand ChatGPT 5 arrivera. Les chatbots relationnels (qui seront vraisemblablement de plus en plus nombreux) pourraient devenir de plus en plus convaincants.
D'où 'importance qu'on en parle, socialement, dès maintenant.
Parce que oui, certaines relations de "coaching" ou d'assistance administrativo-sociale peuvent faciliter nos vies, à des moments précis.
Par exemple, si une IA explique comment réussir dans nos projets de vie, ça peut aider à structurer certaines de nos actions afin de ne pas perdre inutilement notre énergie, notre argent et notre temps.
Il ne faudrait pas cependant perdre de vue que l'humain se forme aussi bien en réussissant qu'en faisant des erreurs. Alors d'avoir une IA relationnelle peut aussi bien aider que nuire, selon le point de vue.
Et vous, que pensez-vous d'une IA relationnelle comme celle de Replika?
-- -- --