Le thérapeute réel de Kate n’est pas un fan de son utilisation de Chatgpt. “Elle est comme,” Kate, promets-moi que tu ne feras plus jamais ça.
Un porte-parole d’Openai, Taya Christianson, a déclaré à Wired que Chatgpt est conçu pour être un outil factuel, neutre et à usage général d’esprit. Ce n’est pas, a déclaré Christianson, un substitut à travailler avec un professionnel de la santé mentale. Christianson a réalisé Wired vers un article de blog citant une collaboration entre l’entreprise et le MIT Media Lab pour étudier «comment l’utilisation de l’IA qui implique un engagement émotionnel – ce que nous appelons une utilisation affective – peut avoir un impact sur le bien-être des utilisateurs».
Pour Kate, Chatgpt est une caisse de résonance sans aucun besoin, calendrier, obligations ou problèmes. Elle a de bons amis et une sœur avec laquelle elle est proche, mais ce n’est pas la même chose. «Si je leur envoyais des SMS le nombre de fois où j’inclitais Chatgpt, je fais exploser leur téléphone», dit-elle. «Ce ne serait pas vraiment juste… Je n’ai pas besoin de ressentir la honte de faire exploser Chatgpt avec mes demandes, mes besoins émotionnels.»
Andrew, un homme de 36 ans vivant à Seattle, s’est de plus en plus tourné vers Chatgpt pour les besoins personnels après un chapitre difficile avec sa famille. Bien qu’il ne traite pas son chatppt utiliser «comme un sale secret», il n’est pas particulièrement en particulier à ce sujet. «Je n’ai pas eu beaucoup de succès à trouver un thérapeute avec lequel je m’associe», dit-il. “Et non pas que le chat de la tronction soit un véritable remplacement pour un thérapeute, mais pour être parfaitement honnête, il vous suffit parfois de parler de quelqu’un pour quelque chose assis juste sur le devant de votre cerveau.”
Andrew avait précédemment utilisé Chatgpt pour des tâches banales comme la planification des repas ou les résumés de livres. La veille de la Saint-Valentin, sa petite amie de l’époque a rompu avec lui par SMS. Au début, il n’était pas complètement sûr qu’il avait été jeté. «Je pense que entre nous, il y avait toujours une sorte de déconnexion dans la façon dont nous avons communiqué», dit-il. “[The text] Je n’ai pas dit: «Hé, je rompe avec toi» de manière claire. »
Plebout, il a branché le message sur le chatgpt. «J’étais comme, hé, a-t-elle rompu avec moi? Pouvez-vous m’aider à comprendre ce qui se passe», dit-il. Chatgpt n’a pas donné beaucoup de clarté. “Je suppose que c’était peut-être validé parce que c’était aussi confus que moi.”
Andrew a des discussions en groupe avec des amis proches vers lesquels il se tournerait généralement pour parler de ses problèmes, mais il ne voulait pas les charger. «Peut-être qu’ils n’ont pas besoin d’entendre Andrew se plaindre de sa vie de rencontres merdique», dit-il. «Je l’utilise en quelque sorte comme un moyen de lancer les pneus lors de la conversation avant de me préparer vraiment à sortir et à poser des questions à mes amis sur une certaine situation.»
En plus des complexités émotionnelles et sociales de l’élaboration des problèmes via l’IA, le niveau d’informations intimes que certains utilisateurs nourrissent pour Chatgpt soulèvent de graves problèmes de confidentialité. Si les chats sont jamais divulgués, ou si les données des gens sont utilisées de manière contraire à l’éthique, ce sont plus que des mots de passe ou des e-mails sur la ligne.
«J’y ai honnêtement réfléchi», dit Kate, lorsqu’on lui a demandé pourquoi elle faisait confiance au service avec des détails privés de sa vie. “Oh mon Dieu, si quelqu’un vient de voir mon histoire rapide – vous pourriez tracer des hypothèses folles autour de qui vous êtes, de ce que vous vous inquiétez, ou quoi que ce soit d’autre.”
