Au milieu du chaos et des bouleversements à la Social Security Administration (SSA) causés par le soi-disant ministère de l’efficacité du gouvernement (DOGE) d’Elon Musk, les employés ont maintenant été invités à intégrer l’utilisation d’un chatbot d’IA génératif dans leur travail quotidien.
Mais avant que l’un d’eux puisse l’utiliser, ils doivent tous regarder une vidéo de formation de quatre minutes avec une femme animée à quatre doigts attirée dans un style qui ne serait pas à sa place sur les sites Web créés au début de ce siècle.
Mis à part les graphiques Web 1.0 employés, la vidéo échoue également dans son objectif principal d’informer le personnel de l’ASS sur l’un des aspects les plus importants de l’utilisation du chatbot: n’utilisez aucune information personnellement identifiable (PII) lors de l’utilisation de l’assistant.
“Nos excuses pour la surveillance de notre vidéo de formation”, a écrit la SSA dans une fiche d’information sur le chatbot qui a été partagé dans un e-mail aux employés la semaine dernière. La fiche d’information, que Wired a examinée, ajoute que les employés utilisant le chatbot doivent «s’abstenir de télécharger PII au chatbot».
Le travail sur le chatbot, appelé le compagnon de soutien de l’agence, a commencé il y a environ un an, bien avant que Musk ou Doge n’arrive à l’agence, un employé de la SSA avec une connaissance du développement de l’application indique Wired. L’application est en test limité depuis février, avant qu’elle ne soit déployée à tous les membres du personnel de la SSA la semaine dernière.
Dans un e-mail annonçant sa disponibilité à tout le personnel cette semaine, et examiné par Wired, l’agence a écrit que le chatbot était «conçu pour aider les employés avec des tâches quotidiennes et améliorer la productivité».
Plusieurs employés de la SSA, y compris le personnel du front office, ont déclaré à Wired qu’ils ont entièrement ignoré l’e-mail sur le chatbot parce qu’ils étaient trop occupés avec des travaux réels, compensant les effectifs réduits dans les bureaux de la SSA. D’autres ont dit qu’ils avaient brièvement testé le chatbot mais n’avaient pas été immédiatement impressionnés.
“Honnêtement, personne n’en a vraiment parlé”, a déclaré une source à Wired. “Je ne suis pas sûr que la plupart de mes collègues ont même regardé la vidéo d’entraînement. J’ai joué un peu avec le chatbot et plusieurs des réponses que j’ai reçues étaient incroyablement vagues et / ou inexactes.”
Une autre source a déclaré que leurs collègues se moquaient de la vidéo d’entraînement.
«Vous pouviez entendre mes collègues se moquer des graphismes. Personne que je connais est [using it]. C’est tellement maladroit et mauvais », dit la source, ajoutant qu’ils ont également reçu des informations inexactes par le chatbot.
