Les membres du personnel de la FDA qui ont parlé avec STAT News, quant à eux, ont qualifié l’outil de “précipité” et ont déclaré que ses capacités avaient été suintées par des responsables, notamment Makary et ceux du Département de l’efficacité du gouvernement (DOGE), qui était dirigé par le milliardaire controversé Elon Musk. Dans sa forme actuelle, il ne doit être utilisé que pour les tâches administratives, et non les membres scientifiques, ont déclaré les membres du personnel.
“Makary et Doge pensent que l’IA peut remplacer le personnel et réduire les temps de révision, mais cela ne peut résolument pas”, a déclaré un employé. Le membre du personnel a également déclaré que la FDA n’avait pas mis en place des garde-corps pour l’utilisation de l’outil. “Je ne suis pas sûr de la précipitation de sortir que quiconque réfléchit à la politique et à l’utilisation”, a déclaré l’employé de la FDA.
Selon STAT, Elsa est basée sur Claude LLM d’Anthropic et est développée par le cabinet de conseil Deloitte. Depuis 2020, Deloitte a été payé 13,8 millions de dollars pour développer la base de données originale des documents de la FDA dont les données de formation d’ELSA sont dérivées. En avril, l’entreprise a obtenu un contrat de 14,7 millions de dollars pour évoluer la technologie à travers l’agence. La FDA a déclaré que ELSA avait été construite dans un environnement GovCloud de haute sécurité et offre une “plate-forme sécurisée pour que les employés de la FDA accédent aux documents internes tout en garantissant que toutes les informations restent au sein de l’agence”.
Auparavant, chaque centre de la FDA travaillait sur son propre pilote d’IA. Cependant, après la réduction des coûts en mai, le pilote d’IA développé à l’origine par le Centre d’évaluation et de recherche sur les médicaments de la FDA, appelée CDER-GPT, a été sélectionné pour être mis à l’échelle d’une version à l’échelle de la FDA et rebaptisé ELSA.
Les membres du personnel de la FDA du Center for Devices and Radiological Health ont déclaré à NBC News que leur pilote d’IA, CDRH-GPT, était buggy, n’était pas connecté à Internet ou au système interne de la FDA et a des problèmes de téléchargement de documents et de permettre aux utilisateurs de soumettre des questions.
