Avez-vous sur Google quelque chose récemment pour ne pas avoir rencontré un joli petit logo Diamond au-dessus de quelques mots par magie? L’aperçu de l’IA de Google combine les modèles de langage de Google Gemini (qui génèrent les réponses) avec une génération de récupération, ce qui tire les informations pertinentes.
En théorie, il a fait un produit incroyable, le moteur de recherche de Google, encore plus facile et plus rapide à utiliser.
Cependant, comme la création de ces résumés est un processus en deux étapes, des problèmes peuvent survenir lorsqu’il y a une déconnexion entre la récupération et la génération de langue.
Bien que les informations récupérées puissent être exactes, l’IA peut faire des sauts erronés et tirer des conclusions étranges lors de la génération du résumé.
Cela a conduit à des gaffes célèbres, comme lorsqu’elle est devenue la risée d’Internet à la mi-2024 pour recommander de la colle afin de s’assurer que le fromage ne glisserait pas votre pizza maison. Et nous avons adoré le temps qu’il décrit en cours d’exécution avec des ciseaux comme “un exercice cardio qui peut améliorer votre fréquence cardiaque et nécessiter une concentration et une concentration”.
Ceux-ci ont incité Liz Reid, responsable de Google Search, à publier un article intitulé Environ la semaine dernièreindiquant ces exemples “a mis en évidence certains domaines spécifiques que nous devions améliorer”. Plus que cela, elle a diplomatiquement blâmé les «requêtes absurdes» et le «contenu satirique».
Elle avait au moins raison. Certaines des requêtes problématiques ont été purement soulignées dans l’intérêt de rendre l’IA stupide. Comme vous pouvez le voir ci-dessous, la requête «Combien de rochers dois-je manger?» Ce n’était pas une recherche courante avant l’introduction des aperçus de l’IA, et ce n’est pas le cas depuis.
Cependant, près d’un an après le fiasco de la pizza, les gens trompent toujours les aperçus de l’IA de Google dans la fabrication d’informations ou “hallucinant” – l’euphémisme pour l’IA.
De nombreuses requêtes trompeuses semblent être ignorées au moment de l’écriture, mais le mois dernier, il a été rapporté par Engadget que les aperçus de l’IA constitueraient des explications pour les idiomes de simulation comme “Vous ne pouvez pas épouser de la pizza” ou “Ne jamais frotter un ordinateur portable de Basset Hound”.
Ainsi, l’IA a souvent tort lorsque vous le trompez intentionnellement. Gros problème. Mais, maintenant qu’il est utilisé par des milliards et comprend des conseils médicaux provenant de la foule, que se passe-t-il lorsqu’une véritable question le fait halluciner?
Alors que l’IA travaille à merveille si tous ceux qui l’utilisent examinent d’où il provient de ses informations, de nombreuses personnes – sinon la plupart des gens – ne le feront pas.
Et c’est là que réside le problème clé. En tant qu’écrivain, les aperçus sont déjà intrinsèquement un peu ennuyeux car je veux lire du contenu manuscrit par l’homme. Mais, même en mettant mon biais pro-humain de côté, l’IA devient sérieusement problématique si elle est si facilement indigne de confiance. Et c’est sans doute carrément dangereux maintenant qu’il est essentiellement omniprésent lors de la recherche, et une certaine partie des utilisateurs va prendre ses informations à sa valeur nominale.
Je veux dire, des années de recherche nous ont tous formés à faire confiance aux résultats en haut de la page.
Attendez … c’est vrai?
Comme beaucoup de gens, je peux parfois lutter avec le changement. Je n’ai pas aimé quand LeBron est allé aux Lakers et je suis resté avec un lecteur MP3 sur un iPod pendant trop longtemps.
Cependant, étant donné que c’est maintenant la première chose que je vois sur Google la plupart du temps, les aperçus de l’IA de Google sont un peu plus difficiles à ignorer.
J’ai essayé de l’utiliser comme Wikipedia – potentiellement peu fiable, mais bon pour me rappeler des informations oubliées ou pour apprendre les bases d’un sujet qui ne me provoque pas Agita si ce n’est pas précis à 100%.
Pourtant, même sur des requêtes apparemment simples, cela peut échouer de façon spectaculaire. À titre d’exemple, je regardais un film l’autre semaine et ce gars vraiment ressemblait à Lin-Manuel Miranda (créateur de la comédie musicale Hamilton), j’ai donc googlé s’il avait des frères.
L’aperçu de l’IA m’a informé que “Oui, Lin-Manuel Miranda a deux frères plus jeunes nommés Sebastián et Francisco”.
Pendant quelques minutes, je pensais que j’étais un génie pour reconnaître les gens… jusqu’à ce qu’un peu de recherches supplémentaires montrent que Sebastián et Francisco soient en fait les deux enfants de Miranda.
Voulant lui donner le bénéfice du doute, j’ai pensé qu’il n’aurait aucun problème à énumérer les citations de Star Wars pour m’aider à penser à un titre.
Heureusement, cela m’a donné exactement ce dont j’avais besoin. “Bonjour!” Et “C’est un piège!”, Et il a même cité “Non, je suis ton père” par opposition au “Luke, je suis ton père”.
Parallèlement à ces citations légitimes, cependant, il a affirmé qu’Anakin avait dit “si je vais, je vais en bang” avant sa transformation en Dark Vador.
J’ai été choqué de voir comment ça pouvait être si mal… et puis j’ai commencé à me deviner. Je me glissai en pensant que je dois me tromper. J’étais tellement incertain que j’ai triplé l’existence de la citation et l’a partagé avec le bureau – où il a été rapidement (et correctement) rejeté comme un autre combat de la folie de l’IA.
Ce petit morceau de doute de soi, sur quelque chose d’aussi stupide que Star Wars m’a fait peur. Et si je n’avais aucune connaissance sur un sujet que je demandais?
Cette étude du classement SE montre en fait que les aperçus de l’IA de Google évitent (ou répond prudemment à) des sujets de financement, de politique, de santé et de droit. Cela signifie Google connu Que son IA ne soit pas encore à la hauteur des requêtes plus sérieuses.
Mais que se passe-t-il lorsque Google pense qu’il est amélioré au point que cela peut?
C’est la technologie … mais aussi comment nous l’utilisons
Si toutes les personnes utilisant Google pouvaient être fiables pour vérifier les résultats de l’IA ou cliquer sur les liens source fournis par l’aperçu, ses inexactitudes ne seraient pas un problème.
Mais, tant qu’il y a une option plus facile – un chemin plus sans friction – les gens ont tendance à le prendre.
Malgré plus d’informations à portée de main qu’à tout moment de l’histoire humaine, dans de nombreux pays, nos compétences en littératie et en numératie diminuent. Exemple, une étude en 2022 a révélé que seulement 48,5% des Américains déclarent avoir lu au moins un réserver dans les 12 mois précédents.
Ce n’est pas la technologie elle-même qui est le problème. Comme le fait valoir avec éloquence par le professeur agrégé Grant Blashki, comment nous utilisons la technologie (et en effet, la façon dont nous nous sommes dirigés vers l’utiliser) est l’endroit où les problèmes surviennent.
Par exemple, une étude d’observation des chercheurs de l’Université McGill du Canada a révélé que l’utilisation régulière du GPS peut entraîner une aggravation de la mémoire spatiale – et une incapacité à naviguer par vous-même. Je ne peux pas être le seul à avoir utilisé Google Maps pour arriver quelque part et je ne savais pas comment revenir.
Les neurosciences ont clairement démontré que la lutte est bonne pour le cerveau. La théorie cognitive des charges indique que votre cerveau doit pense sur les choses à apprendre. Il est difficile d’imaginer trop de difficultés lorsque vous recherchez une question, lisez le résumé de l’IA, puis l’appelez un jour.
Faire le choix de penser
Je ne m’engage pas à ne plus jamais utiliser GPS, mais étant donné que les aperçus de l’IA de Google sont régulièrement indignes de confiance, je me débarrasserais des aperçus de l’IA si je le pouvais. Cependant, il n’y a malheureusement aucune méthode de ce type pour l’instant.
Même les hacks comme ajouter un mot CUSS à votre requête ne fonctionnent plus. (Et bien que l’utilisation du mot F semble toujours fonctionner la plupart du temps, cela rend également les résultats de recherche plus étrangers et plus, euh, orientés vers l’adulte, que vous ne recherchez probablement pas.)
Bien sûr, je vais toujours utiliser Google – parce que c’est Google. Il ne va pas inverser ses ambitions de l’IA de sitôt, et même si je pourrais souhaiter qu’il rétablit l’option de désactiver les aperçus de l’IA, c’est peut-être mieux le diable que vous connaissez.
À l’heure actuelle, la seule véritable défense contre la désinformation de l’IA est de faire un effort concerté pour ne pas l’utiliser. Laissez-le prendre des notes de vos réunions de travail ou réfléchir à certaines lignes de ramassage, mais quand il s’agit de l’utiliser comme source d’informations, je vais le faire défiler et chercher un article de qualité (ou au moins vérifié) des résultats les plus importants – comme je l’ai fait pour presque toute mon existence.
J’ai mentionné précédemment qu’un jour, ces outils d’IA pourraient vraiment devenir une source d’information fiable. Ils pourraient même être assez intelligents pour affronter la politique. Mais aujourd’hui, ce n’est pas ce jour-là.
En fait, comme l’a rapporté le 5 mai par le New York Times, alors que les outils d’IA de Google et Chatgpt deviennent plus puissants, ils deviennent également de plus en plus peu fiables – donc je ne suis pas sûr que je leur ferai confiance pour résumer les politiques d’un candidat politique.
Lors du test du taux d’hallucination de ces «systèmes de raisonnement», le taux d’hallucination enregistré le plus élevé était de 79%. Amr Awadalla, le directeur général de Vectara – un agent de l’IA et une plate-forme adjointe pour les entreprises – l’a dit franchement: “Malgré nos meilleurs efforts, ils halluneront toujours.”
