L’outil IA de rappel de Microsoft fait un retour importun

Les défenseurs de la sécurité et de la confidentialité se giraient pour une autre bataille difficile contre le rappel, l’outil d’IA déploiant dans Windows 11 qui capture, indexera et stockera tout ce qu’un utilisateur fait toutes les trois secondes.

Lorsque le rappel a été introduit en mai 2024, les praticiens de la sécurité l’ont rond pour créer une mine d’or pour les initiés malveillants, les criminels ou les espions de l’État-nation s’ils ont réussi à obtenir un bref accès administratif même à un appareil Windows. Les défenseurs de la vie privée ont averti que le rappel était mûr pour abus dans les milieux de violence des partenaires intimes. Ils ont également noté qu’il n’y avait rien de rappel d’arrêt de préserver le contenu de disparition sensible envoyé par le biais de messagers protectant la confidentialité tels que Signal.

Rappel total

Après des mois de contrecoup, Microsoft se rappelle plus tard. Jeudi, la société a déclaré qu’elle réintroduisait le rappel. Il est actuellement disponible uniquement pour les initiés ayant accès à la version d’aperçu de Windows 11 Build 26100.3902. Au fil du temps, la fonctionnalité sera déployée plus largement. Les responsables de Microsoft ont écrit:

Rappel (Aperçu) * vous fait gagner du temps en offrant une toute nouvelle façon de rechercher des choses que vous avez vues ou faites sur votre PC en toute sécurité. Avec les capacités d’IA de Copilot + PCS, il est désormais possible de trouver et de revenir rapidement à n’importe quelle application, site Web, image ou document simplement en décrivant son contenu. Pour utiliser le rappel, vous devrez vous opter pour enregistrer des instantanés, qui sont des images de votre activité, et vous inscrire à Windows Hello pour confirmer votre présence afin que vous puissiez accéder à vos instantanés. Vous contrôlez toujours ce que les instantanés sont sauvés et pouvez faire une pause pour enregistrer des instantanés à tout moment. Lorsque vous utilisez votre copilot + PC tout au long de la journée en travaillant sur des documents ou des présentations, en prenant des appels vidéo et en changeant de contexte sur les activités, le rappel prendra des instantanés réguliers et vous aidera à trouver les choses plus rapides et plus faciles. Lorsque vous devez trouver ou revenir à quelque chose que vous avez fait auparavant, ouvrez-vous et authentifiez-vous avec Windows Hello. Lorsque vous avez trouvé ce que vous recherchiez, vous pouvez rouvrir l’application, le site Web ou le document, ou utiliser Cliquez pour faire pour agir sur n’importe quelle image ou texte dans l’instantané que vous avez trouvé.

Microsoft espère que les concessions nécessitant l’opt-in et la capacité de faire une pause aideront à réprimer la révolte collective qui a éclaté l’année dernière. Ce ne sera probablement pas pour diverses raisons.

Tout d’abord, même si l’utilisateur A ne s’oppose jamais à se rappeler, ils n’ont aucun contrôle sur le paramètre sur les machines des utilisateurs B via Z. Cela signifie que tout ce que l’utilisateur a les envoie sera capable d’écran, traité avec une reconnaissance optique de caractères et une AI de copilote, puis stockés dans une base de données indexée sur les appareils des autres utilisateurs. Cela augmenterait sans discrimination toutes sortes de matériaux sensibles de l’utilisateur A, y compris les photos, les mots de passe, les conditions médicales et les vidéos et messages chiffrés. En tant qu’écrivain de guides de confidentialité, Em l’a écrit sur Mastodon:

Cette fonctionnalité extrait malheureusement vos informations de tout logiciel sécurisé que vous pourriez avoir utilisé et les stockera sur l’ordinateur de cette personne d’une manière éventuellement moins sécurisée.

Bien sûr, cette personne pourrait prendre manuellement une capture d’écran de tout cela de toute façon, mais cette fonctionnalité fait que même une personne bien intentionnée pourrait ne pas savoir qu’elle est activée, ou pourrait supposer à tort qu’elle est suffisamment sécurisée.

Cette fonctionnalité n’est pas encore complètement publiée, mais elle pourrait être bientôt.

La présence d’une base de données facilement consultable capturant chaque moment d’éveil d’une machine serait également une aubaine pour d’autres qui n’ont pas à cœur les meilleurs intérêts des utilisateurs. Ce niveau de matériel d’archives détaillé sera sans aucun doute soumis à l’assignation par les avocats et les gouvernements. Les acteurs de la menace qui parviennent à installer leurs logiciels espions sur un appareil n’auront plus à les parcourir pour les données les plus sensibles qui y sont stockées. Au lieu de cela, ils se souviendront de se rappeler tout comme ils font des bases de données de navigateur stockant maintenant les mots de passe.

Microsoft n’a pas immédiatement répondu à un message demandant pourquoi il réintroduit le rappel moins d’un an après que la fonctionnalité a obtenu une réception si froide. Pour les critiques, le rappel restera probablement l’un des exemples les plus pernicieux de l’insonshittification, le terme récemment frappé pour le chausseur d’IA indésirable et d’autres fonctionnalités dans les produits existants lorsqu’il y a un avantage négligeable pour les utilisateurs.

Cette histoire est apparue à l’origine sur Ars Technica.