Certains services de police au Canada utilisent la technologie de reconnaissance faciale pour résoudre des crimes, tandis que d’autres affirment que les préoccupations en matière de droits de la personne et de confidentialité les empêchent d’utiliser ces puissants outils numériques.
C’est cette application inégale de la technologie – et les règles peu strictes régissant son utilisation – qui poussent les experts juridiques et en IA à demander au gouvernement fédéral d’établir des normes nationales.
« Tant que nous n’aurons pas une meilleure idée des risques liés à l’utilisation de cette technologie, il devrait y avoir un moratoire ou une série d’interdictions sur la manière et le lieu où elle peut être utilisée », affirme Kristen Thomasen, professeure de droit à l’Université de la Colombie-Britannique.
De plus, la mosaïque de réglementations sur les technologies biométriques émergentes a créé des situations dans lesquelles le droit à la vie privée de certains citoyens est plus protégé que d’autres.
« Je pense que le fait que nous ayons des forces de police différentes qui prennent des mesures différentes suscite des inquiétudes. [about] les inégalités et la façon dont les gens sont traités à travers le pays, mais [it] souligne également l’importance continue d’une certaine forme d’action fédérale à entreprendre”, a-t-elle déclaré.
Les systèmes de reconnaissance faciale sont une forme de technologie biométrique qui utilise l’IA pour identifier les personnes en comparant des images ou des vidéos de leurs visages – souvent capturées par des caméras de sécurité – avec des images d’elles existantes dans des bases de données. Cette technologie est un outil controversé entre les mains de la police.
En 2021, le Commissariat à la protection de la vie privée du Canada a conclu que la GRC avait violé les lois sur la protection de la vie privée en utilisant cette technologie à l’insu du public. La même année, la police de Toronto a admis que certains de ses agents avaient utilisé un logiciel de reconnaissance faciale sans en informer leur chef. Dans les deux cas, la technologie avait été fournie par l’entreprise américaine Clearview AI, dont la base de données était composée de milliards d’images récupérées sur Internet sans le consentement des personnes dont les images étaient utilisées.
Le mois dernier, la police de York et de Peel, en Ontario, a annoncé avoir commencé à mettre en œuvre la technologie de reconnaissance faciale fournie par la multinationale française Idemia. Dans une interview, York PoliceConst. Kevin Nebrija a déclaré que ces outils “permettent d’accélérer les enquêtes et d’identifier les suspects plus tôt”, ajoutant qu’en termes de confidentialité, “rien n’a changé car les caméras de sécurité sont partout”.
Une nouvelle chaîne d’information en continu basée dans le sud de la Californie a une particularité : tous les reporters et la production sont générés par l’IA. Jean-François Bélanger de CBC explore les promesses de Channel 1 et les raisons pour lesquelles certains s’inquiètent de ce que cela pourrait signifier pour l’industrie de l’information.
Pourtant, au Québec voisin, le chef de la police de la Ville de Montréal, Fady Dagher, affirme que la force n’adoptera pas de tels outils d’identification biométrique sans un débat sur des questions allant des droits de la personne à la vie privée.
« Ce sera quelque chose qui nécessitera beaucoup de discussions avant que nous envisagions de le mettre en place », a déclaré Dagher dans une récente interview.
Nebrija a souligné que le ministère avait consulté le Commissaire à la protection de la vie privée de l’Ontario pour connaître les meilleures pratiques, ajoutant que les images que la police acquerra seront « obtenues légalement », soit avec la coopération des propriétaires de caméras de sécurité, soit en obtenant des ordonnances judiciaires pour les images.
Le feu vert du tribunal est nécessaire, selon un expert
Et bien que la police de York insiste sur le fait que les policiers solliciteront l’autorité judiciaire, Kate Robertson, chercheuse principale au Citizen Lab de l’Université de Toronto, a déclaré que les forces de police canadiennes ont l’habitude de faire exactement le contraire.
Depuis les révélations sur l’utilisation par la police de Toronto de Clearview AI entre 2019 et 2020, Robertson a déclaré qu’elle “n’était toujours au courant d’aucun service de police au Canada ayant obtenu l’approbation préalable d’un juge pour utiliser la technologie de reconnaissance faciale dans ses enquêtes”.
Selon Robertson, obtenir le feu vert du tribunal, généralement sous la forme d’un mandat, représente « la norme de référence en matière de protection de la vie privée dans les enquêtes criminelles ». Cela garantit qu’un outil de reconnaissance faciale, lorsqu’il est utilisé, est correctement équilibré par rapport au droit à la libre expression, à la liberté de réunion et aux autres droits consacrés dans la Charte.
Bien que le gouvernement fédéral n’ait pas compétence sur les forces de police provinciales et municipales, il peut modifier le Code criminel pour incorporer des exigences juridiques relatives aux logiciels de reconnaissance faciale de la même manière qu’il a mis à jour la loi pour traiter les technologies d’enregistrement vocal qui pourraient être utilisées à des fins de surveillance.
En 2022, les chefs des commissions fédérales, provinciales et territoriales de la protection de la vie privée du Canada ont appelé les législateurs à établir un cadre juridique pour une utilisation appropriée de la technologie de reconnaissance faciale, notamment en responsabilisant les organismes de surveillance indépendants, en interdisant la surveillance de masse et en limitant la durée de conservation des images dans les bases de données.
Entre-temps, le ministère fédéral du Développement économique a déclaré que la loi canadienne « pourrait potentiellement » réglementer la collecte de renseignements personnels par les entreprises, en vertu de la Loi sur la protection des renseignements personnels et les documents électroniques, ou LPRPDE.
Un nouveau rapport avertit le gouvernement américain que si les laboratoires d’intelligence artificielle perdent le contrôle des systèmes d’IA surhumains, cela pourrait constituer une menace d’extinction pour l’espèce humaine. Jeremie Harris, PDG de Gladstone AI, co-auteur du rapport, a rejoint Power & Politics pour discuter des dangers de l’évolution rapide des systèmes d’IA.
« Si, par exemple, un corps de police, y compris la GRC, devait sous-traiter des activités utilisant des renseignements personnels à une entreprise privée menant des activités commerciales, ces activités pourraient alors être réglementées par la LPRPDE, y compris les services liés aux technologies de reconnaissance faciale. » » a déclaré le ministère.
La Police provinciale du Québec a également un contrat avec Idemia, mais elle ne veut pas dire exactement comment elle utilise la technologie de l’entreprise.
Dans un communiqué envoyé par courriel, la police a déclaré que son « système automatisé de comparaison de visages n’est pas utilisé pour vérifier l’identité des individus. Cet outil est utilisé pour les enquêtes criminelles et se limite aux fiches de données des individus dont les empreintes digitales ont été prises en vertu de la loi sur l’identification des criminels. »
Ana Brandusescu, experte en gouvernance de l’IA à Oidttawa, et les forces de police du pays n’ont pas tenu compte des appels en faveur d’une meilleure gouvernance, d’une meilleure transparence et d’une meilleure responsabilité dans l’approvisionnement en technologies de reconnaissance faciale.
« Les forces de l’ordre n’écoutent pas les universitaires, les experts de la société civile, les personnes ayant une expérience vécue, les personnes directement touchées », a-t-elle déclaré.
