Google a dévoilé sa charte de sécurité en Inde, qui élargira ses développements dirigés par l’IA pour la détection des fraudes et la lutte contre les escroqueries à travers le pays, le plus grand marché de la société en dehors des États-Unis.
La fraude numérique en Inde augmente. La fraude liée au système de paiement instantané du gouvernement indien UPI a augmenté de 85% en glissement annuel à près de 11 milliards de roupies indiennes (127 millions de dollars) l’année dernière, selon les données du gouvernement. L’Inde a également vu plusieurs cas d’articles d’arrestation numériques, où les fraudeurs se présentent en tant que responsables pour extorquer de l’argent via des appels vidéo et des applications de prêt prédatrices.
Avec sa charte de sécurité, Google vise à aborder certains de ces domaines. La société a également lancé son centre d’ingénierie de sécurité en Inde, son quatrième centre après Dublin, Munich et Malaga.
Annoncée au Sommet Google for India l’année dernière, le Security Engineering Center (GSEC) permettra à Google de s’associer à la communauté locale, y compris le gouvernement, le monde universitaire et les étudiants, et les petites et moyennes entreprises pour créer des solutions pour résoudre la cybersécurité, la confidentialité, la sécurité et les problèmes de l’IA, a déclaré Google VP de l’ingénierie de sécurité Heather Adkins dans une interview avec TechCrunch.
Google s’est associé au Centre de coordination indienne du ministère des Affaires intérieures (I4C) pour sensibiliser les cybercrimes, a indiqué la société dans un article de blog. Cela s’appuie sur les travaux existants de l’entreprise, y compris le lancement de son programme d’identification de fraude en ligne, Digikavach, qui a fait ses débuts en 2023 pour restreindre les effets néfastes des applications financières malveillantes et des applications de prêt prédatrices.
Avec son GSEC en Inde, Google se concentrera sur trois domaines clés, a déclaré Adkins à TechCrunch: le phénomène des escroqueries en ligne et de la fraude et comment les gens sont en sécurité en ligne; la cybersécurité des entreprises, du gouvernement et des infrastructures critiques; et construire une AI responsable.
«Ces trois domaines feront partie de notre charte de sécurité pour l’Inde, et au cours des prochaines années… nous voulons utiliser le fait que nous avons une capacité d’ingénierie ici à résoudre pour ce qui se passe en Inde, près de l’endroit où les utilisateurs sont», a déclaré Adkins.
À l’échelle mondiale, Google utilise l’IA pour lutter contre les escroqueries en ligne et supprimer des millions d’annonces et de comptes d’annonces. La société vise à déployer l’IA plus largement en Inde pour lutter contre la fraude numérique.
Google Messages, qui est préinstallé sur de nombreux appareils Android, utilise une détection d’escroquerie alimentée par l’IA qui a aidé à protéger les utilisateurs contre plus de 500 millions de messages suspects par mois. De même, Google a piloté sa protection de jeu en Inde l’année dernière, qui, selon lui, a bloqué près de 60 millions de tentatives d’installation d’applications à haut risque, ce qui a entraîné l’arrêt de plus de 220 000 applications uniques sur plus de 13 millions d’appareils. Google Pay, qui est l’une des meilleures applications de paiement basées sur l’UPI dans le pays, a également affiché 41 millions d’avertissements contre les transactions soupçonnées d’être des escroqueries potentielles.
–
Adkins, un membre fondateur de l’équipe de sécurité de Google qui fait partie de la société Internet depuis plus de 23 ans, a discuté de plusieurs autres sujets lors d’une interview avec TechCrunch:
Adkins a déclaré qu’une chose en tête est l’utilisation et l’utilisation abusive de l’IA par des acteurs malveillants.
«Nous suivons évidemment l’IA de très près, et jusqu’à présent, nous avons surtout vu les grands modèles de langue comme les Gémeaux utilisés comme améliorations de la productivité. Par exemple, pour rendre les escroqueries de phishing un peu plus efficaces – surtout si l’acteur et la cible ont des langues différentes – ils peuvent utiliser le bénéfice de la traduction pour rendre les escroqueries plus crédibles en utilisant des fesses profondes, des vidéos, etc.», a déclaré Adkins.
Adkins a déclaré que Google effectue des tests approfondis de ses modèles d’IA pour s’assurer qu’ils comprennent ce qu’ils ne devraient pas faire.
“Ceci est important pour le contenu généré qui pourrait être nocif, mais aussi des actions que cela pourrait prendre”, a déclaré Akins.
Google travaille sur des cadres, y compris le cadre d’IA sécurisé, pour restreindre l’abus de ses modèles Gemini. Cependant, pour protéger l’IA génératrice contre la mauvaise utilisation et la maltraitance des pirates à l’avenir, la société voit la nécessité d’un cadre pour établir la sécurité de la façon dont plusieurs agents communiquent.
«L’industrie se déplace très, très rapidement [by] mettre les protocoles à l’extérieur. C’est presque comme les premiers jours d’Internet, où tout le monde publie du code en temps réel, et nous pensons à la sécurité après coup », a déclaré Adkins.
Google ne veut pas introduire simplement ses propres cadres pour limiter la portée de l’IA générative abusée par des pirates. Au lieu de cela, Adkins a déclaré que l’entreprise travaillait avec la communauté de la recherche et les développeurs.
“L’une des choses que vous ne voulez pas faire est de vous contraindre trop dans les premiers jours de recherche”, a déclaré Adkins.
Sur les vendeurs de surveillance
Parallèlement au potentiel de maltraitance de l’IA génératrice par les pirates, Adkins considère les fournisseurs de surveillance commerciale comme une menace importante. Ceux-ci peuvent inclure des fabricants de logiciels espions, y compris le groupe NSO, qui est tristement célèbre pour ses logiciels espions Pegasus, ou d’autres petites entreprises vendant des outils de surveillance.
“Ce sont des entreprises tournées dans le monde entier, et elles développent et fabriquent et vendent une plate-forme pour le piratage”, a déclaré Adkins. “Vous pourriez payer 20 $, vous pourriez payer 200 000 $, en fonction de la sophistication de la plate-forme, et cela vous permet de mettre à l’échelle des gens d’attaque sans aucune expertise par vous-même.”
Certains de ces vendeurs vendent également leurs outils pour espionner les gens sur les marchés, y compris l’Inde. Cependant, en plus d’être ciblé par des outils de surveillance, le pays a ses propres défis uniques en partie à sa taille. Le pays voit non seulement les fraudes de profondeurs et les fraudes de clonage dirigés par l’IA, mais aussi les cas d’arrestations numériques, ce que Adkins souligne n’est que des escroqueries régulières adaptées au monde numérique.
“Vous pouvez voir à quelle vitesse les acteurs de la menace eux-mêmes progressent … J’adore étudier le cyber dans cette région à cause de cela. C’est souvent un indice de ce que nous allons voir dans le monde entier à un moment donné”, a déclaré Adkins.
Sur l’authentification multi-facteurs
Google a depuis longtemps encouragé ses utilisateurs à utiliser des méthodes d’authentification plus sécurisées au-delà des mots de passe pour protéger leur présence en ligne. La société a activé l’authentification multi-facteurs (MFA) pour tous les comptes d’utilisateurs dans le passé, et favorise également les clés de sécurité basées sur le matériel, que Adkins mentionnées en pointant ses employés à l’aide de leurs ordinateurs portables. Le sans mot de passe devient également un terme technologique populaire, avec diverses significations.
Néanmoins, s’attendre à ce que les gens abandonnent les mots de passe dans un marché comme l’Inde est difficile en raison de sa vaste démographie et de sa vaste paysage économique.
“Nous savions pendant très longtemps que les mots de passe n’étaient pas sécurisés. Ce concept d’authentification multi-facteurs était un pas en avant”, a déclaré Adkins, ajoutant que les Indiens favorisent probablement l’authentification basée sur les SMS par rapport à d’autres options de MFA.
