Google DeepMind et Singapour développent un modèle Gemma embarqué pour détecter les arnaques

Google DeepMind a annoncé le 14 octobre 2026 avoir travaillé avec l'Agence gouvernementale des technologies de Singapour (GovTech Singapore) pour créer un modèle d'IA capable de repérer les arnaques au fil des conversations. Conçu en affinant Gemma, le modèle léger de Google, le système analyse les messages localement, sur l'appareil, plutôt que dans le cloud. Cette collaboration a été présentée lors de la Semaine internationale de la cybersécurité de Singapour (SICW 2026).

Selon Google DeepMind, les arnaques telles que la fraude aux investissements, les fausses offres d'emploi et l'usurpation d'identité de responsables publics représentent plus de la moitié des crimes signalés à Singapour et ont coûté plus de 4 milliards de dollars singapouriens aux victimes depuis 2019. L'entreprise affirme que les criminels sont passés du simple hameçonnage à l'ingénierie sociale, en gagnant la confiance de leurs victimes par des échanges persuasifs avant de demander de l'argent, et que ces stratagèmes sont désormais responsables de jusqu'à 80 % des pertes.

Un entraînement fondé sur les tactiques locales

Les modèles polyvalents passant souvent à côté des tromperies propres à une région, l'équipe a entraîné Gemma sur des dialogues d'arnaques locales, incluant l'usurpation d'organismes publics, de banques et de personnalités locales connues, ainsi que des stratagèmes régionaux émergents. L'objectif est de distinguer les échanges ordinaires des véritables manipulations. Lorsque le modèle détecte un schéma suspect, il affiche en temps réel un avertissement sur le téléphone, invitant l'utilisateur à s'arrêter avant de remettre de l'argent ou des informations sensibles.

Pour limiter la consommation de batterie, le système fonctionne en deux étapes. Un petit classifieur peu gourmand en énergie filtre d'abord les messages entrants à la recherche de menaces possibles. Ce n'est qu'ensuite que le modèle Gemma affiné examine une portion plus large de la conversation pour confirmer le danger ou écarter une fausse alerte.

Confidentialité et gouvernance

Google DeepMind indique que le modèle n'accédera aux conversations stockées sur l'appareil qu'avec le consentement de l'utilisateur et selon les conditions de l'application qui l'héberge. Le traitement restant sur le téléphone, l'entreprise affirme que ni Google ni le gouvernement singapourien ne peuvent lire les conversations des utilisateurs dans le cadre de ce déploiement. L'affinage a eu lieu dans un environnement Google Cloud géré par GovTech, a utilisé des données anonymisées issues de signalements d'arnaques et de flux de renseignement, sans aucune information personnelle, et a été soumis à des tests de résistance à partir de dialogues synthétiques et de corpus de textes locaux.

Le déploiement dans les applications sera progressif et coordonné avec le gouvernement singapourien, sans calendrier communiqué. Ce travail s'inscrit dans le cadre du Partenariat national pour l'IA liant les deux parties, et Google DeepMind a indiqué qu'il étudiera si une technologie similaire pourrait être utilisée dans d'autres pays.

Le projet se présente comme un modèle pour les services de messagerie chiffrée qui souhaitent protéger leurs utilisateurs sans analyser les messages sur des serveurs. L'analyse sur l'appareil promet rapidité et confidentialité accrue, même si la performance du modèle à grande échelle ne sera vraiment connue qu'une fois qu'il sera utilisé par de vrais utilisateurs.