Google DeepMind y Singapur desarrollan un modelo Gemma en el dispositivo para detectar estafas

Google DeepMind anunció el 14 de octubre de 2026 que ha trabajado con la Agencia Gubernamental de Tecnología de Singapur (GovTech Singapur) para crear un modelo de IA que detecta estafas mientras se desarrollan en las conversaciones. Construido mediante el ajuste fino del modelo ligero Gemma de Google, el sistema analiza los mensajes localmente en el dispositivo en lugar de en la nube. La colaboración se presentó en la Semana Internacional de Ciberseguridad de Singapur (SICW 2026).

Según Google DeepMind, las estafas, como el fraude de inversión, las falsas ofertas de empleo y la suplantación de funcionarios, representan más de la mitad de los delitos denunciados en Singapur y han costado a las víctimas más de 4.000 millones de dólares singapurenses desde 2019. La compañía afirma que los delincuentes han pasado del phishing básico a la ingeniería social, ganándose la confianza mediante conversaciones persuasivas antes de pedir dinero, y que estos esquemas llegan a provocar hasta el 80 % de las pérdidas.

Entrenado con tácticas locales

Como los modelos de uso general suelen pasar por alto los engaños específicos de cada región, el equipo entrenó Gemma con diálogos de estafas locales, incluidas las suplantaciones de organismos públicos, bancos y figuras locales conocidas, además de esquemas regionales emergentes. El objetivo es distinguir la charla habitual de una manipulación genuina. Cuando el modelo detecta un patrón sospechoso, muestra en el teléfono una advertencia en tiempo real que insta al usuario a detenerse antes de entregar dinero o datos sensibles.

Para mantener el consumo de batería dentro de límites razonables, el sistema utiliza dos etapas. Un clasificador pequeño y de bajo consumo examina primero los mensajes entrantes en busca de posibles amenazas. Solo entonces el modelo Gemma ajustado analiza una parte más amplia de la conversación para confirmar el peligro o descartar una falsa alarma.

Privacidad y gobernanza

Google DeepMind afirma que el modelo solo accederá a las conversaciones en el dispositivo con el consentimiento del usuario y con arreglo a las condiciones de la aplicación que lo aloje. Como el procesamiento se mantiene en el teléfono, la compañía asegura que ni Google ni el Gobierno de Singapur pueden leer los chats de los usuarios mediante este despliegue. El ajuste fino se realizó en un entorno de Google Cloud gestionado por GovTech, utilizó datos anonimizados procedentes de informes de estafas y fuentes de inteligencia, sin información personal, y se sometió a pruebas de estrés con diálogos sintéticos y colecciones de textos locales.

La implantación dentro de las aplicaciones será gradual y se coordinará con el Gobierno de Singapur, sin que se haya fijado un calendario. El trabajo se enmarca en la Asociación Nacional de IA de ambas partes, y Google DeepMind indicó que estudiará si una tecnología similar podría utilizarse en otros países.

El proyecto se presenta como una plantilla para los servicios de mensajería cifrada que quieran proteger a los usuarios sin escanear los mensajes en servidores. El análisis en el dispositivo promete rapidez y mayor privacidad, aunque el rendimiento del modelo a gran escala solo quedará claro cuando llegue a usuarios reales.