Google DeepMind e Singapore sviluppano un modello Gemma on-device per individuare le truffe

Google DeepMind ha annunciato il 14 ottobre 2026 di aver collaborato con la Government Technology Agency di Singapore (GovTech Singapore) per creare un modello di intelligenza artificiale in grado di individuare le truffe mentre si sviluppano nelle conversazioni. Realizzato con il fine-tuning del modello leggero Gemma di Google, il sistema analizza i messaggi localmente sul dispositivo anziché nel cloud. La collaborazione è stata presentata alla Singapore International Cyber Week (SICW 2026).

Secondo Google DeepMind, truffe come le frodi sugli investimenti, le false offerte di lavoro e le finte identità di funzionari rappresentano più della metà dei reati denunciati a Singapore e dal 2019 hanno causato alle vittime perdite superiori a 4 miliardi di dollari di Singapore. L'azienda sostiene che i criminali siano passati dal semplice phishing a tecniche di ingegneria sociale, costruendo fiducia attraverso chat persuasive prima di chiedere denaro, e che questi schemi arrivino ora a causare fino all'80% delle perdite.

Addestrato sulle tattiche locali

Poiché i modelli generici spesso non riconoscono gli inganni specifici di un territorio, il team ha addestrato Gemma su dialoghi di truffe locali, comprese le false identità di enti pubblici, banche e personaggi noti del posto, insieme a nuovi schemi regionali. L'obiettivo è distinguere le normali conversazioni dalle vere manipolazioni. Quando il modello rileva uno schema sospetto, mostra sul telefono un avviso in tempo reale che invita l'utente a fermarsi prima di consegnare denaro o dati sensibili.

Per contenere il consumo della batteria, il sistema utilizza due fasi. Un classificatore piccolo e a basso consumo analizza per primi i messaggi in arrivo alla ricerca di possibili minacce. Solo dopo, il modello Gemma ottimizzato esamina una porzione più ampia della conversazione per confermare il pericolo o escludere un falso allarme.

Privacy e governance

Google DeepMind afferma che il modello accederà alle conversazioni sul dispositivo solo con il consenso dell'utente e secondo i termini dell'app che lo ospita. Poiché l'elaborazione resta sul telefono, l'azienda dichiara che né Google né il governo di Singapore possono leggere le chat degli utenti attraverso questa implementazione. Il fine-tuning è avvenuto in un ambiente Google Cloud gestito da GovTech, ha utilizzato dati anonimizzati tratti da segnalazioni di truffe e fonti di intelligence, senza informazioni personali, ed è stato sottoposto a test di stress con dialoghi sintetici e raccolte di testi locali.

L'integrazione nelle app avverrà per fasi e in coordinamento con il governo di Singapore, senza una tempistica definita. Il progetto rientra nel National AI Partnership tra le due parti, e Google DeepMind ha dichiarato che valuterà se tecnologie simili possano essere utilizzate in altri Paesi.

Il progetto viene presentato come modello per i servizi di messaggistica crittografata che vogliono proteggere gli utenti senza scansionare i messaggi sui server. L'analisi sul dispositivo promette velocità e una maggiore tutela della privacy, anche se le prestazioni del modello su larga scala saranno chiare solo quando raggiungerà gli utenti reali.