Google DeepMind und Singapur entwickeln Gemma-Modell zur Betrugserkennung direkt auf dem Smartphone

Google DeepMind teilte am 14. Oktober 2026 mit, dass es mit der Regierungsbehörde Singapurs für Technologie (GovTech Singapur) zusammengearbeitet hat, um ein KI-Modell zu entwickeln, das Betrugsversuche erkennt, während sie sich in Gesprächen entfalten. Das System basiert auf einer Feinabstimmung des schlanken Gemma-Modells von Google und analysiert Nachrichten lokal auf dem Gerät statt in der Cloud. Die Zusammenarbeit wurde auf der Singapore International Cyber Week (SICW 2026) vorgestellt.

Laut Google DeepMind machen Betrugsmaschen wie Anlagebetrug, falsche Stellenangebote und die Nachahmung von Behördenvertretern mehr als die Hälfte der in Singapur angezeigten Straftaten aus und haben seit 2019 Opfer um mehr als 4 Milliarden S$ gebracht. Das Unternehmen erklärt, Kriminelle gingen inzwischen über einfaches Phishing hinaus zu Social Engineering über, bauten durch überzeugende Chats Vertrauen auf, bevor sie Geld verlangen, und diese Maschen seien mittlerweile für bis zu 80 % der Verluste verantwortlich.

Training mit lokalen Betrugsmethoden

Da universelle Modelle regionsspezifische Täuschungen häufig übersehen, trainierte das Team Gemma mit lokalen Betrugsdialogen, darunter Nachahmungen von Behörden, Banken und bekannten lokalen Persönlichkeiten sowie neu auftretende regionale Maschen. Ziel ist es, gewöhnliche Unterhaltungen von echter Manipulation zu unterscheiden. Erkennt das Modell ein verdächtiges Muster, zeigt es auf dem Smartphone eine Warnung in Echtzeit an, die den Nutzer auffordert, innezuhalten, bevor er Geld oder sensible Daten preisgibt.

Damit der Akkuverbrauch im Rahmen bleibt, arbeitet das System zweistufig. Ein kleiner, stromsparender Klassifikator prüft eingehende Nachrichten zunächst auf mögliche Bedrohungen. Erst dann untersucht das feinabgestimmte Gemma-Modell einen größeren Ausschnitt der Unterhaltung, um die Gefahr zu bestätigen oder einen Fehlalarm zu verwerfen.

Datenschutz und Steuerung

Google DeepMind erklärt, dass das Modell nur mit Zustimmung des Nutzers und gemäß den Bedingungen der jeweils hostenden App auf Gespräche auf dem Gerät zugreift. Da die Verarbeitung auf dem Smartphone bleibt, versichert das Unternehmen, dass weder Google noch die Regierung Singapurs die Chats der Nutzer über diesen Einsatz einsehen können. Die Feinabstimmung fand in einer von GovTech verwalteten Google-Cloud-Umgebung statt, verwendete anonymisierte Daten aus Betrugsmeldungen und Erkenntnisquellen ohne personenbezogene Informationen und wurde mit synthetischen Dialogen und lokalen Textsammlungen einem Belastungstest unterzogen.

Die Einführung in Apps soll schrittweise und in Abstimmung mit der Regierung Singapurs erfolgen; einen Zeitplan nannte das Unternehmen nicht. Das Vorhaben ist Teil der Nationalen KI-Partnerschaft beider Seiten. Google DeepMind kündigte an, zu prüfen, ob ähnliche Technologien auch in anderen Ländern eingesetzt werden könnten.

Das Projekt wird als Vorlage für verschlüsselte Messaging-Dienste präsentiert, die Nutzer schützen möchten, ohne Nachrichten auf Servern zu durchsuchen. Die Analyse auf dem Gerät verspricht Geschwindigkeit und mehr Datenschutz, wie gut das Modell im großen Maßstab funktioniert, wird sich jedoch erst zeigen, wenn es echte Nutzer erreicht.