Google DeepMind en Singapore bouwen op apparaat draaiend Gemma-model om oplichting op te sporen

Google DeepMind heeft op 14 oktober 2026 bekendgemaakt dat het samen met de Singaporese overheidsinstantie Government Technology Agency (GovTech Singapore) een AI-model heeft ontwikkeld dat oplichting herkent terwijl die zich in gesprekken ontvouwt. Het systeem is gemaakt door het lichtgewicht Gemma-model van Google fijn af te stellen en analyseert berichten lokaal op het apparaat in plaats van in de cloud. De samenwerking werd gepresenteerd op de Singapore International Cyber Week (SICW 2026).

Volgens Google DeepMind vormen oplichtingsvormen zoals investeringsfraude, valse vacatures en het zich voordoen als overheidsfunctionaris meer dan de helft van de in Singapore gemelde misdrijven, en hebben ze slachtoffers sinds 2019 meer dan 4 miljard Singaporese dollar gekost. Het bedrijf stelt dat criminelen verder zijn gegaan dan basale phishing en zich nu richten op social engineering: ze bouwen vertrouwen op via overtuigende chats voordat ze om geld vragen. Deze constructies zijn goed voor maar liefst 80% van de verliezen.

Getraind op lokale technieken

Omdat algemene modellen regiospecifieke misleiding vaak missen, heeft het team Gemma getraind op lokale oplichtingsgesprekken, waaronder het zich voordoen als publieke instanties, banken en bekende lokale figuren, en opkomende regionale methoden. Het doel is om gewone gesprekken te onderscheiden van echte manipulatie. Wanneer het model een verdacht patroon detecteert, toont het op de telefoon een waarschuwing in realtime en vraagt het de gebruiker te stoppen voordat er geld of gevoelige gegevens worden afgegeven.

Om de batterijbelasting beheersbaar te houden, werkt het systeem in twee fasen. Eerst filtert een kleine classifier met laag energieverbruik binnenkomende berichten op mogelijke dreigingen. Pas daarna onderzoekt het fijn afgestelde Gemma-model een breder deel van het gesprek om het gevaar te bevestigen of een vals alarm te verwerpen.

Privacy en governance

Google DeepMind zegt dat het model alleen met toestemming van de gebruiker en onder de voorwaarden van de app die het host toegang krijgt tot gesprekken op het apparaat. Omdat de verwerking op de telefoon blijft, stelt het bedrijf dat noch Google noch de Singaporese overheid de chats van gebruikers via deze inzet kan lezen. Het fijn afstellen vond plaats in een door GovTech beheerde Google Cloud-omgeving, maakte gebruik van geanonimiseerde gegevens uit oplichtingsmeldingen en inlichtingenbronnen zonder persoonlijke informatie, en werd getest met synthetische gesprekken en lokale tekstverzamelingen.

De uitrol binnen apps verloopt gefaseerd en wordt afgestemd met de Singaporese overheid; er is geen tijdpad genoemd. Het werk valt onder het Nationale AI-partnerschap van de twee partijen, en Google DeepMind zei dat het zal onderzoeken of vergelijkbare technologie in andere landen kan worden ingezet.

Het project wordt gepresenteerd als voorbeeld voor versleutelde berichtendiensten die gebruikers willen beschermen zonder berichten op servers te scannen. Analyse op het apparaat belooft snelheid en sterkere privacy, al zal pas duidelijk worden hoe goed het model op grote schaal presteert zodra het bij echte gebruikers terechtkomt.