Google DeepMind、シンガポールと連携しスキャン詐欺を検知するオンデバイスGemmaモデルを開発

Google DeepMindは2026年10月14日、シンガポール政府技術庁(GovTech Singapore)と協力し、会話の中で進行中の詐欺を見抜くAIモデルを開発したと発表しました。Googleの軽量モデルGemmaを微調整して構築されたこのシステムは、クラウドではなく端末上でメッセージを分析します。この共同研究は、シンガポール国際サイバーウィーク(SICW 2026)で発表されました。

Google DeepMindによると、投資詐欺、偽の求人、公務員になりすました詐欺などは、シンガポールで報告された犯罪の半数以上を占め、2019年以降の被害額は40億シンガポールドルを超えています。同社は、犯罪者が基本的なフィッシングから、金銭を要求する前に説得力のあるチャットで信頼を築く社会工学的手口へと移行しており、こうした手口が損失の最大80%を生んでいると説明しています。

現地の手口で学習

汎用モデルは地域特有の欺瞞を見逃すことが多いため、チームは公的機関、銀行、地元の著名人になりすました事例や、新たに広がる地域の手口を含む現地の詐欺会話でGemmaを学習させました。目的は、普通のやり取りと本物の操作を見分けることです。モデルが不審なパターンを検出すると、端末上にリアルタイムの警告を表示し、送金や機密情報の提供の前に立ち止まるよう利用者に促します。

バッテリー消費を抑えるため、このシステムは二段階で動作します。まず、小型で低消費電力の分類器が受信メッセージを選別し、脅威の可能性を調べます。その後で、微調整されたGemmaモデルが会話のより広い範囲を分析し、危険を確認するか誤警報として除外します。

プライバシーとガバナンス

Google DeepMindは、このモデルが端末上の会話にアクセスするのは利用者の同意があり、それを提供するアプリの規約に従う場合に限られると説明しています。処理は端末内にとどまるため、同社はこの仕組みを通じてGoogleもシンガポール政府も利用者のチャットを読むことはできないとしています。微調整はGovTechが管理するGoogle Cloud環境で行われ、個人情報を含まない匿名化されたデータを使用しました。データは詐欺報告や情報源から集められ、合成された対話や現地のテキストコレクションで耐久性が検証されました。

アプリへの展開は段階的に行われ、シンガポール政府と調整しながら進められます。ただし、時期は示されていません。この取り組みは両者の「国家AIパートナーシップ」の下で進められており、Google DeepMindは他国でも同様の技術を活用できるかどうかを検討するとしています。

このプロジェクトは、サーバー上でメッセージを走査せずに利用者を守りたい暗号化メッセージングサービスの雛形として位置づけられています。端末上での分析は高速性と強いプライバシー保護をもたらすとされますが、大規模な環境でモデルがどれだけ機能するかは、実際の利用者に提供されて初めて明らかになるでしょう。