Google DeepMind и Сингапур создают модель Gemma для обнаружения мошенничества прямо на телефоне

Google DeepMind сообщила 14 октября 2026 года, что вместе с Агентством government technology Сингапура (GovTech Singapore) создала ИИ-модель, которая распознает мошенничество по мере развития диалога. Система построена на дообучении облегчённой модели Gemma от Google и анализирует сообщения локально, на самом устройстве, а не в облаке. О совместной работе рассказали на Сингапурской международной неделе кибербезопасности (SICW 2026).

По данным Google DeepMind, такие схемы, как инвестиционное мошенничество, фальшивые предложения работы и выдача себя за официальных лиц, составляют более половины преступлений, зарегистрированных в Сингапуре, и с 2019 года принесли жертвам более 4 миллиардов сингапурских долларов. В компании отмечают, что преступники перешли от простого фишинга к социальной инженерии: сначала они завоёвывают доверие убедительной перепиской, и только потом просят деньги. По их оценке, такие схемы приводят к потерям до 80%.

Обучение на местных схемах

Универсальные модели часто не замечают обман, характерный для конкретного региона, поэтому команда обучила Gemma на локальных диалогах мошенников, включая выдачу себя за госорганы, банки и известных местных персон, а также на новых региональных схемах. Задача модели — отличать обычное общение от настоящей манипуляции. Обнаружив подозрительную схему, она в режиме реального времени выводит на экран телефона предупреждение и призывает пользователя остановиться, прежде чем переводить деньги или передавать конфиденциальные данные.

Чтобы не слишком расходовать заряд батареи, система работает в два этапа. Сначала небольшой маломощный классификатор проверяет входящие сообщения на возможные угрозы. Только после этого дообученная модель Gemma анализирует более широкий фрагмент переписки, чтобы подтвердить опасность или отклонить ложное срабатывание.

Конфиденциальность и управление

Google DeepMind заявляет, что модель получит доступ к перепискам на устройстве только с согласия пользователя и на условиях приложения, в котором она работает. Поскольку обработка остаётся на телефоне, компания утверждает, что ни Google, ни правительство Сингапура не могут читать чаты пользователей в рамках такого внедрения. Дообучение проходило в облачной среде Google Cloud, управляемой GovTech, использовало обезличенные данные из отчётов о мошенничестве и разведывательных источников без персональной информации и проверялось на синтетических диалогах и локальных текстовых коллекциях.

Внедрение в приложениях будет поэтапным и согласовываться с правительством Сингапура; сроки не названы. Работа ведётся в рамках Национального партнёрства в области ИИ между двумя сторонами, а Google DeepMind сообщила, что изучит возможность применения подобных технологий в других странах.

Проект позиционируется как образец для сервисов зашифрованных сообщений, которые хотят защищать пользователей, не сканируя сообщения на серверах. Анализ на устройстве обещает высокую скорость и более надёжную приватность, однако то, насколько хорошо модель будет работать в масштабе, станет ясно только тогда, когда ею начнут пользоваться реальные люди.