구글 딥마인드, 싱가포르와 손잡고 온디바이스 Gemma 기반 사기 탐지 모델 개발

구글 딥마인드는 2026년 10월 14일, 싱가포르 정부기술청(GovTech Singapore)과 협력해 대화 속에서 사기가 진행되는 순간을 포착하는 AI 모델을 만들었다고 발표했습니다. 구글의 경량 Gemma 모델을 미세 조정해 만든 이 시스템은 클라우드가 아닌 기기 내에서 메시지를 분석합니다. 이번 협업은 싱가포르 국제사이버주간(SICW 2026)에서 공개됐습니다.

구글 딥마인드에 따르면 투자 사기, 허위 구인 제안, 공무원 사칭 같은 사기는 싱가포르에 접수되는 범죄의 절반 이상을 차지하며, 2019년 이후 피해액은 40억 싱가포르 달러를 넘었습니다. 회사는 범죄자들이 기본적인 피싱을 넘어 사회공학 기법으로 옮겨 갔다고 설명합니다. 설득력 있는 대화로 신뢰를 쌓은 뒤 돈을 요구하는 방식이며, 이러한 수법이 피해액의 최대 80%를 차지하고 있다고 합니다.

현지 수법으로 학습

범용 모델은 지역 특유의 기만 수법을 놓치는 경우가 많기 때문에, 연구팀은 Gemma를 현지 사기 대화로 학습시켰습니다. 공공기관, 은행, 지역의 유명 인사를 사칭하는 사례와 새롭게 등장한 지역별 수법이 포함됐습니다. 목표는 일상적인 대화와 실제 조작을 구별하는 것입니다. 모델이 의심스러운 패턴을 감지하면 스마트폰에 실시간 경고를 띄워, 돈이나 민감한 정보를 넘기기 전에 멈추도록 사용자에게 알립니다.

배터리 소모를 감당할 수 있는 수준으로 유지하기 위해 시스템은 두 단계로 작동합니다. 먼저 저전력의 작은 분류기가 들어오는 메시지에서 위협 가능성을 선별합니다. 그다음에야 미세 조정된 Gemma 모델이 더 넓은 범위의 대화를 살펴보고, 위험을 확인하거나 잘못된 경보임을 가려냅니다.

개인정보 보호와 거버넌스

구글 딥마인드는 이 모델이 사용자 동의를 받고, 모델을 호스팅하는 앱의 약관에 따라서만 기기 내 대화에 접근한다고 밝혔습니다. 처리가 스마트폰 안에서 이루어지므로, 구글이나 싱가포르 정부 모두 이 배포 과정을 통해 사용자의 대화를 읽을 수 없다고 회사는 설명합니다. 미세 조정은 GovTech가 관리하는 구글 클라우드 환경에서 진행됐으며, 사기 신고와 정보 피드에서 얻은 개인정보가 없는 익명화 데이터를 사용했습니다. 또한 합성 대화와 현지 텍스트 모음을 바탕으로 스트레스 테스트를 거쳤습니다.

앱 내 출시는 단계적으로 진행되며 싱가포르 정부와 조율할 예정이지만, 구체적인 일정은 제시되지 않았습니다. 이 작업은 양측의 국가 AI 파트너십 아래에서 이뤄지며, 구글 딥마인드는 유사한 기술을 다른 국가에서도 활용할 수 있을지 검토하겠다고 밝혔습니다.

이 프로젝트는 서버에서 메시지를 스캔하지 않고도 사용자를 보호하려는 암호화 메시징 서비스를 위한 모델로 소개되고 있습니다. 온디바이스 분석은 속도와 더 강력한 개인정보 보호를 약속하지만, 모델이 대규모에서 얼마나 잘 작동할지는 실제 사용자에게 공개된 뒤에야 분명해질 것입니다.