Google DeepMind와 GovTech, 기기 내 사기 탐지 모델 공개

Google DeepMind와 싱가포르 정부기술청(GovTech)은 2026년 10월 14일, 비공개 메시지를 클라우드로 전송하지 않고도 스마트폰 사용자에게 조작적인 대화를 경고하도록 설계된 기기 내 사기 탐지 모델을 발표했다. 싱가포르에서는 2019년 이후 사기로 인한 손실액이 40억 싱가포르달러를 넘어섰다.

사기 피해와 사회공학적 수법으로의 변화

Google DeepMind 블로그에 실린 발표문은 JJ Geewax와 Miguel de Andrés가 작성했으며, 싱가포르에서 신고된 범죄의 절반 이상이 사기이고 2019년 이후 사기로 인한 손실액이 40억 싱가포르달러를 넘어섰다고 밝혔다. 발표문에 따르면 사기 수법은 단순한 피싱에서 복잡한 사회공학적 수법으로 바뀌었다. 공격자는 피해자에게 돈을 요구하기 전에 설득력 있는 대화를 이어가며 피해자를 조종하며, 이러한 사기가 이제 전체 손실액의 최대 80%를 차지한다.

발표문에 따르면 일반적인 모델은 현지화된 기만 수법을 포착하는 데 어려움을 겪는 경우가 많아 사기 탐지가 더 까다롭다. Google DeepMind의 경량 Gemma 모델은 공공기관과 은행, 지역 인사를 사칭하는 사례부터 지역에서 유행하는 사기 수법까지 현지 사기 대화 데이터를 사용해 미세 조정됐다. 발표문은 이를 통해 모델이 무해한 일상 대화와 실제 조작 시도를 구별할 수 있게 됐으며, 이렇게 만들어진 모델은 싱가포르에서 일반적으로 사용되는 스마트폰에서 실행되도록 최적화됐다고 밝혔다.

기기 내 처리와 2단계 파이프라인

이 모델은 대화 데이터를 기기 자체에서 처리한다. 발표문에 따르면 기존 위협 탐지 방식은 클라우드 서버에서 메시지를 검사하지만, 많은 메시징 플랫폼이 종단 간 암호화를 적용하고 있어 비공개 대화를 들여다볼 수 없다. 기기 내에서 분석을 실행하면 대화 패턴을 더 빠르게 살펴 조작 의도를 탐지할 수 있으므로, 금전 피해나 계정 정보 노출이 발생하기 전에 대응할 수 있다고 발표문은 설명했다.

모델이 조작적인 대화 패턴을 감지하면 기기에 실시간 경고가 표시되어, 민감한 정보나 돈을 공유하기 전에 잠시 멈추도록 사용자에게 안내한다.

발표문에 따르면 최신 스마트폰에서 복잡한 사기 분류기를 실행할 때 배터리 효율은 핵심 고려 사항이었다. 양측은 2단계 파이프라인으로 이 문제를 해결했다. 1단계에서는 가볍고 효율적인 분류기가 전력을 최소한으로 사용해 수신 메시지를 살펴보고 잠재적 위협을 포착하는 데 집중한다. 2단계에서는 미세 조정된 Gemma 모델이 더 많은 대화 내용을 맥락에 따라 평가해 위협 여부를 확인하거나 오탐을 걸러낸다.

거버넌스 조치

이번 협력은 Singapore International Cyber Week 2026에서 발표됐다. 행사 개막 연설은 2026년 10월 13일 싱가포르 선임 장관 겸 내무부 장관인 K Shanmugam이 했다고 내무부가 발표한 연설문에 나와 있다.

발표문은 개발 전 과정에서 ‘주권형 샌드박스’, ‘시민 데이터 미사용’, ‘스트레스 테스트’라는 조치를 통해 엄격한 거버넌스를 유지했다고 설명한다. ‘주권형 샌드박스’에 따라 미세 조정은 GovTech가 관리·운영하는 Google Cloud Platform 환경 안에서 진행해 학습 데이터를 격리했다. ‘시민 데이터 미사용’ 원칙에 따라 학습 과정에서는 비공개 정보와 개인 식별 정보를 엄격히 배제하고, 사기 신고와 정보 피드에서 수집한 익명화 데이터셋을 사용했다. ‘스트레스 테스트’에서는 다양한 사기 유형과 진화하는 사칭 수법을 아우르는 합성 대화와 현지 말뭉치를 대상으로 모델을 테스트했다.

GovTech Singapore의 신뢰 및 안전 담당 이사인 Mark Chen은 “사기에 맞서 싸운다고 해서 개인 정보를 희생해야 하는 것은 아닙니다”라고 말했다. “Google DeepMind와 협력해 시민의 기기에서 바로 작동하는 첨단 AI 보호 기능을 제공하고 있습니다. 이를 통해 개인 통신 내용을 완전히 비공개로 유지하면서 표적이 뚜렷한 현지 사기 시도를 실시간으로 포착할 수 있습니다.”

국가 AI 파트너십의 배경

이번 사기 탐지 모델은 Google과 싱가포르 정부 간 국가 AI 파트너십의 일환으로 제공됐다. Google DeepMind는 2026년 5월 20일 해당 파트너십을 발표하고, 전년도 싱가포르에 연구소를 개설한 뒤 National Partnerships for AI 이니셔티브에 따라 현지에서 새로운 프로그램을 시작했다.

이 프로그램에는 공중보건 클러스터와 함께 AI 공동 임상의 협력 방안을 모색하는 일, Google.org와 함께 감염병 연구와 팬데믹 대비를 지원하는 일이 포함된다. 후자는 Philanthropy Asia Alliance의 Health for Human Potential 연합에 대한 700만 달러 기여의 일부다. 또한 시각장애인과 저시력 운동선수를 위한 Gemma 기반 달리기 보조 도구를 SG Enable과 함께 테스트하고 개선하는 프로그램도 있다. SG Enable은 싱가포르에서 장애와 포용을 담당하는 중추 기관이다. 이 밖에도 National Research Foundation과 함께 현지 연구자에게 에이전트형 AI 과학 도구를 교육하고, 초등학교부터 주니어 칼리지까지의 교육자에게 Gemini for Education을 제공하며, Infocomm Media Development Authority 및 MLCommons와 함께 멀티모달·다국어 안전성 벤치마크를 연구한다.

메시징 플랫폼 및 운영체제 제공업체를 위한 통합 경로

발표에 따르면 메시징 플랫폼과 운영체제 공급업체는 이러한 경량 모델을 직접 통합해 사용자의 개인 데이터를 노출하지 않고 채팅을 안전하게 유지하면서 사용자 기기에서 사용자를 보호할 수 있습니다. 이 프로젝트는 사용자 보호와 종단 간 암호화 사이에서 균형을 맞추려는 메시징 플랫폼의 본보기이자, 정부와 모델 제공업체가 협력해 공익을 위한 기술을 구축하는 사례로 제시됩니다.