Партнерства
Google DeepMind і GovTech представили модель виявлення шахрайства безпосередньо на пристрої
Додайте Unite.AI до бажаних джерел у Google
Google DeepMind і Агентство державних технологій Сінгапуру (GovTech) 14 жовтня 2026 року оголосили про модель виявлення шахрайства безпосередньо на пристрої. Вона має попереджати користувачів смартфонів про маніпулятивні розмови, не передаючи приватні повідомлення в хмару. У країні шахрайство з 2019 року призвело до збитків на суму понад 4 млрд сінгапурських доларів.
Збитки від шахрайства та перехід до соціальної інженерії
Як повідомляється в оголошенні в блозі Google DeepMind, авторами якого є JJ Geewax і Miguel de Andrés, на шахрайство припадає понад половина зареєстрованих у Сінгапурі злочинів, а збитки від нього з 2019 року перевищили 4 млрд сінгапурських доларів. В оголошенні йдеться, що шахрайські методи еволюціонували від простого фішингу до складної соціальної інженерії, коли зловмисники ведуть переконливі розмови, щоб маніпулювати жертвами, перш ніж попросити гроші. Нині на такі шахрайські схеми припадає до 80% усіх збитків.
Як зазначається в оголошенні, універсальним моделям часто важко розпізнавати локальні методи обману, що ускладнює виявлення шахрайства. Компактну модель Gemma від Google DeepMind додатково навчали на прикладах місцевих шахрайських розмов — від видавання себе за представників державних установ, банків і місцевих діячів до популярних у регіоні схем. В оголошенні зазначається, що завдяки цьому модель може відрізняти нешкідливе невимушене спілкування від справжніх маніпуляцій, а отриману модель оптимізовано для роботи на звичайних смартфонах у Сінгапурі.
Обробка безпосередньо на пристрої та двоетапний конвеєр
Модель обробляє дані розмов безпосередньо на самому пристрої. Як пояснюється в оголошенні, традиційні системи виявлення загроз сканують повідомлення на хмарних серверах, однак багато платформ для обміну повідомленнями використовують наскрізне шифрування і тому не можуть перевіряти приватні розмови. За словами авторів оголошення, локальна обробка дає змогу швидше аналізувати закономірності в розмовах і виявляти маніпулятивні наміри, щоб люди могли вжити заходів до розголошення фінансової інформації чи облікових даних.
Коли модель виявляє маніпулятивні закономірності в розмові, на пристрої з’являється попередження в реальному часі із закликом зупинитися й подумати, перш ніж ділитися конфіденційною інформацією чи надсилати гроші.
Як зазначається в оголошенні, важливим чинником під час роботи складного класифікатора шахрайства на сучасних смартфонах була енергоефективність. Команди розв’язали це завдання за допомогою двоетапного конвеєра. На першому етапі легкий та ефективний класифікатор із мінімальним споживанням енергії перевіряє вхідні повідомлення, виявляючи потенційні загрози. На другому етапі додатково навчена модель Gemma аналізує більший фрагмент розмови з урахуванням контексту, щоб підтвердити загрозу або відкинути хибне спрацювання.
Заходи з управління та контролю
Про співпрацю оголосили на Сінгапурському міжнародному тижні кібербезпеки 2026 року. Вступну промову на заході 13 жовтня 2026 року виголосив K Shanmugam, старший міністр Сінгапуру та міністр внутрішніх справ, як зазначено у опублікованій Міністерством внутрішніх справ промові.
В оголошенні описано суворий контроль, якого дотримувалися протягом усього процесу розробки, відповідно до трьох заходів: «Суверенне ізольоване середовище», «Жодних даних громадян» і «Стрес-тестування». У межах заходу «Суверенне ізольоване середовище» додаткове навчання відбувалося в середовищі Google Cloud Platform, яким керує та яке обслуговує GovTech, тож навчальні дані залишалися ізольованими. Відповідно до принципу «Жодних даних громадян» навчання не включало приватну інформацію чи дані, що дають змогу ідентифікувати особу; натомість використовували знеособлені набори даних, сформовані на основі повідомлень про шахрайство та розвідувальної інформації. У межах «Стрес-тестування» модель перевіряли на синтетичних діалогах і місцевих корпусах даних, що охоплювали різноманітні категорії шахрайства та нові тактики видавання себе за інших.
«Боротьба з шахрайством не має означати відмову від приватності», — сказав Mark Chen, директор із питань довіри та безпеки в GovTech Singapore. «Спільно з Google DeepMind ми переносимо передові засоби захисту на основі ШІ безпосередньо на пристрої громадян. Це дає нам змогу виявляти цілеспрямовані місцеві шахрайські спроби в реальному часі, водночас повністю зберігаючи конфіденційність особистого спілкування».
Передумови національного партнерства у сфері ШІ
Модель виявлення шахрайства створили в межах Національного партнерства Google із Сінгапуром у сфері ШІ. Google DeepMind оголосила про це партнерство 20 травня 2026 року та започаткувала в країні нові програми в межах своєї ініціативи «Національні партнерства у сфері ШІ» після відкриття дослідницької лабораторії в Сінгапурі попереднього року.
Ці програми охоплюють дослідження співпраці фахівців із ШІ як помічників клініцистів із кластерами громадського здоров’я; підтримку досліджень інфекційних захворювань і підготовки до пандемій спільно з Google.org — у межах внеску в розмірі 7 млн доларів США до коаліції Health for Human Potential організації Philanthropy Asia Alliance; помічника для бігунів на базі Gemma, призначеного для незрячих спортсменів і спортсменів із порушеннями зору, якого тестували й удосконалювали спільно з SG Enable — головною сінгапурською установою з питань інвалідності та інклюзії; навчання місцевих дослідників роботі з науковими інструментами на основі агентного ШІ за участю National Research Foundation; надання викладачам від початкових шкіл до молодших коледжів доступу до Gemini for Education; а також дослідження мультимодальних і багатомовних критеріїв безпеки спільно з Infocomm Media Development Authority та MLCommons.
Шлях до інтеграції для платформ обміну повідомленнями та постачальників операційних систем
В оголошенні зазначено, що платформи обміну повідомленнями та виробники операційних систем можуть безпосередньо інтегрувати ці легкі моделі, щоб захищати користувачів на їхніх пристроях і забезпечувати безпеку чатів, не розкриваючи приватних даних. Проєкт представлено як модель для платформ обміну повідомленнями, що прагнуть поєднати захист користувачів зі наскрізним шифруванням, а також як приклад співпраці урядів і розробників моделей задля створення технологій на суспільне благо.
