Как инструмент искусственного интеллекта для психического здоровья случайно открыл точное обнаружение глубоких фейков

Когда технологический гигант Open AI запустил свою флагманскую модель генерации видео и аудио Sora 2 в сентябре 2025 года, глубокие фейки наводнили социальные медиа-платформы, сделав аудиторию все более знакомой с потенциально опасным гиперреалистичным контентом.

Хотя Open AI считал ответственный запуск Sora 2 приоритетом, заявив, что он даст пользователям “инструменты и возможность контролировать то, что они видят в своей ленте” и контроль над своей подобием от начала до конца, исследование октября 2025 года выявило, что модель производила фальшивые видео 80% времени.

От видео, которые имитировали новостные репортажи о том, как молдавский избирательный чиновник уничтожил бюллетени, до фабрикованных сцен детского задержания иммиграционными чиновниками или представителем Coca-Cola, объявляющим, что компания не будет спонсировать Супербоул, ставки производства дезинформации в взаимосвязанном мире не могут быть выше.

За пределами Sora: Vishing

Даже до запуска инструмента Open AI создание и онлайн-распространение глубоких фейков было на подъеме. Согласно сентябрьскому отчету 2025 года кибербезопасной компании DeepStrike, контент глубоких фейков вырос с 500 000 в 2023 году до 8 миллионов в 2025 году, большая часть которого использовалась для мошеннических целей.

Тренд не показывает признаков остановки; мошенничество с искусственным интеллектом в США alone ожидается достигнет 40 миллиардов долларов США к 2027 году.

Такой рост не ограничивается количеством. С инструментами, такими как Sora 2 и Google’s Veo 3, контент, сгенерированный искусственным интеллектом, лиц, голосов и полных выступлений, теперь более реалистичен, чем когда-либо. Как указано компьютерным ученым и исследователем глубоких фейков Siwei Luy, современные модели способны производить стабильные лица без искажений или деформаций, а клонирование голоса перешло “порог неразличимости”.

Правда в том, что глубокие фейки опережают обнаружение. То, что технологические компании продают как веселые инструменты для генерации всего, от олимпийских гимнастических упражнений до сложных фоновых звуковых пейзажей, также было использовано преступниками для атаки на бизнес и отдельных лиц. Только в первом полугодии 2025 года инциденты с глубокими фейками спровоцировали убытки в размере 356 миллионов долларов США для компаний и 541 миллиона долларов США для отдельных лиц.

Традиционное обнаружение глубоких фейков – включая выявление водяных знаков, ретушированных лиц и проверку метаданных – терпит неудачу. И, поскольку голосовые глубокие фейки остаются вторым по распространенности видом мошенничества с искусственным интеллектом и голосовой фишинг (vishing) вырос на 442% в 2025 году, последствия уже ощущаются.

“Несколько секунд аудио теперь достаточно, чтобы сгенерировать убедительный клон – полный с естественной интонацией, ритмом, акцентом, эмоциями, паузами и шумом дыхания”, – написал Lyu.

Наука слушать людей

Kintsugi, стартап в области здравоохранения, разрабатывающий технологию биомаркеров голоса на основе искусственного интеллекта для обнаружения признаков клинической депрессии и тревоги. Их работа началась с, казалось бы, простой предпосылки: мы должны слушать людей.

“Я основал Kintsugi из-за проблемы, которую я испытал лично. Я провел почти пять месяцев, звоня своему поставщику, чтобы запланировать первоначальную терапевтическую встречу, и никто никогда не возвращал мне звонки. Я продолжал пытаться – но я помню, что очень четко подумал, что если бы это был мой отец или брат, они бы остановились гораздо раньше, чем я”, – сказал генеральный директор Грейс Чанг в разговоре с Unite.AI.

Калифорнийская компания была основана в 2019 году как решение проблемы, которую Чанг описал как “бутылку трежины”. Основатель считал, что обнаружение тяжести раньше и пассивно может помочь людям получить необходимый уровень ухода быстрее. И, через Kintsugi Voice, биомаркеры голоса выявляют клиническую депрессию и тревогу.

Исследования подтверждают успешное использование анализа речи и голоса на основе искусственного интеллекта в качестве биомаркера для психических расстройств. Например, статья мая 2025 года выявила, что акустические биомаркеры могут обнаружить ранние признаки психических расстройств и нейроразнообразия, и утверждала, что анализ пения должен быть интегрирован в клинические условия для оценки потенциального когнитивного спада пациентов.

Биомаркеры голоса, в самом деле, имеют точность 78% до 96% в выявлении людей с депрессией по сравнению с теми, у кого ее нет, согласно Американской психиатрической ассоциации. Другое исследование использовало тест вербальной флюентности в течение одной минуты, в котором человек называл как можно больше слов в данной категории – обнаружив 70% до 83% точности в выявлении, когда у субъекта была и депрессия, и тревога.

Чтобы оценить психическое здоровье своих пользователей, Kintsugi запрашивает короткий речевой клип, после чего его технология биомаркеров голоса анализирует высоту, интонацию, тон и паузы – маркеры, обнаруженные как связанные с состояниями, такими как депрессия, тревога, биполярное расстройство и деменция.

Что Чанг не осознал изначально, однако, было то, что технология открыла одну из наиболее насущных проблем безопасности: выявление того, что делает человеческие голоса человеческими.

От ухода за психическим здоровьем к кибербезопасности

Во время участия в саммите в Нью-Йорке в конце 2025 года Чанг упомянул своему другу в области кибербезопасности, что эксперименты его команды с синтетическими голосами были разочаровывающими.

“Мы исследовали синтетические данные, чтобы дополнить обучение наших моделей психического здоровья, но сгенерированные голоса были так khácны от аутентичного человеческого голоса, что мы могли определить почти 100% времени”, – сказала она.

“Он остановился и сказал: ‘Грейс – это не решенная проблема в безопасности’. Это был момент, когда все стало ясно. С тех пор разговоры с компаниями по безопасности, финансовым услугам и телекоммуникациям подтвердили, насколько быстро растут атаки с глубокими фейками голоса – и насколько реальна необходимость различать человеческие и синтетические голоса в живых звонках”, – добавила генеральный директор.

В апреле прошлого года ФБР предупредило о злонамеренной кампании текстовых и голосовых сообщений, выдававших себя за коммуникации от высокопоставленных американских чиновников и нацелившихся на бывших сотрудников правительства и их контакты. Крупные национальные банки в США также были атакованы в среднем 5,5 раз в день манипуляциями голоса, а сотрудники больницы Вандербильта сообщили о фишинговых атаках от выдающих себя за друзей, руководителей и коллег.

Независимо от того, глубокие фейки не изначально учитывались в работе Kintsugi. Хотя команда компании использовала готовые модели, такие как Cartesia, Sesame и ElevenLabs, для экспериментов с синтетическими голосами для административных агентов колл-центра и исходящих потоков, мошенничество с глубокими фейками не было их фокусом на фоне переполненного и доступного рынка, в котором представлены модели, такие как Sora.

Сигналы, указывающие на аутентичность голоса на уровне человека, однако, являются теми же биомаркерами, которые делают человека человеком. Независимо от языка или семантики, Kintsugi Voice работает с обработкой сигналов и физической задержкой речи, захватывая тонкую временную, просодическую вариативность, когнитивную нагрузку и физиологические маркеры, отражающие, как производится речь… а не то, что говорится.

“Синтетические голоса могут звучать плавно, но они не несут тех же биологических и когнитивных артефактов”, – сказала Чанг. Модель компании последовательно является одним из лучших исполнителей по точности обнаружения, используя всего 3-5 секунд аудио.

Kintsugi может быть революционным для тех, кто борется с психическим здоровьем, особенно в районах, где получение лечения у профессионалов требует времени и ресурсов. Аналогично, его технология представляет революцию для обнаружения глубоких фейков и кибербезопасности в целом: обнаружение аутентичности, а не распознавание глубоких фейков.

Будущее лежит в человеко-ориентированных технологиях

Кибербезопасность давно фокусируется на злонамеренном использовании технологий или самих преступников. Случайное открытие Kintsugi, однако, ставит на человечество.

“Мы работаем на совершенно другой поверхности: аутентичности человека. Большие языковые модели не могут надежно обнаружить контент, сгенерированный большими языковыми моделями, а методы, основанные на артефактах, хрупки. Захват больших, клинически помеченных наборов данных, которые кодируют реальную человеческую вариативность, дорог, медлен и находится вне основной компетенции большинства компаний по безопасности – что делает этот подход трудным для воспроизведения”, – отметила Чанг.

Подход стартапа также предполагает более широкий сдвиг: инновации между доменами. Те, кто лидирует в области здравоохранения, могут возглавить атаку на обнаружение фишинга, поддержанного искусственным интеллектом, как и те, кто инновационен в космической технологии, может поддержать новые механизмы реагирования на чрезвычайные ситуации, или архитекторы и городские планировщики.

Что касается Чанг, она планирует стать стандартом для проверки реальных людей и, в конечном итоге, реального намерения через голосовые взаимодействия.

“Как HTTPS стало слоем доверия по умолчанию для веба, мы считаем, что ‘доказательство человека’ станет фундаментальным слоем для голосовых систем. Сигнал – это начало этой инфраструктуры”, – сказала она.

Когда искусственный интеллект продолжает ускоряться, наиболее эффективные меры безопасности могут прийти от понимания того, что делает людей… людьми.