Модели и платформы ИИ
Как инструмент искусственного интеллекта для психического здоровья случайно открыл точное обнаружение глубоких фейков

Ключевые моментыМошенничество с использованием дипфейков опережает обнаружение, поскольку синтетические…
Показать больше
- Мошенничество с использованием дипфейков опережает обнаружение, поскольку синтетические голоса теперь пересекли порог неразличимости.
- Обнаружение голосовых дипфейков сейчас стало ещё важнее, так как, по прогнозам, ущерб от мошенничества с использованием ИИ достигнет 40 миллиардов долларов.
- Наиболее эффективной защитой от дипфейков может стать проверка подлинности человека, а не погоня за синтетическими артефактами.
Когда технологический гигант Open AI запустил свою флагманскую модель генерации видео и аудио Sora 2 в сентябре 2025 года, глубокие фейки наводнили социальные медиа-платформы, сделав аудиторию все более знакомой с потенциально опасным гиперреалистичным контентом.
Хотя Open AI считал ответственный запуск Sora 2 приоритетом, заявив, что он даст пользователям “инструменты и возможность контролировать то, что они видят в своей ленте” и полный контроль над использованием своего образа, исследование октября 2025 года выявило, что модель производила видео с ложными утверждениями в 80% случаев.
От видео, которые имитировали новостные репортажи о том, как молдавский избирательный чиновник уничтожил бюллетени, до фабрикованных сцен детского задержания иммиграционными чиновниками или представителем Coca-Cola (KO ), объявляющим, что компания не будет спонсировать Супербоул, ставки производства дезинформации в взаимосвязанном мире не могут быть выше.
За пределами Sora: Vishing
Даже до запуска инструмента Open AI создание и онлайн-распространение глубоких фейков было на подъеме. Согласно сентябрьскому отчету 2025 года кибербезопасной компании DeepStrike, контент глубоких фейков вырос с 500 000 в 2023 году до 8 миллионов в 2025 году, большая часть которого использовалась для мошеннических целей.
Тренд не показывает признаков остановки; мошенничество с искусственным интеллектом только в США ожидается достигнет 40 миллиардов долларов США к 2027 году.
Такой рост не ограничивается количеством. С инструментами, такими как Sora 2 и компании Google Veo 3, контент, сгенерированный искусственным интеллектом, лиц, голосов и полных выступлений, теперь более реалистичен, чем когда-либо. Как указано компьютерным ученым и исследователем глубоких фейков Siwei Luy, современные модели способны производить стабильные лица без искажений или деформаций, а клонирование голоса перешло “порог неразличимости”. (GOOGL )
Правда в том, что глубокие фейки опережают обнаружение. То, что технологические компании продают как веселые инструменты для генерации всего, от олимпийских гимнастических упражнений до сложных фоновых звуковых пейзажей, также было использовано преступниками для атаки на бизнес и отдельных лиц. Только в первом полугодии 2025 года инциденты с глубокими фейками спровоцировали убытки в размере 356 миллионов долларов США для компаний и 541 миллиона долларов США для отдельных лиц.
Традиционное обнаружение глубоких фейков – включая выявление водяных знаков, ретушированных лиц и проверку метаданных – терпит неудачу. И, поскольку голосовые глубокие фейки остаются вторым по распространенности видом мошенничества с искусственным интеллектом и голосовой фишинг (vishing) вырос на 442% в 2025 году, последствия уже ощущаются.
“Несколько секунд аудио теперь достаточно, чтобы сгенерировать убедительный клон – полный с естественной интонацией, ритмом, акцентом, эмоциями, паузами и шумом дыхания”, – написал Lyu.
Наука слушать людей
Kintsugi, стартап в области здравоохранения, разрабатывающий технологию биомаркеров голоса на основе искусственного интеллекта для обнаружения признаков клинической депрессии и тревоги. Их работа началась с, казалось бы, простой предпосылки: мы должны слушать людей.
“Я основала Kintsugi из-за проблемы, которую испытала лично. Я провела почти пять месяцев, звоня своему поставщику, чтобы запланировать первоначальную терапевтическую встречу, и никто никогда не возвращал мне звонки. Я продолжала пытаться – но я помню, что очень четко подумала, что если бы это был мой отец или брат, они бы остановились гораздо раньше, чем я”, – сказала генеральный директор Грейс Чанг в разговоре с Unite.AI.
Калифорнийская компания была основана в 2019 году как решение проблемы, которую Чанг описала как “узкое место в медицинской сортировке”. Основательница считала, что обнаружение тяжести раньше и пассивно может помочь людям получить необходимый уровень ухода быстрее. И, через Kintsugi Voice, биомаркеры голоса выявляют клиническую депрессию и тревогу.
Исследования подтверждают успешное использование анализа речи и голоса на основе искусственного интеллекта в качестве биомаркера для психических расстройств. Например, статья мая 2025 года выявила, что акустические биомаркеры могут обнаружить ранние признаки психических расстройств и нейроразнообразия, и утверждала, что анализ пения должен быть интегрирован в клинические условия для оценки потенциального когнитивного спада пациентов.
Биомаркеры голоса, в самом деле, имеют точность 78% до 96% в выявлении людей с депрессией по сравнению с теми, у кого ее нет, согласно Американской психиатрической ассоциации. Другое исследование использовало тест вербальной флюентности в течение одной минуты, в котором человек называл как можно больше слов в данной категории – обнаружив 70% до 83% точности в выявлении, когда у субъекта была и депрессия, и тревога.
Чтобы оценить психическое здоровье своих пользователей, Kintsugi запрашивает короткий речевой клип, после чего его технология биомаркеров голоса анализирует высоту, интонацию, тон и паузы – маркеры, обнаруженные как связанные с состояниями, такими как депрессия, тревога, биполярное расстройство и деменция.
Что Чанг не осознала изначально, однако, было то, что технология открыла одну из наиболее насущных проблем безопасности: выявление того, что делает человеческие голоса человеческими.
От ухода за психическим здоровьем к кибербезопасности
Во время участия в саммите в Нью-Йорке в конце 2025 года Чанг упомянула своему другу в области кибербезопасности, что эксперименты ее команды с синтетическими голосами были разочаровывающими.
“Мы исследовали синтетические данные, чтобы дополнить обучение наших моделей психического здоровья, но сгенерированные голоса были так сильно отличались от настоящей человеческой речи, что мы могли различить их почти в 100% случаев”, – сказала она.
“Он остановился и сказал: ‘Грейс – это не решенная проблема в безопасности’. Это был момент, когда все стало ясно. С тех пор разговоры с компаниями по безопасности, финансовым услугам и телекоммуникациям подтвердили, насколько быстро растут атаки с глубокими фейками голоса – и насколько реальна необходимость различать человеческие и синтетические голоса в живых звонках”, – добавила генеральный директор.
В апреле прошлого года ФБР предупредило о злонамеренной кампании текстовых и голосовых сообщений, выдававших себя за коммуникации от высокопоставленных американских чиновников и нацелившихся на бывших сотрудников правительства и их контакты. Крупные национальные банки в США также были атакованы в среднем 5,5 раз в день манипуляциями голоса, а сотрудники больницы Вандербильта сообщили о фишинговых атаках от выдающих себя за друзей, руководителей и коллег.
Независимо от того, глубокие фейки не изначально учитывались в работе Kintsugi. Хотя команда компании использовала готовые модели, такие как Cartesia, Sesame и ElevenLabs, для экспериментов с синтетическими голосами для административных агентов колл-центра и исходящих потоков, мошенничество с глубокими фейками не было их фокусом на фоне переполненного и доступного рынка, в котором представлены модели, такие как Sora.
Сигналы, указывающие на аутентичность голоса на уровне человека, однако, являются теми же биомаркерами, которые делают человека человеком. Независимо от языка или семантики, Kintsugi Voice работает с обработкой сигналов и физической задержкой речи, захватывая тонкую временную, просодическую вариативность, когнитивную нагрузку и физиологические маркеры, отражающие, как производится речь… а не то, что говорится.
“Синтетические голоса могут звучать плавно, но они не несут тех же биологических и когнитивных артефактов”, – сказала Чанг. Модель компании последовательно является в лучших 10% по точности обнаружения, используя всего 3-5 секунд аудио.
Kintsugi может быть революционным для тех, кто борется с психическим здоровьем, особенно в районах, где получение лечения у профессионалов требует времени и ресурсов. Аналогично, его технология представляет революцию для обнаружения глубоких фейков и кибербезопасности в целом: обнаружение аутентичности, а не распознавание глубоких фейков.
Будущее лежит в человеко-ориентированных технологиях
Кибербезопасность давно фокусируется на злонамеренном использовании технологий или самих преступников. Случайное открытие Kintsugi, однако, ставит на человечество.
“Мы работаем на совершенно другой поверхности: аутентичности человека. Большие языковые модели не могут надежно обнаружить контент, сгенерированный большими языковыми моделями, а методы, основанные на артефактах, хрупки. Захват больших, клинически помеченных наборов данных, которые кодируют реальную человеческую вариативность, дорог, медлен и находится вне основной компетенции большинства компаний по безопасности – что делает этот подход трудным для воспроизведения”, – отметила Чанг.
Подход стартапа также предполагает более широкий сдвиг: инновации между доменами. Те, кто лидирует в области здравоохранения, могут возглавить разработку средств обнаружения вишинга с поддержкой искусственного интеллекта, как и те, кто инновационен в космической технологии, может поддержать новые механизмы реагирования на чрезвычайные ситуации, а игроки в видеоигры — помочь архитектуре и городскому планированию.
Что касается Чанг, она планирует стать стандартом для проверки реальных людей и, в конечном итоге, реального намерения через голосовые взаимодействия.
“Как HTTPS стало слоем доверия по умолчанию для веба, мы считаем, что ‘доказательство человека’ станет фундаментальным слоем для голосовых систем. Signal — это начало этой инфраструктуры”, – сказала она.
По мере ускорения развития генеративного искусственного интеллекта, наиболее эффективные меры безопасности могут прийти от понимания того, что делает людей… людьми.












