Бен Ха, Директор по архитектуре решений, Правительство, Юридический и Соблюдение нормативов дивизион, Veritone – Интервью Серия

Бен Ха является Директором по архитектуре решений для дивизиона Правительство, Юридический и Соблюдение нормативов компании Veritone. Бен имеет более 15 лет опыта в软件 индустрии, в основном занимая технические позиции до продаж. Бен работает с клиентами в государственном и юридическом секторе в течение последних 4 лет.

Veritone проектирует человеко-ориентированные AI решения. Программное обеспечение и услуги Veritone позволяют людям в многих из крупнейших и наиболее узнаваемых брендов работать более эффективно, ускорять процесс принятия решений и увеличивать прибыльность.

Как Veritone’s iDEMS интегрируется с существующими системами правоохранительных органов, и какие конкретные эффективности она вводит?

Существующие системы правоохранительных органов (LEAs) обычно имеют данные из многих разных источников, таких как системы камер на теле, системы управления видео и другие камеры и устройства. iDEMS позволяет LEAs создавать соединения в этих существующих системах с помощью API или других интеграционных путей. Затем она виртуализируется поверх этих систем, позволяя правоохранительным органам сохранять основные данные там, где они находятся в источниках. Внутри приложения Veritone Investigate пользователь имеет доступ к файлу с низким разрешением, который он может использовать для просмотра, обмена, поиска, анализа и т. д. Поскольку данные находятся в одном центральном месте, пользователю проще пройти через процесс расследования без переключения между изолированными приложениями.

Veritone Investigate также позволяет пользователю использовать когнитивные возможности AI для анализа того, что находится внутри контента. Другими словами, LEAs могут использовать AI для структуризации неструктурированных данных, предоставляя информацию о метаданных, которая делает поиск вещей намного проще. Большинство систем просто действуют как хранилище данных и не содержат информации о словах, произнесенных или лицах и объектах внутри контента. С Investigate и решением iDEMS AI встроен в него и запускается автоматически при ингестии, исключая необходимость ручного просмотра или прослушивания контента для получения контекста, ускоряя процесс расследования.

Каковы технические требования для правоохранительных органов для реализации Veritone’s iDEMS?

LEAs не нуждаются в значительных технических требованиях для реализации Veritone’s iDEMS – на самом деле, решение будет работать с几乎 любым размером LEA, независимо от того, какие системы они имеют или не имеют в своем распоряжении. Поскольку у Veritone есть адаптеры ингестии, которые могут подключаться к различным API, LEA будет нужен только человек с доступом к этим существующим системам. Кроме того, iDEMS является облачным решением, и LEA будет нужен высокоскоростной интернет-соединение и современный веб-браузер.

Можете ли вы предоставить более подробную информацию о том, как Veritone Track отличается от традиционных технологий распознавания лиц в плане точности и эффективности?

Традиционное распознавание лиц полагается на видимые черты лица (глаза, нос, рот и т. д.), чтобы определить человека, представляющего интерес. Проблема заключается в том, что если видео не захватывает лицо человека, технология не может определить или отслеживать этого человека. Например, если видео захватывает только спину человека, лицо человека закрыто маской или капюшоном, или видео не имеет оптимального угла лица, распознавание лиц не работает.

Альтернативно, Veritone Track рассматривает потенциальных людей, представляющих интерес, как объекты в процессе, известном как человекоподобные объекты (HLOs). Через HLOs Veritone Track может создать уникальную “отпечаток человека” этого человека на основе визуально различимых атрибутов. Эти визуально различимые атрибуты могут быть шляпой, очками, рюкзаком или если они несут что-то в руке, даже контрастом цвета между их одеждой и обувью. Он также учитывает тип тела человека, например, длину руки, рост, вес и т. д.

После создания этого отпечатка человека Veritone Track включает в себя старую добрую полицейскую работу через человека в цикле, который проверяет и подтверждает потенциальные совпадения. В конечном итоге, этот метод более точен и эффективен, чем традиционные технологии распознавания лиц.

Как использование человекоподобных объектов (HLOs) в Veritone Track улучшает процесс идентификации по сравнению с использованием распознавания лиц?

Использование HLOs улучшает процесс идентификации, поскольку оно не требует от LEA иметь доступ к тем же переменным, что и традиционное распознавание лиц, т. е. полностью видимому человеческому лицу. Veritone Track гибок в том, что он будет использовать любую доступную информацию, независимо от качества видео, разрешения или угла (высокого на потолке или на уровне глаз) камеры. Несмотря на преимущества Veritone Track, он и распознавание лиц не являются взаимоисключающими – LEAs могут использовать обе технологии одновременно. Например, LEAs могли бы использовать Veritone Track для создания отпечатка человека из большого количества видео низкого качества, а также запускать распознавание лиц на видео-выборках лиц потенциального человека, представляющего интерес.

Как система Veritone, основанная на AI, помогает в ускорении расследований, сохраняя при этом высокие стандарты обработки доказательств?

Veritone Investigate, Veritone Track или все приложения Veritone для государственного сектора используют AI для того, чтобы значительно ускорить ручные процессы для LEAs, сокращая недели или дни работы до нескольких часов, что все более важно на фоне продолжающихся нехваток кадров. Несмотря на эту ускоренную скорость, Veritone сохраняет высокие стандарты обработки доказательств, не доверяя полностью выводам AI. Эти решения оставляют последнее слово человеческому следователю для проверки окончательных результатов. Технология Veritone также позволяет людям соответствовать высоким стандартам обработки доказательств и цепочки хранения. Аналогично, они имеют встроенные аудиторские следы, поэтому LEA может видеть, как следователь пришел к окончательному результату. Проще говоря, AI не заменяет людей – он просто улучшает их возможности.

AI в правоохранительных органах вызывает обеспокоенность по поводу неправомерного преследования меньшинств, особенно в городах, таких как Детройт, Мичиган, испытывающих несколько неправомерных арестов в течение менее 1 года. Как Veritone решает эти этические проблемы?

Сначала Veritone всегда использует ограничители и меры безопасности, чтобы минимизировать возможность неправомерного преследования. Например, Veritone Track не использует биометрические маркеры, такие как черты лица, для создания отпечатков человека, а полагается на одежду, тип тела и т. д. Во-вторых, эти инструменты никогда не собирают данные из интернета, социальных сетей или огромных баз данных, таких как Агентство паспортов, чтобы получить данные. Когда LEA использует наши решения в активном деле или расследовании, он может сравнить только загруженные фото- или видеодоказательства с базой данных известных правонарушителей с записями об арестах. В случае того, что произошло в Детройте, Мичигане, правоохранительные органы использовали решение, которое собрало данные из всего интернета без участия человеческого следователя в цикле для проверки результатов, что привело к неправомерному преследованию невинных граждан.

Можете ли вы подробнее рассказать о том, как Veritone’s AI обеспечивает точность потенциальных зацепок?

Veritone’s AI генерирует потенциальные зацепки, которые человеческие следователи могут преследовать. Хотя AI предоставляет следователю полезные выводы и результаты, человек все еще принимает окончательное решение. Снова, случай Детройта, Мичигана, увидел правоохранительные органы, доверяющие распознаванию лиц, чтобы сделать работу. Это слепое доверие было в конечном итоге проблематичным, поскольку эти модели полагались на данные, которые привели к демографически или расово ассоциированным предубеждениям.

Кроме того, данные, которые Veritone выбирает для обучения своих двигателей и моделей AI, представляют контент. Перед обучением данным Veritone будет удалять чувствительные видео- и аудиоэлементы из источников, таких как камеры на теле, видео в машине, видео с CCTV и т. д., или использовать публично доступные несensitive данные. Аналогично, Veritone будет проверять результаты с обратной связью клиентов для непрерывного улучшения.

Как Veritone решает потенциал AI для увековечивания существующих предубеждений в данных правоохранительных органов?

Veritone использует подход с несколькими моделями, который работает с многими разными сторонними поставщиками, чтобы получить более широкую перспективу, а не полагаться исключительно на одну модель AI. В частности, этот метод позволяет Veritone стандартизировать в рамках данной категории когнитивных возможностей AI, такой как транскрипция, перевод, распознавание лиц, обнаружение объектов или распознавание текста. Запуская одно и то же содержание против нескольких моделей в рамках одной и той же категории когнитивных возможностей AI, Veritone может помочь охранять от предубеждений.

Какие шаги предпринимаются, чтобы обеспечить, что приложения Veritone’s AI не нарушают права на неприкосновенность частной жизни?

Существуют две лучшие практики, которые приложения Veritone’s AI следуют, чтобы обеспечить, что они не нарушают права на неприкосновенность частной жизни. Одна: данные клиента остаются данными клиента во все времена. У них есть право управлять, удалять или делать все, что они хотят со своими данными. Хотя данные клиента работают в безопасной облачной среде Veritone, они сохраняют полную собственность. Две: Veritone никогда не использует данные клиента без их разрешения или согласия. В частности, Veritone не использует данные клиента для повторной тренировки моделей AI. Безопасность и неприкосновенность частной жизни являются вопросами высшей важности, и клиенты будут работать только с предварительно обученными моделями, которые используют данные, очищенные от всех чувствительных, биометрических и лично идентифицирующих сведений.

Как Veritone балансирует необходимость быстрого технологического прогресса с этическими соображениями и социальным воздействием?

Когда мы разрабатываем AI с быстрой скоростью, существует тенденция использовать как можно больше данных и постоянно собирать их, чтобы улучшить и вырасти. Хотя такой подход действительно приводит к ускоренному созреванию модели AI, он открывает различные этические, конфиденциальные и социальные проблемы.

В этом отношении Veritone всегда ищет лучшее решение AI. Во время бума генеративного AI Veritone имел ранний доступ к технологиям от OpenAI и других партнеров. Однако вместо того, чтобы двигаться вперед и развертывать новые решения сразу, мы спросили: “Как наши клиенты фактически будут использовать AI в рамках правильного использования?” Другими словами, после изучения миссии и болевых точек LEAs мы определили, как применить генеративный AI ответственным образом, сохраняя людей в центре, позволяя пользователям достигать своих целей и преодолевать проблемы.

Например, Veritone Investigate имеет частную и изолированную от сети большую языковую модель, которая может суммировать устные разговоры или контент. Если камера на теле захватывает инцидент или следователь интервьюирует кого-то, Veritone Investigate может транскрибировать этот контент и автоматически суммировать его, что очень полезно для детективов или следователей, которым необходимо предоставить краткое изложение всего интервью в коротком абзаце прокуратуре или обвинению. Тем не менее, человек все еще имеет возможность просмотреть вывод AI, чтобы сделать необходимые правки и изменения перед представлением.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Veritone.