Бен Ха, директор по архитектуре решений, правительство, юридические и комплаенс-разделения, Veritone – Интервью-серия

Бен Ха является директором по архитектуре решений для правительственного, юридического и комплаенс-разделений Veritone. Бен имеет более 15 лет опыта в软件-индустрии, в основном в технической предпродажной роли. Бен работает с клиентами в государственном и юридическом секторе в течение последних 4 лет.

Veritone проектирует решения на основе искусственного интеллекта, ориентированные на человека. Программное обеспечение и услуги Veritone позволяют людям в многих из крупнейших и наиболее узнаваемых брендов мира работать более эффективно, ускорять принятие решений и увеличивать прибыльность.

Как Veritone’s iDEMS интегрируется с существующими системами правоохранительных органов, и какие конкретные эффективности оно вводит?

Существующие системы правоохранительных органов (LEA) обычно имеют данные из многих разных источников, таких как системы камер на теле, системы управления видео и другие камеры и устройства. iDEMS позволяет LEA строить соединения в этих существующих системах с помощью API или других интеграционных путей. Затем оно виртуализирует поверх этих систем, позволяя правоохранительным органам сохранять основные данные там, где они находятся в исходных системах. Внутри приложения Veritone Investigate пользователь имеет доступ к файлу с низким разрешением, который он может использовать для просмотра, обмена, поиска, анализа и т. д. Поскольку данные находятся в одном центральном месте, пользователю легче пройти через процесс расследования без переключения между изолированными приложениями.

Veritone Investigate также позволяет пользователю использовать когнитивные возможности искусственного интеллекта для анализа содержимого самого контента. Другими словами, LEA могут использовать искусственный интеллект для структуризации неструктурированных данных, предоставляя информацию о метаданных, которая делает поиск вещей намного проще. Большинство систем просто служат хранилищем данных и не содержат информации о словах, произнесенных или лицах и объектах внутри контента. С помощью Investigate и решения iDEMS искусственный интеллект встроен и запускается автоматически при ингестии, исключая необходимость ручного просмотра или прослушивания контента для получения контекста, ускоряя процесс расследования.

Каковы технические требования для правоохранительных органов для реализации Veritone’s iDEMS?

LEA не нуждаются в значительных технических требованиях для реализации Veritone’s iDEMS – на самом деле, решение будет работать с几乎 любой LEA, независимо от систем, которые у них есть или нет. Поскольку у Veritone есть адаптеры ингестии, которые могут соединиться с различными API, LEA понадобится только кто-то с доступом к этим существующим системам. Кроме того, iDEMS является облачным, и LEA понадобится высокоскоростное интернет-соединение и современный веб-браузер.

Можете ли вы предоставить более подробную информацию о том, как Veritone Track отличается от традиционных технологий распознавания лиц в плане точности и эффективности?

Традиционное распознавание лиц полагается на видимые черты лица (глаза, нос, рот и т. д.), чтобы определить человека, представляющего интерес. Проблема заключается в том, что если видео не захватывает лицо человека, технология не может определить или отслеживать этого человека. Например, если кадры захватывают только спину человека, лицо человека закрыто маской или худи, или видео не имеет оптимального угла лица, распознавание лиц не работает.

Напротив, Veritone Track рассматривает потенциальных людей, представляющих интерес, как объекты в процессе, известном как человеческие объекты (HLO). С помощью HLO Veritone Track может создать уникальную “отпечаток человека” этого человека на основе визуально различимых атрибутов. Эти визуально различимые атрибуты могут быть шляпой, очками, рюкзаком или тем, что человек несет в руке, даже контрастом цвета между одеждой и обувью. Он также учитывает тип тела человека, например, длину руки, рост, вес и т. д.

После создания этого отпечатка человека Veritone Track включает в себя старую добрую полицейскую работу через человека в цикле, который проверяет и подтверждает потенциальные совпадения. В конечном итоге этот метод более точен и эффективен, чем традиционные технологии распознавания лиц.

Как использование человеческих объектов (HLO) в Veritone Track улучшает процесс идентификации по сравнению с использованием распознавания лиц?

Использование HLO улучшает процесс идентификации, поскольку оно не требует от LEA иметь доступ к одним и тем же переменным, что и традиционное распознавание лиц, т. е. полностью видимому человеческому лицу. Veritone Track гибок в том, что он будет использовать любую доступную информацию, независимо от качества кадров, разрешения или угла (высокого на потолке или на уровне глаз) камеры. Несмотря на преимущества Veritone Track, оно и распознавание лиц не являются взаимоисключающими – LEA могут использовать обе технологии одновременно. Например, LEA могли бы использовать Veritone Track для создания отпечатка человека из большого количества видео низкого качества, а также использовать распознавание лиц на видео-выборках лиц потенциального человека, представляющего интерес.

Как система Veritone на основе искусственного интеллекта помогает ускорить расследования, сохраняя при этом высокие стандарты обработки доказательств?

Veritone Investigate, Veritone Track или все приложения Veritone для государственного сектора используют искусственный интеллект для того, чтобы значительно ускорить ручные процессы для LEA, сокращая недели или дни работы до нескольких часов, что становится все более критичным на фоне продолжающихся нехваток персонала. Несмотря на эту ускоренную скорость, Veritone сохраняет высокие стандарты обработки доказательств, не доверяя полностью выводам искусственного интеллекта. Эти решения оставляют окончательное решение за человеческим следователем, чтобы просмотреть окончательные результаты. Технология Veritone также позволяет людям соответствовать высоким стандартам обработки доказательств и цепочки хранения. Кроме того, они имеют встроенные аудиторские следы, поэтому LEA может увидеть, как следователь пришел к окончательному результату. Просто говоря, искусственный интеллект не заменяет людей – он просто улучшает их возможности.

Искусственный интеллект в правоохранительных органах вызывает обеспокоенность по поводу неправомерного преследования меньшинств, особенно в городах, таких как Детройт, штат Мичиган, где множественные неправомерные аресты произошли менее чем за 1 год. Как Veritone решает эти этические проблемы?

Сначала Veritone всегда использует ограничители и меры безопасности, чтобы минимизировать возможность неправомерного преследования. Например, Veritone Track не использует биометрические маркеры, такие как черты лица, для создания отпечатков человека, а полагается на одежду, тип тела и т. д. Во-вторых, эти инструменты никогда не собирают данные из интернета, социальных сетей или огромных баз данных, таких как агентство паспортов, для получения данных. Когда LEA использует наши решения в активном деле или расследовании, оно может сравнить только загруженные фото- или видеодоказательства с базой данных известных правонарушителей с записями об арестах. В случае того, что произошло в Детройте, штат Мичиган, правоохранительные органы использовали решение, которое собрало данные из всего интернета без участия человеческого следователя для проверки результатов, что привело к неправомерному преследованию невинных граждан.

Можете ли вы подробнее рассказать о том, как Veritone’s AI обеспечивает точность потенциальных зацепок?

Искусственный интеллект Veritone генерирует потенциальные зацепки, которые человеческие следователи могут преследовать. Хотя искусственный интеллект предоставляет следователю полезные находки и результаты, человек все еще принимает окончательное решение. Опять же, дело в Детройте, штат Мичиган, показало, что правоохранительные органы доверяли только распознаванию лиц для выполнения работы. Это слепое доверие было в конечном итоге проблематичным, поскольку эти модели полагались на данные, которые привели к демографическим или расовым предубеждениям.

Кроме того, данные, которые Veritone выбирает для обучения своих двигателей и моделей искусственного интеллекта, представляют собой содержимое. Перед обучением данных Veritone будет удалять чувствительные видео- и аудиоэлементы из источников, таких как камеры на теле, видео в машине, кадры с CCTV и т. д., или использовать общедоступные несensitive данные. Кроме того, Veritone будет проверять результаты с помощью обратной связи клиентов для постоянного улучшения.

Как Veritone справляется с потенциалом искусственного интеллекта для увековечения существующих предубеждений внутри данных правоохранительных органов?

Veritone использует много-модельный подход, который работает с многими разными третьими сторонами для получения более широкой перспективы, а не полагается исключительно на одну модель искусственного интеллекта. В частности, этот метод позволяет Veritone стандартизировать в рамках данной категории когнитивных возможностей искусственного интеллекта, такой как транскрипция, перевод, распознавание лиц, обнаружение объектов или распознавание текста. Используя “мудрость толпы”, Veritone может запустить одно и то же содержимое против нескольких моделей внутри одной и той же категории когнитивных возможностей искусственного интеллекта, чтобы помочь защититься от предубеждений.

Какие шаги предпринимаются для того, чтобы обеспечить, что приложения Veritone на основе искусственного интеллекта не нарушают права на неприкосновенность частной жизни?

Существуют две лучшие практики, которые приложения Veritone на основе искусственного интеллекта следуют, чтобы обеспечить, что они не нарушают права на неприкосновенность частной жизни. Первая: данные клиента остаются данными клиента во все времена. У них есть право управлять, удалять или делать все, что они хотят со своими данными. Хотя данные клиента работают в безопасной облачной среде Veritone, они сохраняют полную собственность. Вторая: Veritone никогда не использует данные клиента без их разрешения или согласия. В частности, Veritone не использует данные клиента для повторной тренировки моделей искусственного интеллекта. Безопасность и неприкосновенность частной жизни являются наиболее важными, и клиенты будут работать только с предварительно обученными моделями, которые используют данные, очищенные от всех чувствительных, биометрических и лично идентифицируемых сведений.

Как Veritone балансирует необходимость быстрого технологического прогресса с этическими соображениями и социальным воздействием?

Когда мы разрабатываем искусственный интеллект с быстрой скоростью, тенденция заключается в использовании как можно больше данных и постоянном сборе их для улучшения и роста. Хотя такой подход действительно приводит к ускоренному созреванию модели искусственного интеллекта, он открывает различные этические, проблемы с неприкосновенностью частной жизни и социальные проблемы.

Для этого Veritone всегда ищет лучшее решение на основе искусственного интеллекта. Во время бума генеративного искусственного интеллекта Veritone имел ранний доступ к технологии от OpenAI и других партнеров. Однако вместо того, чтобы двигаться вперед и развертывать новые решения сразу, мы спросили: “Как наши клиенты фактически будут использовать искусственный интеллект в рамках надлежащего случая использования?” Другими словами, после изучения миссии и болевых точек LEA мы определили, как применить генеративный искусственный интеллект ответственным образом, сохраняя людей в центре, позволяя пользователям достигать своих целей и преодолевать проблемы.

Например, Veritone Investigate имеет частную и изолированную от сети большую модель языка, которая может суммировать устные разговоры или содержимое. Если камера на теле захватывает инцидент или следователь интервьюирует кого-то, Veritone Investigate может транскрибировать это содержимое и автоматически суммировать его, что очень полезно для детективов или следователей, которые должны предоставить сумму всего интервью в коротком абзаце прокуратуре или обвинению. Тем не менее, человек все еще имеет возможность просмотреть сгенерированный искусственным интеллектом вывод, чтобы сделать необходимые исправления и изменения перед представлением.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Veritone.