Бен Ха, директор архітектури рішень, Уряд, Юридичні та Ком플айенс підрозділи, Veritone – Інтерв’ю серія

Бен Ха є директором архітектури рішень для підрозділу Уряд, Юридичні та Ком플айенс компанії Veritone. Бен має понад 15 років досвіду в галузі програмного забезпечення, здебільшого в технічній передпродажній ролі. Бен працює з клієнтами в сфері уряду та права протягом останніх 4 років.

Veritone розробляє людоцентричні рішення штучного інтелекту. Програмне забезпечення та послуги Veritone дозволяють особам у багатьох найбільших і найвідоміших брендах світу працювати більш ефективно, прискорювати процес прийняття рішень і збільшувати прибутковість.

Як Veritone’s iDEMS інтегрується з існуючими системами правоохоронних органів, і які конкретні ефективності воно вводить?

Існуючі системи правоохоронних органів (LEA) зазвичай мають дані з багатьох різних джерел, таких як системи камер на тілі, системи відео управління та інші камери та пристрої. iDEMS дозволяє LEA будувати зв’язки в цих існуючих системах за допомогою API або інших шляхів інтеграції. Потім воно віртуалізується поверх цих систем, дозволяючи правоохоронним органам зберігати основні дані там, де вони знаходяться в джерельних системах. У застосунку Veritone Investigate користувач має доступ до файлу низької роздільної здатності, який він може використовувати для перегляду, обміну, пошуку, аналізу тощо. Через те, що дані знаходяться в одному центральному місці, користувачеві легше проходити процес розслідування без перемикання між ізольованими застосунками.

Veritone Investigate також дозволяє користувачеві використовувати штучний інтелект для аналізу того, що знаходиться всередині контенту. Інакше кажучи, LEA можуть використовувати штучний інтелект для структуризації неструктурованих даних, надавання метаданих, які роблять пошук речей набагато легшим. Більшість систем просто діють як сховища даних і не містять інформації про слова, вимовлені або обличчя чи об’єкти всередині контенту. З Investigate і рішенням iDEMS штучний інтелект вбудований і запускається автоматично під час інгестії, ліквідуючи необхідність ручного перегляду або прослуховування контенту для отримання контексту, прискорюючи процес розслідування.

Які технічні вимоги для правоохоронних органів для реалізації Veritone’s iDEMS?

LEA не потребують значних технічних вимог для реалізації Veritone’s iDEMS – насправді, рішення працюватиме майже з будь-яким розміром LEA, незалежно від того, які системи вони мають або не мають на місці. Через те, що у Veritone є адаптери інгестії, які можуть підключитися до різних API, LEA потребуватимуть лише когось з доступом до цих існуючих систем. Крім того, iDEMS є хмарним рішенням, і LEA потребуватимуть високошвидкісного інтернет-з’єднання та сучасного веб-браузера.

Чи можете ви надати більше інформації про те, як Veritone Track відрізняється від традиційних технологій розпізнавання облич у плані точності та ефективності?

Традиційне розпізнавання облич залежить від видимих ознак обличчя (очей, носа, рота тощо) для ідентифікації особи інтересу. Проблема полягає в тому, що якщо відео не захоплює обличчя особи, технологія розпізнавання облич не може ідентифікувати або відстежувати цю особу. Наприклад, якщо кадри захоплюють лише спину людини, обличчя особи закрито маскою або худі, або відео не має оптимального кута обличчя, технологія розпізнавання облич не працюватиме.

Натомість, Veritone Track обробляє потенційних осіб інтересу як об’єкти в процесі, відомому як людоподібні об’єкти (HLO). Через HLO Veritone Track може побудувати унікальний “відбиток особи” цієї особи на основі візуально відрізних атрибутів. Ці візуально відрізні атрибути можуть бути капелюхом, окулярами, рюкзаком або якщо вони несуть щось у руці, навіть кольоровою контрастністю між одягом і взуттям. Крім того, воно розглядає тип тіла людини, наприклад довжину рук, статуру, вагу тощо.

Після побудови цього відбитка особи Veritone Track включає традиційну поліцейську роботу через людину в циклі, яка переглядає та верифікує потенційні збіги. В кінцевому підсумку, цей метод є більш точним і ефективним, ніж традиційні технології розпізнавання облич.

Як використання людоподібних об’єктів (HLO) у Veritone Track підвищує процес ідентифікації порівняно з використанням розпізнавання облич?

Використання HLO підвищує процес ідентифікації, оскільки воно не вимагає від LEA мати доступ до тих самих змінних, як традиційне розпізнавання облич, тобто повністю видимого людського обличчя. Veritone Track є гнучким у тому, що воно використовуватиме будь-яку доступну інформацію незалежно від якості кадрів, роздільної здатності або кута (високо на стелі або на рівні очей) камери. Незважаючи на переваги Veritone Track, воно і розпізнавання облич не є взаємовиключними – LEA можуть використовувати обидві технології одночасно. Наприклад, LEA можуть використовувати Veritone Track для побудови відбитка особи з великої кількості низькоякісного відео, а також використовувати розпізнавання облич на відео-зразках фронтальних знімків потенційної особи інтересу.

Як штучний інтелект Veritone допомагає в прискоренні розслідувань, зберігаючи високі стандарти обробки доказів?

Veritone Investigate, Veritone Track або всі публічні застосунки Veritone для державного сектора використовують штучний інтелект для драматичного прискорення ручних процесів для LEA, скорочуючи тижні або дні роботи до декількох годин, що все частіше стає критично важливим через триваючу нестачу персоналу. Незважаючи на цю прискорену швидкість, Veritone зберігає високі стандарти обробки доказів, не довіряючи повністю висновкам штучного інтелекту. Ці рішення залишають останнє слово людині-розслідувачеві для перегляду кінцевих результатів. Технологія Veritone також дозволяє людям дотримуватися високих стандартів обробки доказів і ланцюга володіння. Крім того, вони мають вбудовані аудитні траси, щоб LEA могли бачити, як розслідувач прийшов до кінцевого результату. Просто кажучи, штучний інтелект не замінює людей – він лише підвищує їхні можливості.

Штучний інтелект у правоохоронних органах викликає занепокоєння щодо неправильного переслідування меншин, особливо у містах, таких як Детройт, Мічиган, які пережили багато неправильних арештів менш ніж за 1 рік. Як Veritone звертається до цих етичних викликів?

По-перше, Veritone завжди використовує захисні заходи та заходи безпеки для мінімізації можливості неправильного переслідування. Наприклад, Veritone Track не використовує біометричні ознаки, такі як ознаки обличчя, для побудови відбитків особи, а спирається на одяг, тип тіла тощо. По-друге, ці інструменти ніколи не сканують інтернет, соціальні мережі або великі бази даних, такі як агентство паспортів, для отримання даних. Коли LEA використовує наші рішення в активному випадку або розслідуванні, воно може порівнювати завантажені фото- або відеодокази лише проти бази даних відомих правопорушників з арештами.

Чи можете ви розповісти більше про те, як штучний інтелект Veritone забезпечує точність генерованих ним підказок?

Штучний інтелект Veritone генерує потенційні підказки, які люди-розслідувачі можуть переслідувати. Хоча штучний інтелект надає розслідувачеві корисні висновки та результати, людина все одно приймає кінцеве рішення. Знову ж таки, випадок у Детройті, Мічиган, побачив, як правоохоронні органи довіряли лише технології розпізнавання облич для виконання роботи. Це сліпе довіра в кінцевому підсумку виявилося проблематичним, оскільки ці моделі спиралися на дані, які призвели до демографічних або расових упереджень.

Крім того, дані, які Veritone обирає для навчання своїх моделей штучного інтелекту, є репрезентативними для контенту. Перед навчанням даних Veritone видалить чутливі відео- та аудіоелементи з джерел, таких як камери на тілі, відео в автомобілі, кадри з CCTV тощо, або використовуватиме публічно доступні нечутливі дані. Крім того, Veritone буде верифікувати результати з відгуками клієнтів для постійного вдосконалення.

Як Veritone звертається до потенційної можливості штучного інтелекту для посилення існуючих упереджень у даних правоохоронних органів?

Veritone використовує підхід 多-моделі, який працює з багатьма різними сторонніми постачальниками для отримання більш широкої перспективи, ніж спирається виключно на одну модель штучного інтелекту. У цьому методі Veritone може стандартизувати категорію штучного інтелекту, таку як транскрипція, переклад, розпізнавання облич, виявлення об’єктів або розпізнавання тексту. Використовуючи “мудрість натовпу”, Veritone може запускати той самий контент проти декількох моделей у рамках тієї самої категорії штучного інтелекту для захисту від упереджень.

Які кроки приймаються для забезпечення того, щоб застосунки штучного інтелекту Veritone не порушували права на приватність?

Є два найкращі практики, яких дотримується Veritone для забезпечення того, щоб його застосунки штучного інтелекту не порушували права на приватність. По-перше, дані клієнта залишаються даними клієнта в будь-який час. У них є право керувати, видаляти або робити з цими даними все, що їм хочеться. Хоча дані клієнта працюють у безпечному хмарному середовищі Veritone, клієнт зберігає повну власність. По-друге, Veritone ніколи не використовує дані клієнта без їхньої дозволу або згоди. Зокрема, Veritone не використовує дані клієнта для повторної навчання моделей штучного інтелекту. Безпека та приватність мають найвищу важливість, і клієнти працюватимуть лише з попередньо натренованими моделями, які використовують дані, очищені від усіх чутливих, біометричних та особисто ідентифікуючих даних.

Як Veritone балансує потребу в швидкому технологічному прогресі з етичними розглядачами та соціальним впливом?

Під час розробки штучного інтелекту з швидкою швидкістю тенденція полягає в тому, щоб використовувати якомога більше даних і постійно збираючи їх для поліпшення та зростання. Хоча такий підхід дійсно призводить до прискореного дозрівання моделі штучного інтелекту, він відкриває різні етичні, приватні та соціальні питання.

Veritone завжди шукає найкращий штучний інтелект. Під час хвилі генерації штучного інтелекту Veritone мав ранній доступ до технологій від OpenAI та інших партнерів. Однак замість того, щоб рухатися вперед і розгортати нові рішення негайно, ми запитали: “Як наші клієнти дійсно використовуватимуть штучний інтелект у правильному випадку використання?” Інакше кажучи, після вивчення місії та болів LEA ми визначили, як застосовувати генерацію штучного інтелекту у відповідальний спосіб, який тримає людей у центрі, дозволяючи користувачам досягати своїх цілей і подолання викликів.

Наприклад, Veritone Investigate містить приватну та ізольовану від мережі велику мовну модель, яка може підсумувати розмови або контент. Якщо камера на тілі захоплює інцидент або розслідувач проводить інтерв’ю з кимось, Veritone Investigate може транскрибувати цей контент і автоматично підсумувати його, що дуже корисно для детективів або розслідувачів, які потребують надання підсумку всього інтерв’ю в короткому абзаці до прокуратури або суду. Тим не менш, особа все ще має можливість переглянути висновок, згенерований штучним інтелектом, щоб зробити необхідні редагування та зміни перед поданням.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Veritone.