Ben Ha, Solutions Architect Director, Government, Legal & Compliance division, Veritone – Interview Series

Ben Ha je Solutions Architect Director pro Veritoneovu divizi Government, Legal and Compliance. Ben má více než 15 let zkušeností v softwarovém průmyslu, přičemž většinu času strávil v technické předprodejní roli. Ben již 4 roky spolupracuje s klienty v oblasti vlády a práva.

Veritone navrhuje lidsky orientovaná AI řešení. Softwarová a servisní řešení Veritone umožňují jednotlivcům v mnoha z největších a nejznámějších značek světa fungovat efektivněji, urychlit rozhodování a zvýšit ziskovost.

Jak Veritoneův iDEMS integruje stávající systémy donucovacích orgánů a jaké konkrétní efektivnosti přináší?

Stávající systémy donucovacích orgánů (LEAs) obvykle obsahují data z mnoha různých zdrojů, jako jsou systémy s body-worn kamerami, systémy pro správu videa a další kamery a zařízení. iDEMS umožňuje LEAs vytvářet spojení v těchto stávajících systémech pomocí API nebo jiných integračních cest. Poté virtualizuje nad tyto systémy, umožňující donucovacím orgánům udržet master data tam, kde jsou v zdrojových systémech. Uvnitř aplikace Veritone Investigate má uživatel přístup k nízko-rozlišovacímu proxy souboru, který může využít pro prohlížení, sdílení, vyhledávání, analýzu atd. Protože data jsou v jednom centrálním umístění, je pro uživatele snazší projít vyšetřovacím procesem bez přepínání mezi izolovanými aplikacemi.

Veritone Investigate také umožňuje uživatelům využívat AI kognici k analýze obsahu samotného. Jinými slovy, LEAs mohou použít AI k strukturování nestrukturovaných dat, poskytující metadata, která usnadňují nalezení věcí. Většina systémů funguje pouze jako úložiště dat a neobsahuje informace o vyslovených slovech nebo tvářích a objektech uvnitř obsahu. S Investigate a řešením iDEMS je AI nativně integrována a automaticky spuštěna při ingestování, eliminuje potřebu manuálního sledování nebo poslechu obsahu k získání kontextu, urychluje vyšetřovací proces.

Jaké jsou technické požadavky pro donucovací orgány k implementaci Veritoneova iDEMS?

LEAs nemusí mít významné technické požadavky k implementaci Veritoneova iDEMS – ve skutečnosti bude řešení fungovat s téměř jakoukoli velikostí LEA, bez ohledu na to, jaké systémy mají nebo nemají. Protože Veritone má ingestní adaptéry, které mohou připojit se k různým API, jediné, co LEA bude potřebovat, je někdo s přístupem k těmto stávajícím systémům. Kromě toho je iDEMS založen na cloudu a LEA bude potřebovat vysokorychlostní internetové připojení a moderní webový prohlížeč.

Můžete poskytnout více informací o tom, jak se Veritone Track liší od tradičních technologií rozpoznávání obličeje v oblasti přesnosti a efektivity?

Tradiční rozpoznávání obličeje se spoléhá na viditelné obličejové rysy (oči, nos, ústa atd.) k identifikaci osoby. Problém je, že pokud video nezachytí obličej osoby, technologie nemůže identifikovat nebo sledovat tuto osobu. Například, pokud je video zachyceno pouze zezadu, osoba má obličej zakrytý maskou nebo kapucí, nebo video nemá optimální úhel obličeje, rozpoznávání obličeje nebude fungovat.

Na druhé straně Veritone Track zachází s potenciálními osobami jako s objekty v procesu nazvaném human-like objekty (HLOs). Prostřednictvím HLOs může Veritone Track vytvořit jedinečný “otisk osoby” této osoby na základě vizuálně rozlišitelných atributů. Tyto vizuálně rozlišitelné atributy mohou být klobouk, brýle, batoh nebo pokud osoba něco drží v ruce, dokonce i kontrast barev mezi oblečením a botami. Kromě toho zohledňuje také typ těla, např. délku paží, postavu, váhu atd.

Po vytvoření tohoto otisku osoby Veritone Track zahrnuje starou dobrou policejní práci prostřednictvím lidského faktoru, který přezkoumává a ověřuje potenciální shody. Nakonec je tato metoda přesnější a efektivnější než tradiční technologie rozpoznávání obličeje.

Jak použití human-like objektů (HLOs) v Veritone Track zlepšuje proces identifikace ve srovnání s používáním rozpoznávání obličeje?

Využití HLOs zlepšuje proces identifikace, protože nevyžaduje, aby LEA měly přístup ke stejným proměnným jako tradiční rozpoznávání obličeje, tj. plně viditelnou lidskou tvář. Veritone Track je flexibilní, protože bude využívat jakékoli dostupné informace, bez ohledu na kvalitu videa, rozlišení nebo úhel (vysoko na stropě nebo na úrovni očí) kamery. Navzdory výhodám Veritone Track, nejsou tyto technologie vzájemně se vylučující – LEAs mohou použít obě technologie současně. Například LEAs by mohly použít Veritone Track k vytvoření otisku osoby z velkého množství nízko-rozlišovacího videa, zatímco by běžely rozpoznávání obličeje na videích s předními záběry potenciální osoby.

Jak Veritoneův AI poháněný systém pomáhá urychlit vyšetřování, zatímco udržuje vysoké standardy zpracování důkazů?

Veritone Investigate, Veritone Track nebo všechna veřejná sektorová aplikace Veritone používají AI k dramatickému urychlení manuálních procesů pro LEAs, snižují týdny nebo dny práce na několik hodin, což je stále kritičtější vzhledem k probíhajícím personálním nedostatkům. Navzdory této urychlené rychlosti Veritone udržuje vysoké standardy zpracování důkazů, aniž by se zcela důvěřovalo výstupům AI. Tyto řešení ponechávají konečnou rozhodnutí na lidském vyšetřovateli, aby přezkoumali konečné výsledky. Veritoneova technologie také umožňuje lidem dodržovat vysoké standardy zpracování důkazů a řetězce evidence. Kromě toho mají vestavěné auditní stopy, takže LEA může vidět, jak vyšetřovatel dospěl k konečným výsledkům. Jednoduše řečeno, AI nevytlačuje lidi – pouze zlepšuje jejich schopnosti.

AI v donucovacích orgánech vyvolává obavy o nesprávném pronásledování menšin, zejména s městy jako Detroit, Michigan, které zažily více nesprávných zatčení za méně než 1 rok. Jak Veritone řeší tyto etické výzvy?

Nejdříve Veritone vždy používá zábrany a bezpečnostní opatření, aby minimalizoval možnost nesprávného pronásledování. Například Veritone Track nepoužívá biometrické markery, jako jsou obličejové rysy, k vytvoření otisku osoby, ale spoléhá se na oblečení, typ těla atd. Za druhé, tyto nástroje nikdy neškrábou internet, sociální média nebo velké databáze, jako je agentura pro cestovní pasy, aby získaly data. Když LEA používá naše řešení v aktivním případě nebo vyšetřování, může pouze porovnat nahrávané fotografické nebo video důkazy proti databázi známých pachatelů s záznamy o zatčení. V případě, co se stalo v Detroitu, Michiganu, donucovací orgány používaly řešení, které získalo data z celého internetu bez lidského vyšetřovatele, který by ověřil výsledky, což vedlo k nesprávnému pronásledování nevinných občanů.

Můžete vysvětlit, jak Veritoneův AI zajišťuje přesnost generovaných stop?

Veritoneův AI generuje potenciální stopy, které lidský vyšetřovatel může sledovat. Zatímco AI poskytuje vyšetřovateli užitečné nálezy a výsledky, osoba stále činí konečné rozhodnutí. Opět, případ Detroit, Michigan, ukázal, že donucovací orgány důvěřovaly pouze rozpoznávání obličeje, aby provedly práci. Toto slepé důvěra byla nakonec problematická, protože tyto modely spoléhaly na data, která vedla k demograficky nebo rasově spojeným biasům.

Kromě toho data, která Veritone zvolí pro školení svých AI motorů a modelů, jsou reprezentativní pro obsah. Před školením dat Veritone vymaže citlivé video a audio prvky ze zdrojů, jako jsou body-worn kamery, vozidla s kamerami, CCTV footage atd., nebo použije veřejně dostupná necitlivá data. Kromě toho Veritone ověří výsledky se zpětnou vazbou zákazníků pro nepřetržité zlepšování.

Jak Veritone řeší potenciál AI, aby udržoval stávající předpojatosti v datech donucovacích orgánů?

Veritone používá víceuživatelský přístup, který spolupracuje s mnoha třetími stranami, aby získal širší perspektivu, než aby se spoléhal pouze na jeden AI model. Zvláště tento přístup umožňuje Veritone standardizovat uvnitř dané kategorie AI kognice, jako je přepis, překlad, rozpoznávání obličeje, detekce objektů nebo rozpoznávání textu. Snažím se využít “moudrost davu”, Veritone může spustit stejný obsah proti několika modelům uvnitř stejné kategorie AI kognice, aby pomohla ochránit proti biasům.

Jaké kroky jsou podniknuty, aby se zajistilo, že aplikace Veritone AI neporušují práva na soukromí?

Existují dvě nejlepší postupy, které aplikace Veritone AI dodržují, aby se zajistilo, že neporušují práva na soukromí. Jedna: zákazníkova data zůstávají zákazníkova data ve všech případech. Mají právo spravovat, mazat nebo dělat cokoli s jejich daty. Ačkoli zákazníkova data běží v zabezpečeném cloudu hostovaném prostředí Veritone, zákazník si zachovává plnou vlastnictví. Dvě: Veritone nikdy nepoužívá zákazníkova data bez jejich souhlasu nebo svolení. Zvláště Veritone nepoužívá zákazníkova data k přeškolování AI modelů. Bezpečnost a soukromí jsou nejdůležitější, a zákazníci budou pracovat pouze s předem školenými modely, které používají data vymazaná všech citlivých, biometrických a osobních identifikačních informací.

Jak Veritone vyvažuje potřebu rychlého technologického pokroku s etickými úvahami a společenským dopadem?

Při vývoji AI v rychlém tempu je tendence používat co nejvíce dat a neustále je sklízet, aby se zlepšila a rozvinula. Zatímco takový přístup skutečně vede k urychlenému zrání AI modelu, otevírá různé etické, bezpečnostní a společenské obavy.

Veritone vždy hledá nejlepší AI. Během generativní AI horečky měl Veritone brzy přístup k technologii od OpenAI a dalších partnerů. Nicméně místo toho, aby se hnali vpřed a nasadili nová řešení okamžitě, zeptali se: “Jak naši zákazníci skutečně použijí AI v rámci správného použití?” Jinými slovy, po prozkoumání mise a bolestivých míst LEAs, určili, jak aplikovat Generativní AI zodpovědným způsobem, který udržuje lidi ve středu, zatímco umožňuje uživatelům dosáhnout svých cílů a překonat výzvy.

Například Veritone Investigate obsahuje privátní a síťově izolovaný velký jazykový model, který může shrnout mluvené konverzace nebo obsah. Pokud body-worn kamera zachytí incident nebo vyšetřovatel pohovorí s někým, Veritone Investigate může přepsat tento obsah a automaticky ho shrnout, což je velmi užitečné pro detektivy nebo vyšetřovatele, kteří potřebují poskytnout souhrn celého pohovoru v krátkém odstavci DA nebo státnímu zástupci. Přesto má osoba stále šanci přezkoumat AI vygenerovaný výstup, aby provedla nezbytné úpravy a změny před odesláním.

Děkuji za skvělý rozhovor, čtenáři, kteří si přejí dozvědět se více, by měli navštívit Veritone.