Zahra Timsah, spoluzakladatelka a CEO společnosti I-GENTIC AI – rozhovor

Zahra Timsah, spoluzakladatelka a CEO společnosti I-GENTIC AI, je uznávaným lídrem na rozhraní technologie a podnikání, známým pro svou odbornost v oblasti inovací poháněných umělou inteligencí a digitální transformace. S kariérou, která zahrnuje vedoucí role ve společnostech MassMutual a IQVIA (IQV ), vedla velké iniciativy v oblasti umělé inteligence, governance a transformace dat, zejména v oblasti zdravotnictví a finančních služeb. Kromě své role ve společnosti I-GENTIC AI přispívá Dr. Timsah k globální governance a politice umělé inteligence prostřednictvím Světového ekonomického fóra a působí jako výkonný člen společnosti Chief, což zdůrazňuje její vliv na odpovědné přijetí umělé inteligence napříč odvětvími.

I-GENTIC AI je podnikový platformou pro governance, která poskytuje včasné vynucování politik napříč doménami umělé inteligence, dat, ochrany soukromí a kybernetické bezpečnosti pomocí inteligentních agentů. Jejich vlajková loď, GENIE™, překládá komplexní pravidla do vysvětřitelných a auditovatelných akcí – zajišťuje, že každé rozhodnutí je transparentní a souladné. Navržená pro vysoké odvětví, jako je zdravotnictví, finance, pojištění a veřejný sektor, společnost I-GENTIC umožňuje škálovatelnou, automatizovanou governance s lidským dohledem v kritických bodech.

Měli jste vedoucí role ve společnostech MassMutual, IQVIA a Světovém ekonomickém fóru – jak tato zkušenost ovlivnila vaše rozhodnutí založit společnost I-GENTIC a nakonec vytvořit GENIE™?

Každá role mi poskytla jiný úhel pohledu na stejnou výzvu: jak inovovat zodpovědně v prostředí s vysokou regulací?

Ve společnosti MassMutual jsem viděla, jak finanční instituce jsou často rozpolceny mezi rychlým pohybem s produkty založenými na datech a setrváním v rámci přísných pravidel souladu. Ve společnosti IQVIA jsem viděla složitost globálního zdravotnictví a life sciences, kde každá země má svá vlastní pravidla a životy pacientů závisí na důvěryhodné governance dat. Na Světovém ekonomickém fóru jsem měla místo u stolu s regulátory, tvůrci politik a CEOs a uvědomila jsem si, že bez ohledu na geografii nebo odvětví se stejný strach neustále objevuje: „Můžeme důvěřovat této technologii?“

Tyto zkušenosti mě naučily dvě věci. První, soulad není překážkou, je základem důvěry. Druhé, bez přehodnocení toho, jak je soulad spravován, inovace bude vždy zaostávat za regulací. Společnost I-GENTIC vznikla z přesvědčení, že můžeme otočit tento scénář. Naše poslední spuštění, GENIE™, existuje proto, aby přeměnilo soulad z brzdy na plynový pedál, který pohání inovace – aby podniky mohly pohybovat rychleji a bezpečněji.

Jaká byla největší raná výzva při přeměně myšlenky autonomního souladu na skutečný produkt?

Nejtěžší výzvou nebyla vlastně technologie. Byla to přesvědčení společností, že technologie je nevyhnutelná. Když jsem poprvé sdílela myšlenku, že regulace mohou být přeloženy do strojového logu a vynucovány v reálném čase, většina lidí to odmítla. Někteří se zasmáli. Řekli mi: „To je vědecká fikce, možná za 50 let.“

Nemohli vidět, co jsem viděla já: že umělá inteligence se brzy střetne se souladem. Představenstva a regulátoři nebudou pouze ptát se, „Co může umělá inteligence udělat?“ Budou se ptát, „Můžeme jí důvěřovat, aby dodržovala pravidla?“

Začala jsem jako bioložka s laboratorním stolem, pipetami a tabulkami Excel. Viděla jsem vzorce skryté v datech dlouho předtím, než se umělá inteligence stala mainstreamem. Opustit bezpečnost akademie bylo riskantní, ale věděla jsem, že svět se blíží k okamžiku, kdy důvěra v umělou inteligenci bude nezbytná.

Tato víra mě nesla přes roky skepticismu, dokud regulátoři nezačali požadovat právě tu technologii, kterou lidé dříve odmítali: produkt, který může kódovat a vynucovat pravidla v reálném čase.

Takže raná výzva nebyla prokázat technologii. Byla prokázat vizi. Jakmile lidé začali věřit, stavba produktu se stala nevyhnutelnou.

Jak GENIE™ vlastně čte a překládá regulační dokumenty do vynucovatelné logiky bez lidského kódování?

GENIE™ používá vrstvený přístup. Nejprve přijme regulační dokumenty, jako jsou zákony, politiky a SOP, a poté je rozloží na samostatné povinnosti, výjimky a podmíněné výrazy.

Místo toho, aby regulační dokumenty byly považovány za bloky právního textu, GENIE™ rozkládá je na to, co nazýváme mikro-politikami. Tyto jsou atomické pravidla, která jsou dostatečně malá na to, aby byla strojově čitelná, ale dostatečně bohatá na to, aby zachytila záměr.

Dále GENIE™ aplikuje zpracování přirozeného jazyka a sémantické analýzy, aby mapovala mikro-politiky na vynucovatelnou logiku. Není vyžadováno, aby lidský vývojář psal kód. Místo toho platforma kompiluje pravidla do strukturované logiky, která může být přímo vykonána v podnikových systémech. Myslete si to jako kompilátor pro soulad. Bere jazyk regulace a převádí ho na vykonatelné instrukce, které sedí uvnitř pracovních postupů.

Regulace jsou často vágní nebo podléhají interpretaci – jak GENIE™ zpracovává nejednoznačnost a zajišťuje, že jeho akce jsou správné?

Nejednoznačnost je realitou regulace a žádná umělá inteligence nemůže tuto pravdu vymazat. Co GENIE™ dělá, je udělat nejednoznačnost viditelnou, měřitelnou a akční. Když GENIE™ narazí na vágní jazyk, jako je „přiměřená ochrana“ nebo „přiměřený přístup“, přiřazuje se mu skóre důvěry, kontextualizuje interpretaci proti precedensu a normám odvětví a signalizuje, zda by rozhodnutí mělo být automatizováno nebo eskalováno. Podniky mohou nakonfigurovat tyto prahové hodnoty.

Zde je jednoduchý příklad: řekněme, že fintech společnost chce odeslat e-mail, který říká, že investice nabízí „zaručený růst“. GENIE™ označí toto znění jako rizikové a pošle ho k compliance officerovi místo schválení.

Stejná fintech společnost používá vícefaktorovou autentizaci pro přihlášení. GENIE™ vidí tuto akci jako splňující „přiměřenou ochranu“ s vysokou důvěrou, takže ji schválí bez lidského přezkumu.

Pokud je GENIE™ pod prahem, směruje ho k lidskému compliance officerovi. Pokud je nad prahem, jedná autonomně. Tímto způsobem GENIE™ neodstraňuje lidský úsudek. Zvyšuje ho. Zajišťuje, že šedé oblasti jsou spravovány konzistentně, transparentně a s plnou stopovatelností. Časem, jak GENIE™ přijímá regulační aktualizace a zpětnou vazbu podniků, jeho zpracování nejednoznačnosti se zlepšuje, čímž se snižuje mezera mezi pravidly na papíru a vynucováním v praxi.

Jak zajišťujete, aby podniky mohly vidět a auditovat přesně proč GENIE™ provedl konkrétní akci?

Průhlednost je nezbytná. Každá akce, kterou GENIE™ provede, generuje why-trace: strukturovaný log, který ukazuje vynucovanou politiku, přístupná data, následovaný rozhodovací proces a aplikovaný výsledek.

Tato auditní stopa je neměnná a exportovatelná. Compliance officer nebo regulátor může projít každým krokem, jako by seděl uvnitř agentova „myslícího“ procesu. Není to pouze černá skříňka, která říká „schváleno“ nebo „odmítnuto“. Je to kompletní mapa „proč“.

To znamená, že podniky GENIE™ nedůvěřují. Můžou ho ověřit, obhajovat a použít k posílení své compliance pozice před jakýmkoli regulátorem, představenstvem nebo auditorem.

Jaké záruky jsou zavedeny, aby citlivá podniková data zůstala soukromá a zabezpečená při použití vaší platformy?

GENIE™ je navržen tak, aby fungoval uvnitř podnikového prostředí. Citlivá data nikdy nemusí opustit zákazníkovo infrastrukturu. Místo centralizace dat GENIE™ nasazuje logiku vynucování na okraji, kde žijí data.

Kromě toho používáme několik vrstev ochrany: šifrování koncových bodů pro data v tranzitu a v klidu; role-based přístupový kontrolní systém, který omezuje, kdo může konfigurovat, zobrazovat nebo přepsat akce GENIE™; neměnné auditní logy pro sledování každé interakce; principy minimalizace dat, aby se dotkla pouze nezbytná data.

GENIE™ není pouze kompatibilní se standardy zabezpečení a ochrany soukromí. Je postaven s těmito standardy jako svou operační DNA.

Která odvětví nebo typy zákazníků projevily dosud největší zájem, a proč?

Zdravotnictví a finanční služby byly ranými přijímateli. Oba sektory žijí pod neustálým regulačním tlakem, oba se zabývají vysoce citlivými daty a oba se agresivně snaží přijmout umělou inteligenci.

Ve zdravotnictví organizace bojují s vyvážením HIPAA, požadavků FDA a vznikajících pokynů pro umělou inteligenci, zatímco stále inovují v oblasti precizního lékařství a digitálního zdraví. Ve finančních službách instituce čelí dvojí výzvě: nasazují umělou inteligenci pro hodnocení úvěrů, detekci podvodů a obchod, zatímco zároveň prokazují regulátorům, že modely jsou vysvětřitelné, spravedlivé a důvěryhodné.

Co obě odvětví spojuje, je cena nesouladu. Je měřena nejen ve formě pokut, ale i v poškození pověsti a v některých případech existenčním rizikem. Proto tato odvětví nejsou pouze intéressována o GENIE™, jsou hladová po něm. Digitální compliance officer na každém kroku inovací znamená méně starostí, že každý krok může porušit standardy souladu.

Jak odlišujete společnost I-GENTIC od stávajících nástrojů pro compliance a governance, které jsou již na trhu?

Většina nástrojů pro governance dnes je reaktivní. Provedou audity po skutečnosti, generují dashboardy nebo poskytují statické kontroly, které nemohou držet krok se změnami. GENIE™, na druhé straně, je proaktivní.

Sedíme uvnitř podnikových pracovních postupů a vynucujeme compliance dynamicky, v reálném čase. Místo toho, aby říkali, „Toto se pokazilo minulý kvartál“, GENIE™ zabrání porušením, než k nim dojde. Také sjednocujeme governance umělé inteligence, dat, ochrany soukromí a kybernetické bezpečnosti na jedné platformě místo toho, aby je léčily jako izolované.

To není pouze inkrementální zlepšení. Je to paradigmatický posun. Přecházíme od compliance jako retrospektivy k compliance jako prospektivy. A to je to, co činí společnost I-GENTIC jedinečnou.

Pokud GENIE™ provede automatizovanou změnu, kterou regulátoři později zpochybní, jak pomáháte zákazníkům spravovat toto riziko?

Rozpoznáváme, že regulace není statická. Evoluuje a někdy se interpretace mění. Proto GENIE™ vždy uchovává kompletní, vysvětřitelný záznam svých akcí.

Pokud regulátor zpochybní změnu, zákazníci mohou předložit přesnou logiku, kterou GENIE™ použil, verzi regulace v době změny a zdůvodnění pro rozhodnutí. Pokud se regulace od té doby změnila, GENIE™ může okamžitě aktualizovat svou logiku vynucování napříč podnikem.

V praxi to znamená, že GENIE™ nedělá pouze akci. Poskytuje důkaz, stopovatelnost a adaptabilitu, kterou zákazníci potřebují, aby stáli za těmito akcemi s důvěrou, i tváří v tvář se měnícím se regulačním očekáváním.

Pohledem na pět let dopředu, jak vidíte agentic AI transformující compliance a governance napříč odvětvími?

Pět let od teď předpovídám, že agentic AI bude stejně nezbytná pro podniky, jako jsou dnes systémy ERP. Každé nasazení podnikové umělé inteligence bude mít governance agenty vedle sebe.

Compliance již nebude čtvrtletní kontrolní seznam. Bude kontinuální, kontextuální a adaptivní. Agentic AI umožní podnikům fungovat v reálném čase s regulátory místo toho, aby vždy hráli catch-up.

Nejdůležitěji, compliance se změní z břemene na zdroj konkurenční výhody. Společnosti, které mohou prokázat, v reálném čase, že jejich systémy jsou důvěryhodné, budou pohybovat se rychleji, lépe se spojují a dříve vyhrávají trhy. V tomto budoucím světě governance není překážkou. Je to enabler inovací. To je svět, směrem ke kterému společnost I-GENTIC a GENIE™ směřují.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit I-GENTIC.