Zahra Timsah, Współzałożyciel i Dyrektor Generalny I-GENTIC AI – Seria Wywiadów

Zahra Timsah, Współzałożyciel i Dyrektor Generalny I-GENTIC AI, jest wybitnym liderem na styku technologii i biznesu, uznawanym za swoją ekspertyzę w dziedzinie innowacji napędzanych przez sztuczną inteligencję i transformacji cyfrowej. Z karierą obejmującą stanowiska kierownicze w MassMutual i IQVIA, kierowała dużymi projektami w dziedzinie sztucznej inteligencji, zarządzania i transformacji danych, szczególnie w sektorach opieki zdrowotnej i usług finansowych. Oprócz swojego przywództwa w I-GENTIC AI, Dr Timsah przyczynia się do globalnego zarządzania i polityki sztucznej inteligencji poprzez Światowe Forum Ekonomiczne i pełni funkcję członka zarządu Chief, podkreślając jej wpływ na odpowiedzialne wdrożenie sztucznej inteligencji w różnych branżach.

I-GENTIC AI to platforma zarządzania przedsiębiorstwem, która dostarcza funkcjonalność egzekwowania polityk w czasie rzeczywistym w dziedzinach sztucznej inteligencji, danych, prywatności i cyberbezpieczeństwa przy użyciu inteligentnych agentów. Ich system flagowy, GENIE™, tłumaczy złożone reguły na działania wyjaśnialne i audytowalne, zapewniając, że każda decyzja jest przejrzysta i zgodna z przepisami. Zaprojektowany dla sektorów o wysokich stawkach, takich jak opieka zdrowotna, finanse, ubezpieczenia i sektor publiczny, I-GENTIC umożliwia skalowalne, zautomatyzowane zarządzanie z nadzorem ludzkim w punktach krytycznych.

Pełniła Pani stanowiska kierownicze w MassMutual, IQVIA i Światowym Forum Ekonomicznym – jak doświadczenie to ukształtowało Pani decyzję o założeniu I-GENTIC i stworzeniu GENIE™?

Każda z tych ról dała mi inną perspektywę na ten sam problem: jak innowować odpowiedzialnie w środowiskach silnie uregulowanych?

W MassMutual zobaczyłam, jak instytucje finansowe często są rozdarte między szybkim wprowadzaniem produktów opartych na danych a pozostawaniem w ścisłych granicach zgodności. W IQVIA zobaczyłam złożoność globalnej opieki zdrowotnej i nauk o życiu, gdzie każdy kraj ma swoje własne reguły, a życie pacjentów zależy od godnego zaufania zarządzania danymi. W Światowym Forum Ekonomicznym miałam miejsce przy stole z regulatorami, decydentami i prezesami, i zrozumiałam, że niezależnie od geografii czy branży, ten sam strach powraca: „Czy możemy ufać tej technologii?”

Te doświadczenia nauczyły mnie dwóch rzeczy. Po pierwsze, zgodność nie jest przeszkodą, lecz fundamentem zaufania. Po drugie, bez przemyślenia, jak zarządzanie zgodnością jest prowadzone, innowacje zawsze będą opóźnione w stosunku do regulacji. I-GENTIC powstał z przekonania, że możemy odwrócić ten scenariusz. Nasz najnowszy launch, GENIE™, istnieje, aby zmienić zgodność z hamulca w pedał gazu, który napędza innowacje, aby przedsiębiorstwa mogły działać szybciej i bezpieczniej.

Jaki był największy wczesny wyzwanie w przekształceniu pomysłu autonomijnej zgodności w rzeczywisty produkt?

Najtrudniejszym wyzwaniem nie było tak naprawdę technologia. Było to przekonanie firm, że technologia jest nieunikniona. Kiedy po raz pierwszy podzieliłam się pomysłem, że regulacje mogą być przetłumaczone na logikę maszynową i egzekwowane w czasie rzeczywistym, większość ludzi to odrzuciła. Niektórzy śmiali się. Powiedziano mi: „To jest science fiction, może za 50 lat.”

Nie widzieli tego, co ja widziałam: że sztuczna inteligencja zderzy się z zgodnością wcześniej, niż ktokolwiek się spodziewa. Zarządy i regulatorzy nie będą pytać tylko: „Co może zrobić sztuczna inteligencja?”, ale „Czy możemy jej ufać, aby przestrzegała reguł?”

Zaczynałam jako biolog z laboratorium, pipetami i arkuszem kalkulacyjnym Excel. Widziałam wzorce ukryte w danych długo przed tym, zanim sztuczna inteligencja stała się popularna. Opuszczenie bezpieczeństwa akademii było ryzykowne, ale wiedziałam, że świat zmierza ku momentowi, w którym zaufanie do sztucznej inteligencji będzie niepodważalne.

To przekonanie przeniosło mnie przez lata sceptycyzmu, aż regulatorzy zaczęli pytać o tę samą technologię, której ludzie się śmiali: produkt, który może zakodować i egzekwować reguły w czasie rzeczywistym.

Więc wczesne wyzwanie nie polegało na udowodnieniu technologii. Było to udowodnienie wizji. Jak tylko ludzie zaczęli wierzyć, budowanie produktu stało się nieuniknione.

Jak GENIE™ naprawdę czyta i tłumaczy dokumenty regulacyjne na egzekwowalną logikę bez kodowania przez człowieka?

GENIE™ używa warstwowego podejścia. Po pierwsze, pobiera dokumenty regulacyjne, takie jak prawa, polityki i procedury, a następnie rozdziela je na oddzielne obowiązki, wyjątki i oświadczenia warunkowe.

Zamiast traktować regulacje jako bloki tekstu prawnego, GENIE™ rozkłada je na to, co nazywamy mikro-politykami. Są to atomowe reguły, które są wystarczająco małe, aby być czytelnymi przez maszynę, ale wystarczająco bogate, aby uchwycić intencję.

Następnie GENIE™ stosuje przetwarzanie języka naturalnego i parsowanie semantyczne, aby mapować te mikro-polityki na egzekwowalną logikę. Nie wymaga to, aby ludzie-developerzy pisali kod. Zamiast tego, platforma kompiluje reguły w logiczną strukturę, która może być wykonywana bezpośrednio w systemach przedsiębiorstwa. Można to porównać do kompilatora zgodności. Bierze język regulacji i zamienia go w wykonywalne instrukcje, które siedzą wewnątrz workflow.

Regulacje są często niejasne lub podlegają interpretacji – jak GENIE™ radzi sobie z niejasnością i zapewnia, że jego działania są poprawne?

Niejasność jest rzeczywistością regulacji, i żadna ilość sztucznej inteligencji nie może wymazać tej prawdy. Co GENIE™ robi, to czyni niejasność widoczną, mierzącą i działającą. Kiedy GENIE™ napotyka na niejasny język, taki jak „rozumno bezpieczne” lub „odpowiedni dostęp”, przypisuje wynik ufności, kontekstualizuje interpretację wobec precedensu i norm branżowych, i sygnalizuje, czy decyzja powinna być zautomatyzowana czy eskalowana. Przedsiębiorstwa mogą konfigurować te progi.

Oto prosty przykład: powiedzmy, że firma fintech chce wysłać e-mail, który mówi, że inwestycja oferuje „gwarantowany wzrost”. GENIE™ flaguje tę frazę jako ryzykowną i wysyła ją do oficera compliance zamiast jej zatwierdzać.

Ta sama firma fintech używa uwierzytelniania wieloczynnikowego do logowań. GENIE™ widzi to jako spełnienie „rozumno bezpieczne” z wysokim wynikiem ufności, więc zatwierdza to bez przeglądu ludzkiego.

Jeśli GENIE™ jest poniżej progu, kieruje to do oficera compliance. Jeśli powyżej, działa autonomicznie. W ten sposób GENIE™ nie usuwa ludzkiej oceny. Uzupełnia ją. Zapewnia, że szare obszary są zarządzane w sposób spójny, przejrzysty i z pełną śladem. Z czasem, gdy GENIE™ pobiera aktualizacje regulacyjne i opinie przedsiębiorstwa, jego radzenie sobie z niejasnością się poprawia, zamykając lukę między regułami na papierze a egzekwowaniem w praktyce.

Jak zapewnić, aby przedsiębiorstwa mogły zobaczyć i audytować dokładnie, dlaczego GENIE™ podjął konkretną decyzję?

Przejrzystość jest niezbywalna. Każda decyzja, którą GENIE™ podejmuje, generuje ślad powodów: strukturalizowany log, który pokazuje egzekwowaną politykę, dostępne dane, ścieżkę decyzyjną i zastosowany wynik.

Ten ślad audytowy jest niezmienialny i wyeksportowalny. Oficer compliance lub regulator może przejść przez każdy krok, jakby siedział wewnątrz procesu myślowego agenta. To nie jest tylko czarna skrzynka, która mówi „zatwierdzone” lub „odrzucone”. To jest pełna mapa „dlaczego”.

To oznacza, że przedsiębiorstwa nie tylko ufają GENIE™. Mogą to zweryfikować, obronić i użyć do wzmocnienia swojej postawy compliance wobec każdego regulatora, zarządu lub audytora.

Jakie zabezpieczenia są w miejscu, aby zapewnić, że wrażliwe dane przedsiębiorstwa pozostają prywatne i bezpieczne podczas korzystania z platformy?

GENIE™ jest zaprojektowany do działania wewnątrz środowiska przedsiębiorstwa. Wrażliwe dane nie muszą opuszczać infrastruktury klienta. Zamiast centralizować dane, GENIE™ wdraża logikę egzekwowania na granicy, gdzie żyją dane.

Ponadto używamy wielu warstw ochrony: szyfrowania końca do końca dla danych w transporcie i spoczynku; kontroli dostępu opartej na rolach, aby ograniczyć, kto może konfigurować, wyświetlać lub anulować działania GENIE™; niezmienialne logi audytowe, aby śledzić każde interakcje; zasady minimalizacji danych, aby tylko niezbędne dane były dotykane.

GENIE™ nie jest tylko zgodny z normami bezpieczeństwa i prywatności. Został zbudowany z tymi normami jako jego DNA operacyjne.

Które branże lub typy klientów wykazały największe zainteresowanie do tej pory, i dlaczego?

Opieka zdrowotna i usługi finansowe były wczesnymi adopterami. Obie branże żyją pod ciągłym naciskiem regulacyjnym, obie zajmują się bardzo wrażliwymi danymi, i obie agresywnie wdrażają sztuczną inteligencję.

W opiece zdrowotnej organizacje walczą z równowagą między HIPAA, wymogami FDA i wytycznymi sztucznej inteligencji, a jednocześnie innowują w medycynie precyzyjnej i zdrowiu cyfrowym. W finansach instytucje stają przed podwójnym wyzwaniem wdrożenia sztucznej inteligencji do oceny kredytowej, wykrywania oszustw i handlu, a jednocześnie udowadniając regulatorom, że modele są wyjaśnialne, uczciwe i godne zaufania.

To, co łączy obie, to koszt niezgodności. Jest on mierzony nie tylko w grzywnach, ale w uszkodzeniu reputacji i, w niektórych przypadkach, ryzyku egzystencjalnym. Dlatego te branże nie są tylko zainteresowane GENIE™, są głodne go. Cyfrowy oficer compliance na każdym etapie innowacji oznacza mniej obaw, że każdy krok może naruszyć standardy compliance.

Jak odróżnić I-GENTIC od istniejących narzędzi compliance i governance, które już są na rynku?

Większość narzędzi governance dzisiaj jest reaktywna. Uruchamiają audyty po fakcie, generują pulpity, lub zapewniają statyczne kontrole, które nie mogą nadążyć za zmianą. GENIE™, z drugiej strony, jest proaktywny.

Siedzimy wewnątrz workflow przedsiębiorstwa i egzekwujemy compliance dynamicznie, w czasie rzeczywistym. Zamiast mówić: „Oto, co poszło nie tak w zeszłym kwartale”, GENIE™ zapobiega naruszeniom, zanim się wydarzą. Ujednolicamy również governance sztucznej inteligencji, danych, prywatności i cyberbezpieczeństwa pod jedną platformę, zamiast traktować je jako sily.

To nie jest tylko stopniowa poprawa. To jest zmiana paradygmatu. Przechodzimy od compliance jako wglądu wstecz do compliance jako wglądu w przyszłość. I to jest to, co czyni I-GENTIC wyjątkowym.

Jeśli GENIE™ dokonuje automatycznej zmiany, którą później regulatorzy kwestionują, jak pomaga Pani klientom zarządzać tym ryzykiem?

Rozumiemy, że regulacja nie jest statyczna. Ewoluuje, a czasem interpretacje się zmieniają. Dlatego GENIE™ zawsze zachowuje pełny, wyjaśnialny zapis swoich działań.

Jeśli regulator kwestionuje zmianę, klienci mogą przedstawić dokładną logikę, którą GENIE™ użył, wersję regulacji z tamtego czasu, i uzasadnienie decyzji. Jeśli regulacja od tego czasu się zmieniła, GENIE™ może natychmiast zaktualizować swoją logikę egzekwowania w całym przedsiębiorstwie.

W praktyce oznacza to, że GENIE™ nie tylko działa. Zapewnia dowody, ślad i adaptacyjność, które klienci potrzebują, aby stanąć za tymi działaniami z ufnością, nawet w obliczu zmieniających się oczekiwań regulacyjnych.

Patrząc pięć lat do przodu, jak widzi Pani transformację compliance i governance w różnych branżach za pomocą agentic AI?

Pięć lat od teraz, przewiduję, że agentic AI będzie tak niezbędny dla przedsiębiorstw, jak systemy ERP są dzisiaj. Każde wdrożenie sztucznej inteligencji w przedsiębiorstwie będzie miało agenci governance obok.

Compliance nie będzie już tylko sprawdzaniem co kwartał. Będzie ciągły, kontekstowy i adaptacyjny. Agentic AI pozwoli przedsiębiorstwom działać w czasie rzeczywistym z regulatorami, zamiast zawsze grać w catch-up.

Najważniejsze, compliance przestanie być przeszkodą. Stanie się źródłem przewagi konkurencyjnej. Firmy, które mogą udowodnić, w czasie rzeczywistym, że ich systemy są godne zaufania, będą działać szybciej, lepiej współpracować i wygrywać rynki szybciej. W tym przyszłym świecie governance nie jest przeszkodą. To jest katalizatorem innowacji. To jest świat, który I-GENTIC i GENIE™ budują.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić I-GENTIC.