Cillian Kieran, Założyciel i Dyrektor Generalny Ethyca – Seria Wywiadów

Cillian Kieran, Założyciel i Dyrektor Generalny Ethyca, jest przedsiębiorcą wielokrotnym i inżynierem ds. prywatności z ponad dwudziestoletnim doświadczeniem w budowaniu firm technologicznych opartych na danych. Przed założeniem Ethyca w 2019 roku kierował agencją cyfrową CKSK przez dekadę, a następnie założył BrandCommerce, wykorzystując swoje doświadczenie w inżynierii oprogramowania, doświadczeniu użytkownika i programach danych przedsiębiorstw. W Ethyca Kieran skupił się na przekształceniu prywatności i zarządzania danymi z funkcji zgodności głównie ręcznej w infrastrukturę, która może być wbudowana bezpośrednio w sposób, w jaki organizacje budują i prowadzą technologie.

Ethyca rozwija zaufaną infrastrukturę danych, która pomaga przedsiębiorstwom odkrywać informacje poufne, zarządzać zgodami, wypełniać żądania dotyczące prywatności i egzekwować przepisy dotyczące korzystania z danych w tradycyjnych aplikacjach i systemach sztucznej inteligencji. Jej platforma jest zbudowana wokół Fides, języka zarządzania open-source, który tworzy spójną ramę dla definiowania, audytowania i egzekwowania dozwolonych użycia danych w systemach, API i potokach AI. Firma uruchamia teraz Astralis, warstwę zarządzania AI, która łączy automatyczne oceny regulacyjne z kontrolą dostępu opartą na celu, umożliwiając organizacjom określenie, dlaczego modele i agenci dostają dostęp do określonych danych i egzekwowanie tych uprawnień w czasie rzeczywistym. Ethyca twierdzi, że platforma może zmniejszyć oceny, które tradycyjnie wymagają 40 do 60 godzin pracy ręcznej, do około 20 do 40 minut, pomagając przedsiębiorstwom rozszerzać wdrożenia AI bez pozwolenia na procesy zarządzania, które stają się wąskim gardłem.

Założyłeś wiele firm przed uruchomieniem Ethyca w 2019 roku, w tym rozwinięcie CKSK w globalną agencję cyfrową świadczącą usługi dla firm z listy Fortune 500. Jakie doświadczenia podczas tej podróży przekonały cię, że zarządzanie danymi, a nie same modele AI, staną się decydującym czynnikiem wdrożenia AI w przedsiębiorstwach?

Spędziłem lata budując agencję cyfrową świadczącą usługi dla dużych przedsiębiorstw, takich jak Heineken, Sony i Pepsi, podczas złotej ery reklamy cyfrowej i mediów społecznościowych. Wiele razy obserwowałem ten sam wzorzec. Potężna technologia pojawia się, wszyscy śpieszą się ją przyjąć, a dopiero gdy jest już wbudowana w firmę, pojawiają się regulatorzy, aby ustalić ograniczenia, pozostawiając zespoły compliance, aby radzić sobie z konsekwencjami. Weźmy na przykład RODO, pierwszą prawdziwą reakcję na to, jak firmy wykorzystują dane osobowe. Regulatorzy interweniowali dopiero po tym, jak martech i media społeczne uczyniły already zebrane dane trzonem swoich modeli biznesowych. Było dla mnie oczywiste, że ten sam wzorzec powtórzy się w przypadku AI.

To, co utwierdziło moje podejrzenia, było pracą zgodności z prywatnością, którą wykonywałem w Ethyca. Budując systemy zgodności dla dużych przedsiębiorstw, zrozumiałem, że można utworzyć warstwę wokół danych firmy, która ocenia każde żądanie pod kątem trzech rzeczy: co to za dane, co wolno z nimi zrobić i jaki jest ryzyko, jeśli się to zrobi. Praca nad tym ujawniła prawdziwe ograniczenie. Przedsiębiorstwa nie mają braku danych. Mają brak warstwy zarządzania, która określa, jakie dane mogą być używane do czego. To był zakład, który postawiliśmy w 2019 roku, a od czasu pojawienia się AI stał się jeszcze bardziej istotny.

W ciągu ostatniego roku AI w przedsiębiorstwach przeszło od prostych czatbotów do autonomicznych agentów AI zdolnych do podejmowania decyzji i wykonywania działań. Jak ta ewolucja zmieniła wyzwania związane z zarządzaniem, jakie stoją przed organizacjami, i dlaczego tradycyjne podeście do zgodności nie jest już wystarczające?

Ludzie mówią o AI w przedsiębiorstwach i jej zwrocie z inwestycji, jakby wartość pochodziła z prostego podłączenia agenta do workflow. W rzeczywistości wartość pochodzi z połączenia tego agenta z szerokim zakresem systemów, aby mógł on syntetyzować dane i produkować dane wyjściowe, których żaden człowiek nie mógłby wytworzyć w takim samym czasie. Dostęp do danych jest prawdziwą wąskim gardłem.

Pułapka polega na tym, że to, co sprawia, że agent jest wartościowy, jest tym, co sprawia, że jest on również ryzykowny. Im więcej systemów łączymy, tym więcej danych zaczyna płynąć z jednej części organizacji do drugiej, a każdy z tych przepływów staje się okazją do przeniesienia danych w niewłaściwe miejsce.

Każdy z tych przepływów musi być sprawdzony: czy te dane mogą być używane w taki sposób, do tego celu, zgodnie z prawem prywatności i naszą własną polityką? Gdy jest kilka takich decyzji dziennie, osoba może je podejmować ręcznie. Gdy jest agent AI, który wysyła tysiące żądań na sekundę, staje się to niemożliwe dla człowieka. To jest moment, w którym tradycyjna zgodność się załamuje.

Aby osiągnąć zawyżone wyceny dużych firm AI, zarządzanie musi przenieść się do czasu rzeczywistego, z prędkością maszyn, w momencie, gdy dane są dostępne.

Ethyca uruchamia Astralis jako warstwę zarządzania dla AI w przedsiębiorstwach. Jakie konkretnie wyzwania klientów doprowadziły do stworzenia tej platformy, i dlaczego teraz jest odpowiedni moment, aby ją wprowadzić?

Praca nad oczyszczaniem danych dla AI nadal odbywa się w taki sam sposób, jak w 2016 roku, za pomocą wypełniania ankiet i ręcznego przeprowadzania ocen. Ten proces był już zbyt wolny dla zwykłej pracy z prywatnością, a wobec objętości przypadków użycia AI nie ma szans. Większość tego, co jest sprzedawane jako zarządzanie AI, to te same formularze i workflow z etykietą “AI”. Wypełnianie formularza to nie zarządzanie. Czego brakuje, to oprogramowanie, które wykonuje pracę zarządzania, a nie tylko tworzy rekord czynności wykonanej ręcznie. To właśnie zbudowaliśmy w Astralis.

Popyt, na który odpowiadamy, pochodzi od zespołów, które zostały poinstruowane, aby szybko i bezpiecznie wdrożyć AI, a obecnie nie są w stanie tego zrobić. Agenci wchodzą do produkcji szybciej, niż jakikolwiek zespół może za tym nadążyć, a pytanie, które regulatorzy zadają, się zmieniło. Dawniej chodziło o to, czy masz politykę. Teraz chodzi o to, czy możesz udowodnić, że polityka została wykonana w odniesieniu do konkretnych danych, do konkretnego celu. Większość firm może odpowiedzieć na pierwsze pytanie. Bardzo niewiele może odpowiedzieć na drugie.

Analitycy z Gartnera przewidują, że średnia firma z listy Fortune 500 może uruchomić 150 000 agentów AI do 2028 roku, w porównaniu z zaledwie 15 w 2025 roku. Jak liderzy przedsiębiorstw powinni przemyśleć zarządzanie w świecie, w którym agenci autonomiczni mogą przewyższać liczbę pracowników, którzy mają dostęp do danych?

Do 2028 roku agenci, którzy będą mieli dostęp do danych firmy, będą liczniejsi niż pracownicy, którzy będą mieli do nich dostęp. Kiedy aktorzy, którzy używają Twoich danych, są w większości maszynami, kto ponosi odpowiedzialność? Stary model umiejscawia odpowiedzialność w ostatecznym zatwierdzeniu przez człowieka, ale gdy większość tych decyzji nie jest podejmowana ani przeglądana przez człowieka, odpowiedzialność musi się przenieść z ludzi na systemy.

Sektor bankowy uczynił ten krok już dawno temu. Nie ufamy bankowi, bo kasjer liczy banknoty ręcznie. Ufamy, bo kontrola jest słuszna, a są ludzie odpowiedzialni za jej utrzymanie. Zarządzanie danymi musi uczynić to samo. Dowód, że firma radzi sobie z danymi w sposób odpowiedzialny, przestaje być tym, że ktoś to sprawdził, a staje się tym, że system egzekwuje politykę automatycznie przy każdym użyciu i może dostarczyć dowód tego, aby odpowiedzialność była wbudowana. To pozwoli liderom biznesu skoncentrować się na tym, w czym są dobrzy: stosowaniu osądu, ustalaniu zasad i staniu za systemem.

Astralis łączy Duży Model Regulacyjny Językowy (LLRM) z Kontrolą Dostępu opartą na Celu (PBAC). Czy możesz wyjaśnić, jak te dwie technologie współpracują, aby zapewnić, że systemy AI nie tylko wiedzą, kto może uzyskać dostęp do danych, ale także dlaczego powinni mieć do nich dostęp?

Tradycyjna kontrola dostępu sprawdza, kim jesteś, i czy Twoja tożsamość pozwala Ci dotknąć określonych danych.

Ale prywatność jest inna; nie chodzi o to, kto dostaje się do danych. Osoba może być doskonale uprawniona do dostępu do zbioru danych i nadal używać go do czegoś, do czego nie miała prawa. Ważne staje się pytanie, do czego są używane te dane, i czy ten cel jest dozwolony. To właśnie PBAC odpowiada i egzekwuje.

Trudna część polega na tym, że cel nie jest faktami technicznymi, które można odczytać z bazy danych. Zależy od tego, co robi Twoja firma, co obiecałeś klientom i co pozwala prawo. To właśnie LLRM jest do tego. Uczy się, jak Twoja firma działa, a następnie przechodzi przez przepisy, które się do niej stosują. Wynikiem jest jasna determinacja tego, do czego każdy rodzaj danych może i nie może być użyty. PBAC następnie egzekwuje tę determinację w punkcie dostępu. LLRM rozumie, PBAC działa.

Wasze ogłoszenie o uruchomieniu mówi, że oceny AI mogą być zmniejszone z 40 do 60 godzin pracy ręcznej do zaledwie 20 do 40 minut. Jakie części obecnych procesów zarządzania są najmniej efektywne, i gdzie automatyzacja tworzy największe zyski?

Większość tych 40 do 60 godzin nie jest spędzana na czymś, co wymaga ludzkiej oceny. Są spędzane na montażu. Ktoś ręcznie mapuje dane, trzyma je w arkuszu kalkulacyjnym, a następnie śledzi kontekst w zespołach. Do momentu, gdy wszystko to zostanie zebrane, rzeczywista ocena, część, która wymaga ludzkiej myśli, jest niewielką częścią pracy. Reszta to praca profesjonalisty jako agenta zbierającego informacje, które firma już posiada, tylko że są one rozproszone w zespołach.

Frustrujące jest to, że praca ta nie pozostaje zakończona. Ocena jest jednorazowym zdjęciem, ale przypadki użycia AI nie przestają pojawiać się. Nowe pojawiają się ciągle, a każdy z nich wymaga własnej oceny. Zatem ręczny proces nie jest tylko wolny raz, ale jest permanentnie w tyle za tempem, w jakim firma chce działać, i stanie się niezarządzalny, gdy firmy

Zyski efektywności pochodzą z zmiany tego, kto robi co. System sam pobiera metadane, więc nikt nie musi śledzić kontekstu ręcznie. On tylko przedstawia pytania, które człowiek może naprawdę odpowiedzieć – prawdziwe wezwania do oceny – zamiast zmuszać osobę do przetworzenia pól, które maszyna może wypełnić. A ślad audytowy buduje się samoczynnie, zamiast kogoś, kto później zapisuje to z pamięci. To tam 40 godzin staje się 40 minutami.

Jednym z bardziej uderzających twierdzeń jest to, że duże amerykańskie instytucje finansowe przetwarzają około 6 000 żądań zarządzania na sekundę za pomocą Astralis. Co nauczyło cię to, co działo się na takiej skali, o przyszłych wymaganiach infrastrukturalnych dla AI w przedsiębiorstwach?

Lekcja polega na tym, że zarządzanie nie może być już oddzielnym krokiem. Przy 6 000 decyzjach na sekundę musi to dziać się w samym kanale danych, z taką samą szybkością, co zapytania i modele, które zarządza. Dla AI zarządzanie musi być infrastrukturą: zawsze włączone i zawsze w linii, a nie raportem wygenerowanym po stronie. Musi to dziać się szybko, bo jeśli zarządzanie jest wolne, staje się tym, co ludzie pomijają, aby dotrzymać terminu.

Regulacje AI ciągle ewoluują szybko zarówno w Stanach Zjednoczonych, jak i w Europie. Jak zbudować platformę zarządzania, która może dostosować się do zmieniających się ram prawnych bez zmuszania przedsiębiorstw do ciągłych ręcznych aktualizacji polityki?

Błąd, który popełniają większość narzędzi do zgodności, polega na tym, że wbudowują reguły w produkt, więc gdy prawo się zmienia, są uwięzieni, czekając, aż dostawca przebuduje narzędzie. Astralis jest zbudowany w odwrotny sposób. U jego podstawy znajduje się wspólny język do opisywania danych i ich użycia, i nie zawiera żadnych reguł. Reguły znajdują się oddzielnie, w warstwie polityki powyżej. LLRM czyta regulację, ustala, co oznacza to dla Twojej firmy, i zapisuje politykę odpowiednio. PBAC następnie egzekwuje to, co ta polityka mówi w tym momencie – więc zmiana reguł pozostawia mechanizm egzekwowania całkowicie nietknięty.

Gdy nowa regulacja pojawia się, cały wysiłek firmy może być skierowany na ustalenie, co oznacza to dla ich biznesu; żaden z nich nie idzie na rekonstrukcję systemów prywatności.

Wiele wyższych kadr zarządzających obawia się, że agenci AI mogą podejmować nieautoryzowane decyzje lub uzyskiwać dostęp do wrażliwych informacji. Jak realistyczne jest to obawy dzisiaj, i jakie praktyczne środki ostrożności powinny organizacje wdrożyć przed wdrożeniem agentów AI na dużą skalę?

To jest całkowicie realistyczne, i już się dzieje. Kalifornia ukarała Disneya 2,75 miliona dolarów, bo jego systemy nie mogły wiarygodnie egzekwować czegoś tak podstawowego, jak opty-out klienta. W ich systemach konsument, który zrezygnował na jednym urządzeniu, pozostał opty-out na innych, a instrukcje opty-out na poziomie przeglądarki nie były traktowane jako ważne żądania. Ten incydent nie został spowodowany przez agenta, który działał w sposób nieprzewidywalny, ale był to dość prosty brak pomiędzy tym, co Disney powiedział klientom, a tym, czego jego systemy były w stanie egzekwować.

Środki ostrożności, które naprawdę zapobiegają temu, są niewiele wartościowe: wiedz, jakie dane posiadasz i co się zobowiązałeś w ich sprawie, i trzymaj je wszystkie w jednym miejscu, bo większość tych awarii pochodzi z faktu, że jedna grupa nie dotrzymuje obietnic drugiej grupie.

Spójrzając w przyszłość, trzy do pięciu lat, co różnicować będzie przedsiębiorstwa, które z powodzeniem wdrożą AI, od tych, których inicjatywy AI pozostaną w fazie pilotażowej, i jaka rolę odegra zarządzanie w tworzeniu tej przewagi konkurencyjnej?

Różnica polegać będzie na tym, czy firma ma jeden system do zarządzania wszystkimi swoimi danymi, czy wybiera zarządzanie każdą bazą danych i zespołem oddzielnie. Firmy, które nadal zarządzają swoimi danymi oddział po oddziale, będą nadal napotykać przeszkody, bo AI sięga przez oddziały według projektu. Każde przedsiębiorstwo jest pouczane, aby szybko wdrożyć AI i nie skończyć w liście regulatora, a do tej pory te dwa elementy działały przeciwko sobie. Kto rozwiązuje oba problemy, zamiast godzić się na jeden, wygra dekadę.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Ethyca lub Astralis.