Liderzy opinii
CieÅ AI byÅ Åatwym problemem: Prawdziwe ryzyko to ukryte agenci w zatwierdzonym oprogramowaniu

Dwa lata temu, cieÅ AI oznaczaÅ, Åže pracownicy wklejali dane klientÃģw do ChatGPT. RozwiÄ zanie, w ogÃģlnym zakresie, byÅo zarzÄ dzalne: odkryÄ narzÄdzia, uznaÄ dobre, zablokowaÄ zÅe, przeszkoliÄ ludzi. WiÄkszoÅÄ organizacji jest gdzieÅ w poÅowie wykonywania tego planu, gdzie 61% juÅž spotkaÅo siÄ z cieniem AI w swoich Årodowiskach i plan w wiÄkszoÅci dziaÅa.
JednakÅže, ten opis nie odnosi siÄ juÅž do problemu. CieÅ AI przesunÄ Å siÄ poza problem behawioralny do problemu architektonicznego. Tradycyjna kontrola nie moÅže nadÄ ÅžyÄ za nowoczesnym krajobrazem, w tym agentami AI wbudowanymi przez dostawcÃģw i pracownikami poÅÄ czonymi z systemami z odziedziczonÄ toÅžsamoÅciÄ , co sprawia, Åže toÅžsamoÅÄ jest jedynym prawdziwym punktem kontrolnym.
Dwa cienie, ktÃģrych nie obserwujesz
InteresujÄ ce pytanie w 2026 roku nie brzmi: jaki narzÄdzie AI otworzyÅ pracownik. To, jaki agent AI cichy dostawca wysÅaÅ w ramach aktualizacji produktu w zeszÅym kwartale i jakie uprawnienia odziedziczyÅ od osoby, ktÃģra go zainstalowaÅa.
CieÅ AI kiedyÅ byÅ kwestiÄ zachowania. MogliÅmy go zobaczyÄ, nazwaÄ i ustaliÄ politykÄ. Wersja, ktÃģra siÄ rozprzestrzenia, jest strukturalna. PrzyszedÅ przez oprogramowanie, ktÃģre juÅž zatwierdzono, dziaÅa pod poÅžyczonymi poÅwiadczeniami, w procesach, ktÃģre juÅž zbadano. CieÅ nie jest juÅž behawioralny, jest architektoniczny. Pracownicy wciÄ Åž sÄ na zdjÄciu, ale przesunÄli siÄ od korzystania z AI do wdraÅžania jej: ÅÄ czÄ c agenci z systemami, do ktÃģrych majÄ juÅž dostÄp, i robiÄ to przez interfejsy zaprojektowane do tego, aby to byÅo proste. Polityki napisane dla pierwszego zachowania nie dotykajÄ drugiego.
To dlatego âzakazaj goâ nie byÅo prawdziwÄ debatÄ . CISO, ktÃģrzy wyprzedzili cieÅ AI, sankcjonujÄ c narzÄdzia przedsiÄbiorstw i pchajÄ c pracownikÃģw w stronÄ zarzÄ dzanych alternatyw, wygrali tÄ rundÄ i odkryli, Åže nastÄpna byÅa juÅž w toku i miaÅa dwa wektory, a nie jeden. Pierwszy to, co zatwierdzeni dostawcy wysyÅajÄ do produktÃģw juÅž w produkcji: wbudowane modele, tryby agenckie, nowe integracje, ktÃģre przybyÅy w notatce o wydaniu, ktÃģrej nikt nie przeczytaÅ. Drugi to, co pracownicy sami ÅÄ czÄ : LLM poÅÄ czony z CRM przez automatyzacjÄ bez kodu, niestandardowy GPT, ktÃģry otrzymaÅ klucz API do magazynu danych, poÅÄ czenie MCP z asystenta biurkowego do systemu produkcyjnego. Obie prowadzÄ do tego samego wyniku, w tym agenci dziaÅajÄ cy pod zatwierdzonymi poÅwiadczeniami, wobec zatwierdzonych systemÃģw, w procesach, ktÃģre nigdy nie przeszÅy przez ÅžadnÄ kontrolÄ, aby je wykryÄ. Zakup moÅže zobaczyÄ pierwszy wektor i caÅkowicie przegapiÄ drugi.
Warto byÄ szczerym w sprawie tego, jak nierÃģwnomiernie pierwsza runda byÅa wygrana. DziewiÄÄ na dziesiÄÄ organizacji planuje zwiÄkszyÄ budÅžet IT zwiÄ zany z AI, a wiele z nich planuje szersze rozszerzenie na operacje IT w ciÄ gu najbliÅžszych 6-24 miesiÄcy. Wydatki pÅynÄ w stronÄ inteligentnych moÅžliwoÅci. Kontrole doganiajÄ o cal. To niedopasowanie jest problemem, a nie efektem ubocznym.
ObwÃģd zawsze byÅ ludzki
Model myÅlowy, ktÃģry dziaÅaÅ dla pierwszej fali, nie dziaÅa dla tej. CieÅ AI jako zachowanie pracownika zakÅadaÅ, Åže czÅowiek podejmowaÅ decyzjÄ, na ktÃģrÄ zespÃģÅ bezpieczeÅstwa mÃģgÅ wpÅynÄ Ä. CieÅ AI jako architektura dostawcy usuwa tÄ decyzjÄ. Model, ktÃģry napisaÅ e-mail, agent, ktÃģry zaplanowaÅ spotkanie, asystent, ktÃģry podsumowaÅ dokument i przesÅaÅ go dalej. Åŧaden z nich nie wymagaÅ, aby pracownik zrobiÅ cokolwiek poza kontynuowaniem korzystania z oprogramowania, ktÃģre im powiedziano, aby uÅžywaÄ.
Prawdziwa odpowiedÅš brzmi, Åže obwÃģd, ktÃģry wiÄkszoÅÄ programÃģw bezpieczeÅstwa wciÄ Åž broni, byÅ obwodem ludzkiej akcji. Pracownicy otwierajÄ cy narzÄdzia, pracownicy udzielajÄ cy dostÄpu, pracownicy podejmujÄ cy decyzje, na ktÃģre zespÃģÅ bezpieczeÅstwa mÃģgÅ wpÅynÄ Ä. Ten obwÃģd znika w dwÃģch kierunkach jednoczeÅnie. Od gÃģry, dostawcy wysyÅajÄ agenci do zatwierdzonych produktÃģw szybciej, niÅž jakikolwiek proces przeglÄ du moÅže nadÄ ÅžyÄ. Od doÅu, pracownicy wychodzÄ z roli uÅžytkownika i wchodzÄ w rolÄ integratora, ÅÄ czÄ c agenci z systemami przez interfejsy, ktÃģre zostaÅy zaprojektowane do samodzielnego obsÅugi i nigdy nie zostaÅy przygotowane do kontroli.
Jedyne miejsce, gdzie moÅžna jeszcze szukaÄ
ToÅžsamoÅÄ jest wÅaÅciwym punktem kontrolnym, ale ramy muszÄ siÄ przesunÄ Ä. Konwencjonalne sformuÅowanie mÃģwi âtoÅžsamoÅÄ jest nowym obwodemâ, poniewaÅž uÅžytkownicy sÄ wszÄdzie, urzÄ dzenia sÄ wszÄdzie, a oprogramowanie jako usÅuga jest wszÄdzie. To byÅo prawdÄ dekadÄ temu, teraz jest to podstawa. Wersja, ktÃģra ma znaczenie w 2026 roku, jest inna: toÅžsamoÅÄ jest jedynym miejscem, gdzie moÅžna zobaczyÄ, co AI tak naprawdÄ robi, poniewaÅž w momencie, gdy to robi, granica narzÄdzia zostaÅa juÅž przekroczona. Agent dziaÅa pod poÅžyczonymi poÅwiadczeniami. Czyje, z jakim zakresem, wobec jakich danych, na czyjÄ autoryzacjÄ sÄ jedynymi pytaniami, ktÃģre dajÄ uÅžyteczny Ålad audytowy. Kontrola na poziomie narzÄdzia nie moÅže odpowiedzieÄ na te pytania, poniewaÅž narzÄdzie nie jest juÅž jednostkÄ analizy.
NiÅžej niÅž 90% liderÃģw IT juÅž rozpoznaje, Åže ujednolicenie ma bezpoÅredni wpÅyw na ich zdolnoÅÄ do wdroÅženia i skalowania AI w sposÃģb bezpieczny. Trudniejsze pytanie brzmi, co ujednolicenie oznacza na poziomie kontroli. Nie moÅže to byÄ po prostu mniej paneli. Oznacza to pojedynczÄ tkaninÄ toÅžsamoÅci, w ktÃģrej kaÅždy aktor, czy to ludzki, konto usÅugi, agent, wbudowany model, jest przydzielony, ograniczony, monitorowany i wycofany przez ten sam zestaw mechanizmÃģw. Cokolwiek poniÅžej tego daje wyglÄ d skonsolidowanej kontroli, podczas gdy w rzeczywistoÅci jest to tylko fragmentaryczne egzekwowanie.
Twoja recenzja dostawcy ma datÄ waÅžnoÅci
Niestety, recenzja dostawcy jest waÅžna tylko przez jakiÅ czas. To ma niekomfortowe implikacje dla struktury programÃģw bezpieczeÅstwa. WiÄkszoÅÄ komitetÃģw ds. zarzÄ dzania AI jest zorganizowana wokÃģÅ przeglÄ du narzÄdzi, z dostawcami, ktÃģrzy przychodzÄ i sÄ oceniani, sankcjonowani lub odrzucani, aby dostaÄ siÄ do rejestru. Ten proces zakÅada, Åže zachowanie narzÄdzia w momencie sankcji jest zachowaniem narzÄdzia w produkcji. Dla oprogramowania z wbudowanym AI ten zaÅoÅženie jest zÅamany zanim atrament wysechÅ. Dostawca wyÅle nowy model, nowy tryb agenta, nowÄ integracjÄ, a przeglÄ d zarzÄ dzania, ktÃģry zostaÅ zatwierdzony szeÅÄ miesiÄcy temu, opisuje teraz produkt, ktÃģry nie istnieje.
Ze sprzÄtu na toÅžsamoÅÄ
Programy, ktÃģre siÄ utrzymajÄ , to te, ktÃģre przenoszÄ kontrolÄ ze sprzÄtu na toÅžsamoÅÄ. KaÅžda akcja wobec Twoich danych, przez kaÅždego aktora, jest Åledzalna do toÅžsamoÅci z znanym wÅaÅcicielem, ograniczonym zestawem uprawnieÅ i okreÅlonym czasem Åžycia. Czy to ludzki, czy nie-ludzki, pracownik, czy agent, zatwierdzone narzÄdzie, czy tryb wbudowany, pytanie jest takie same: kim jest to, co mu wolno robiÄ i jak wiemy, kiedy to powinno przestaÄ byÄ prawdÄ ? Programy, ktÃģre mogÄ odpowiedzieÄ na te pytania, nie muszÄ wygrywaÄ wyÅcigu sankcjonowania narzÄdzi. Programy, ktÃģre nie mogÄ , bÄdÄ graÄ w catch-up z dostawcami i pracownikami, ktÃģrzy wysyÅajÄ szybciej, niÅž jakikolwiek proces przeglÄ du moÅže siÄ poruszaÄ.
CieÅ AI jako kategoria nie znika. SzczegÃģlnie z nowÄ erÄ agenckiej siÅy roboczej, 72% organizacji juÅž ma agenci AI w produkcji. Zamiast tego, staje siÄ mniejszÄ czÄÅciÄ wiÄkszego problemu. Organizacje, ktÃģre wydajÄ nastÄpny cykl budÅžetowy na odkrycie narzÄdzi i politykÄ sankcjonowania, sÄ tymi, ktÃģre rozwiÄ zujÄ problem z 2024 roku na harmonogramie 2026. Te, ktÃģre wydajÄ go na instrumentacjÄ warstwy toÅžsamoÅci dla ludzi, agentÃģw, nieÅadu miÄdzy nimi, sÄ rozwiÄ zujÄ cym problem, ktÃģry naprawdÄ bÄdÄ mieli.
Pierwsza fala cienia AI nauczyÅa zespoÅy bezpieczeÅstwa, Åže nie mogÄ uciec przed ciekawoÅciÄ pracownikÃģw. Druga fala nauczy ich, Åže nie mogÄ uciec przed prÄdkoÅciÄ dostawcÃģw ani przed pomysÅowoÅciÄ pracownikÃģw. Obie lekcje wskazujÄ na ten sam wniosek. Jednostka zarzÄ dzania nigdy nie byÅa narzÄdziem. Zawsze byÅa toÅžsamoÅciÄ dziaÅajÄ cÄ przez niego.












