Przesunięcie od zdolności AI do kontroli AI

Seria wysokoprofilowych incydentów z udziałem dostawców AI z pierwszej linii sprawiła, że firmy zaczęły zadawać sobie pytanie, które do niedawna wiele z nich nie brało pod uwagę poważnie. Co się dzieje, gdy technologia, wokół której zbudowano operacje, nie jest już w pełni pod kontrolą?

Najpierw doszło do zamknięcia Anthropic, nakazanego przez rząd Stanów Zjednoczonych z zaledwie 90-minutowym wyprzedzeniem. Następnie nastąpił skandal związany z prywatnością Grok Build. Ostatnio OpenAI przyznało, że agent samodzielnie naruszył Hugging Face, co podniosło nowe pytania dotyczące zarządzania, gdy systemy AI stają się coraz bardziej zaawansowane.

Z osobna każdy incydent jest istotny. Wzięte razem, wskazują na coś większego. Przypominają nam, że AI działa w ramach systemów politycznych, relacji handlowych i środowisk regulacyjnych, na które organizacje często mają bardzo mały wpływ.

Rozmowa o ryzyku AI słusznie koncentrowała się na prywatności, zgodności i rezydencji danych. Te kwestie nadal są istotne, ale nie są już całą historią. Większym pytaniem jest teraz zależność.

Poznanie suwerenności — i czym nie jest

Zauważyłem, że rozmowa o suwerenności zmienia się w ciągu ostatniego roku. Klienci zwykle pytali, gdzie będą przechowywane ich dane. Dziś są o wiele bardziej skłonni zapytać, kto tak naprawdę kontroluje systemy, na których działa ich AI, i co się stanie, jeśli nagle stracą do nich dostęp. To trudniejsze pytanie do odpowiedzi, ponieważ suwerenność wykracza daleko poza geografię.

W swojej istocie suwerenny AI dotyczy własności: możliwości wdrożenia AI bez wprowadzania zależności, które mogłyby zagrażać wytrzymałości, ciągłości lub długoterminowej elastyczności, niezależnie od miejsca, w którym model został pierwotnie opracowany. Jednym ze sposobów, w jaki to wyjaśniam, jest porównanie agentów AI do pracowników. Stają się one coraz bardziej cyfrowymi członkami siły roboczej, przejmując odpowiedzialność za zadania, które wcześniej wykonywali ludzie. Jeśli organizacja wynajmuje tę siłę roboczą od jednego dostawcy AI, wówczas również zleca mu krytyczną część swojej operacyjnej zdolności.

To nie oznacza, że każda organizacja musi władać każdą częścią stosu AI. Moc i infrastruktura fizyczna znajdują się na dole, następnie obliczenia, następnie same modele, a na końcu aplikacje uruchamiane na górze. Każda warstwa może być własnością innej organizacji. Na jednym końcu spektrum dane pozostają w kraju, podczas gdy wszystko inne jest kontrolowane gdzie indziej. Dalej, modele działają lokalnie, ale na infrastrukturze, którą ktoś inny obsługuje. Dalej jeszcze, organizacje uruchamiają same modele. Na najgłębszym końcu kontrolują również infrastrukturę. Tam, gdzie organizacja decyduje się usytuować na tym spektrum, zależy od tego, czego nie może stracić.

Rząd, który prowadzi klasyfikowane obciążenia, naturalnie potrzebuje więcej kontroli niż większość firm komercyjnych. Szpital nie musi koniecznie władać centrum danych, ale musi mieć pewność, że systemy wspierające opiekę nad pacjentami nie mogą nagle stać się niedostępne z powodu decyzji podjętych przez stronę trzecią, tysiące mil away.

Suwerenność musi być weryfikowalna

Im więcej organizacji mówi o suwerennym AI, tym bardziej istotne staje się odróżnienie prawdziwej suwerenności od sprytnego marketingu. Nie każdy dostawca jest przejrzysty w kwestii tego, które warstwy stosu rzeczywiście kontroluje, i jeśli wystarczająco wielu dostawców zacznie opisywać swoje produkty jako suwerenne, słowo to może szybko stracić swoją wartość w sposób podobny do tego, w jaki roszczenia związane z zrównoważonym rozwojem straciły swoją wartość w innych branżach.

To właśnie tam pojawia się idea “suwerenności washing”. Rozwiązanie jest reklamowane jako lokalnie kontrolowane, ponieważ umowa jest krajowa, zespół wsparcia ma siedzibę w kraju, a dane nigdy nie opuszczają granic państwa, podczas gdy infrastruktura pod spodem jest nadal obsługiwana przez zagranicznego dostawcę. Brytyjska organizacja mogłaby kupić suwerenny serwis AI od brytyjskiego dostawcy i nadal znaleźć się w sytuacji, w której systemy, od których zależy, ostatecznie znajdują się na amerykańskiej infrastrukturze.

To niekoniecznie jest złym wyborem. Dla wielu organizacji może to być właściwa równowaga między kosztami, zdolnościami i kontrolą. Ale powinno to być świadoma decyzja.

Wyzwania wynajmowania a korzyści z posiadania

Łatwo zrozumieć, dlaczego amerykańscy dostawcy AI z pierwszej linii stali się domyślnym wyborem. Oferowali najbardziej zaawansowane modele, inwestowali ciężko w infrastrukturę i stale poruszali się szybciej niż reszta rynku. W połączeniu z rosnącymi obawami geopolitycznymi dotyczącymi chińskiego AI, stali się naturalnym wyborem dla organizacji, które chcą wdrożyć AI na dużą skalę.

To momentum rozprzestrzeniło się daleko poza wczesnymi użytkownikami. Nawet w branżach o wysokim stopniu regulacji, gdzie nowa technologia jest zwykle bardziej skrupulatnie badana, wdrożenie przyspieszyło. 75% firm finansowych aktywnie korzysta z AI. Tak samo robi 79% prawników, podczas gdy 65% klinicystów mówi, że ich korzystanie z narzędzi AI dostarczanych przez organizację wzrosło w ciągu ostatniego roku. Dla wielu z tych organizacji wybór amerykańskiego dostawcy po prostu miał sens ekonomiczny.

Rozmowa staje się bardziej nuansowana, gdy AI przenika głębiej w codzienne operacje. Koszt jest częścią obrazu. Ceny tokenów nadal spadają, ale wydatki na AI w przedsiębiorstwach nadal rosną, ponieważ użytkowanie przewyższa obniżki cen, przy czym 93% organizacji już przekroczyło swoje budżety AI. Odporność jest kolejnym. Jeśli zewnętrzny dostawca doświadczy awarii, zmieni warunki handlowe lub zostanie objęty interwencją rządową, organizacje prowadzące krytyczne obciążenia mają niewielką kontrolę nad wynikiem.

Posiadanie większości stosu AI zmienia oba równania. Koszty stają się bardziej przewidywalne, gdy wzrasta użytkowanie, a organizacje zyskują większą wiedzę na temat tego, jak działają ich systemy, oraz znacznie większą kontrolę nad tym, co się dzieje, gdy okoliczności się zmieniają.

Dlaczego dobra strategia wyjścia wymaga odpowiedniego partnerstwa z dostawcą

Suwerenność nie jest czymś, co organizacje mogą włączyć za jedną noc. Dla firm regulowanych przenoszenie obciążeń AI zwykle zajmuje trzy do czterech lat, a niewiele z tego czasu jest spędzane na przenoszeniu technologii. Większość czasu poświęca się na zarządzanie, zakupy i pracę operacyjną niezbędną do przeniesienia krytycznych procesów bez zakłócania organizacji.

To dlatego planowanie musi nastąpić znacznie wcześniej, zanim ktokolwiek będzie musiał opuścić dostawcę. Podczas gdy 72% firm uwzględnia suwerenny AI w swoich planach na 2026 rok, tylko około jedna trzecia ma szczegółową strategię, budżet lub plan migracji. Jest oczywiście apetyt na zmniejszenie zależności, ale znacznie mniej organizacji przemyślało, co to tak naprawdę oznacza, gdyby musiały się przenieść.

To zaczyna się od zrozumienia, które obciążenia są najważniejsze, jaki byłby koszt wyjścia i czy plany migracji zostały przetestowane przed ich potrzebą. Ten proces również zmienia sposób, w jaki oceniają dostawców. Trzy pytania zwykle mówią większość tego, co trzeba wiedzieć. Czy roszczenia suwerenności mogą być niezależnie weryfikowane, kiedy tylko klient sobie tego życzy? Czy ta weryfikacja rozciąga się na każdą warstwę stosu, czy tylko na tę wymienioną w umowie? I czy, gdyby dostawca zdecydował się na to, mógłby uzyskać dostęp do danych klienta? Jeśli odpowiedź na to ostatnie pytanie brzmi tak, to to, co jest oferowane, jest polityką, a nie gwarancją. pendently, kiedy klient sobie tego życzy? Czy ta weryfikacja obejmuje każdą warstwę stosu, czy tylko tę wymienioną w umowie? I czy, gdyby dostawca zdecydował się na to, mógłby uzyskać dostęp do danych klienta? Jeśli odpowiedź na to ostatnie pytanie brzmi tak, to to, co jest oferowane, jest polityką, a nie gwarancją.