Liderzy opinii

Dlaczego firmy powinny zarządzać AI w oparciu o wartości

Isabella Grandi
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyRamy zarządzania AI oparte na wartościach pozwalają firmom działać globalnie bez…
Zobacz więcej
  • Ramy zarządzania AI oparte na wartościach pozwalają firmom działać globalnie bez konieczności przebudowy systemów dla każdej jurysdykcji.
  • Przyjęcie sześciu kluczowych wartości, takich jak rozliczalność i uczciwość, buduje zaufanie społeczne i spełnia najwyższe standardy etyczne.
  • Silne zarządzanie AI tworzy wartość biznesową, umożliwiając szybsze wejście na rynek i redukując ryzyko w wielu regionach.

We wrześniu 2025 roku wszystkie państwa członkowskie Organizacji Narodów Zjednoczonych po raz pierwszy spotkały się, aby omówić międzynarodowy ład zarządzania sztuczną inteligencją. Wiele z nich było ponownie reprezentowanych w lutym podczas AI Impact Summit w Delhi. Wydarzenie doprowadziło do powołania dwóch nowych organów zajmujących się zarządzaniem AI, ale w najlepszym razie było sukcesem symbolicznym.

Nowe mechanizmy ONZ zaprojektowano tak, by umożliwiały osiągnięcie konsensusu. Unikają więc spornych obszarów, takich jak wojskowe zastosowania AI, a przy tym nie mają jasno określonych źródeł finansowania ani uprawnień do egzekwowania decyzji. Doświadczonych obserwatorów nie powinno to dziwić. Współczesna ONZ nie potrafi działać szybko ani zapewnić powszechnego przestrzegania swoich decyzji, co sprawia, że trudno na tym forum doprowadzić do rzeczywistych zmian.

Wpisuje się to w dobrze znany schemat. Mimo wieloletnich, rozproszonych prób osiągnięcia konsensusu w sprawie regulacji AI nie zawarto istotnych porozumień międzynarodowych. Powstała luka, w której poszczególne państwa i bloki musiały opracować własne przepisy. Tymczasem skuteczne zarządzanie AI jest niezbędne, jeśli chcemy, by była szeroko stosowana, cieszyła się zaufaniem społecznym i przynosiła trwałe korzyści społeczne i gospodarcze

Prowizoryczne rozwiązania i ciągłe poprawki

Dla globalnych firm tworzących i eksploatujących systemy AI brak wspólnych, uzgodnionych mechanizmów zarządzania stanowi problem. Chcą wdrażać te systemy na całym świecie, ale nie ma dwóch jurysdykcji stosujących dokładnie taki sam zbiór zasad. Muszą więc stworzyć ogólne ramy zarządzania swoim systemem, a następnie przebudowywać je od podstaw w każdym kraju, w którym działają, aby zapewnić zgodność z miejscowym prawem i regulacjami. Powoduje to ogromny nakład dodatkowej pracy, zwiększa koszty inicjatyw AI i ryzyko opóźnień oraz ogranicza zdolność globalnych firm do osiągania korzyści skali i udostępniania skutecznych narzędzi użytkownikom na całym świecie.

Istnieje jednak alternatywa. Dla firm chcących uprościć swoje podejście najlepszym rozwiązaniem może być stworzenie ram zarządzania AI uwzględniających wspólne zasady etyczne różnych regionów i zapewniających wszędzie wysokie standardy ochrony wolności, prywatności i bezpieczeństwa jednostek. To skuteczny sposób, by firmy AI wzmacniały zaufanie społeczne do swojej technologii, poszerzały bazę klientów i wykorzystywały potencjalne korzyści AI dla społeczeństwa.

Sześć kluczowych wartości w zarządzaniu AI

Każdej organizacji zainteresowanej zarządzaniem AI opartym na wartościach proponuję sześć kluczowych wartości, którymi sami się kierujemy: rozliczalność, wyjaśnialność, przejrzystość, sprawiedliwość, bezpieczeństwo i możliwość kwestionowania decyzji.

Wybraliśmy je, ponieważ obejmują wszystkie główne obszary cyklu życia systemu AI i zostały już zapisane w różnych międzynarodowych i krajowych standardach dotyczących AI, takich jak norma Międzynarodowej Organizacji Normalizacyjnej ISO/IEC 42001 oraz podręcznik dotyczący sztucznej inteligencji dla rządu Wielkiej Brytanii.

Zacznijmy od rozliczalności, czyli wiedzy o tym, kto za co odpowiada na każdym etapie cyklu życia AI. Bez jasnego przypisania odpowiedzialności kluczowe mechanizmy kontrolne mogą zostać pominięte, ponieważ żadna osoba ani zespół nie ponosi ostatecznej odpowiedzialności. Organizacje powinny imiennie wyznaczyć osoby na stanowiskach kierowniczych, na przykład dyrektora ds. AI, odpowiedzialne za systemy AI i kluczowe etapy ich cyklu życia. Powinny stosować model zarządzania oparty na ryzyku i równie wnikliwie oceniać narzędzia zewnętrznych dostawców oraz te opracowane wewnętrznie. Oznacza to, że muszą rozumieć warunki dostawców, ograniczenia i ich odpowiedzialność prawną równie dobrze jak własne systemy.

Organizacja Współpracy Gospodarczej i Rozwoju, OECD, trafnie ujmuje to w swoich wytycznych dotyczących wzmacniania rozliczalności w dziedzinie AI, zalecając organizacjom tworzenie „mechanizmów włączających proces zarządzania ryzykiem AI w szersze zarządzanie organizacją i rozwijających kulturę zarządzania ryzykiem zarówno wewnątrz organizacji, jak i w całym łańcuchu wartości AI”.

Następna jest wyjaśnialność. Organizacje powinny potrafić pokazać, jak system AI dochodzi do decyzji. Wymaga to mechanizmów dokumentowania i śledzenia procesu decyzyjnego oraz przejrzystej dokumentacji projektu systemu, danych treningowych i procesów podejmowania decyzji. Łącznie pozwala to zespołom zrozumieć pochodzenie i drogę informacji od powstania systemu aż po jego wdrożenie.

Sprawiedliwość polega na zapewnieniu, że systemy AI dają sprawiedliwe rezultaty i nie powielają ani nie wzmacniają istniejących uprzedzeń. Bez celowych kontroli systemy mogą wyrządzać szkody przez stronnicze wyniki, szczególnie w obszarach o dużym znaczeniu, takich jak rekrutacja, opieka zdrowotna i wymiar sprawiedliwości w sprawach karnych. Aby ograniczyć te zagrożenia, organizacje powinny wprowadzić mechanizmy wykrywania uprzedzeń, regularnie oceniać wyniki dla odpowiednich grup i projektować ramy zarządzania uwzględniające lokalne wymogi niedyskryminacji. W praktyce oznacza to budowanie systemów spełniających najwyższe standardy prawne, z jakimi prawdopodobnie będą musiały się zmierzyć, w tym obowiązki wynikające z brytyjskiej Equality Act 2010 oraz Karty praw podstawowych UE.

Przejrzystość ma zapewniać jasność zarówno użytkownikom, jak i organom regulacyjnym. Ludzie powinni rozumieć, kiedy stosowana jest AI, jaką rolę odgrywa w podejmowaniu decyzji i na jakich danych się opiera. Praktycznym punktem wyjścia jest ujednolicenie dokumentacji systemów AI, wspierane wewnętrznymi narzędziami, takimi jak karty modeli. Są to krótkie dokumenty dołączane do modeli uczenia maszynowego, opisujące kontekst planowanego zastosowania, szczegóły procedur oceny skuteczności i inne istotne informacje. Bez przejrzystości użytkownicy nie mogą kwestionować niesprawiedliwych rezultatów, organy regulacyjne nie mogą skutecznie interweniować, a szkodliwe skutki mogą być ukrywane.

Bezpieczeństwo oznacza ochronę systemów AI przed nieuprawnionym dostępem, manipulacją i niezamierzonym zachowaniem. Słabe zabezpieczenia mogą narażać organizacje, użytkowników i ich dane na ryzyko strat finansowych i szkód wizerunkowych. Organizacje powinny określić progi wydajności i dokładności, przeprowadzać testy obciążeniowe w realistycznych warunkach oraz wykorzystywać testy typu red team do wykrywania podatności.

Wreszcie możliwość kwestionowania decyzji zapewnia ludziom jasną i dostępną drogę do podważania decyzji opartych na AI lub odwoływania się od nich. Bez niej poszkodowani użytkownicy nie mają możliwości dochodzenia swoich praw, a problemy mogą nigdy nie zostać ujawnione ani rozwiązane. Organizacje powinny udostępniać kanały zgłaszania problemów w miejscu korzystania z systemu, wyznaczać osoby na stanowiskach kierowniczych do zarządzania skargami i zapewniać możliwość czasowego wstrzymania, przeglądu lub aktualizacji systemów, gdy zajdzie taka potrzeba.

Jakie korzyści dają ramy oparte na wartościach?

Istnieją dwa ważne powody, by stosować takie zarządzanie AI oparte na wartościach. Po pierwsze, twórcy i podmioty wdrażające systemy AI ponoszą odpowiedzialność etyczną wobec ludzi i organizacji, na które te systemy wpływają. Po drugie, jest to skuteczniejszy sposób realizowania w praktyce obiecywanych korzyści AI.

Użytkownicy systemów AI, zarówno firmy, jak i osoby prywatne, zakładają, że ich twórcy nie będą nadużywać danych osobowych ani narażać ich na zbędne ryzyko. Gdy organizacje zawodzą to zaufanie, bardzo trudno zatrzymać użytkowników. Ostatecznie ludzie nie zaakceptują wprowadzenia systemów, jeśli nie zostaną spełnione oba warunki: zaufają tym systemom i dostrzegą wyraźne korzyści, które one przynoszą. W przeciwnym razie wzrosną podziały społeczne i gospodarcze, a wiele szans stwarzanych przez tę technologię zostanie zmarnowanych.

Z kolei firmy stosujące ramy oparte na wartościach wszędzie, także w regionach o łagodniejszych wymogach zarządzania, mogą pokazać klientom, inwestorom i organom regulacyjnym, że stawiają sobie wyższe wymagania niż podstawowa zgodność z przepisami. Buduje to zaufanie, zaangażowanie i ostatecznie sukces biznesowy.

Dobre zarządzanie AI tworzy wartość, zamiast być obciążeniem związanym z przestrzeganiem przepisów. Pozwala firmom szybciej wprowadzać nowe produkty na rynek, ograniczać ekspozycję na ryzyko i z pewnością rozwijać rozwiązania na wielu rynkach.

Raport McKinsey „Stan AI” wykazał, że „nadzór dyrektora generalnego nad zarządzaniem AI… jest jednym z czynników najsilniej skorelowanych z większym, deklarowanym przez samą organizację wpływem na wynik finansowy netto dzięki wykorzystaniu przez nią generatywnej AI”, co podkreśla komercyjne korzyści takiego podejścia. W tym sensie wbudowywanie silnych ram etycznych w systemy AI jest przejawem oświeconego interesu własnego.

Niezależnie od tego wszystkiego jest to po prostu właściwe postępowanie. Naszą globalną politykę etycznej AI zbudowaliśmy wokół tej samej zasady: zaawansowane technologie muszą służyć ludziom i społeczeństwu, nie odwrotnie. Odzwierciedla to szerszą wizję Społeczeństwa 5.0, modelu innowacji skoncentrowanego na człowieku, który łączy dążenie do postępu gospodarczego z rozwiązywaniem problemów społecznych.

Jeśli nowe technologie, takie jak AI, mają sprzyjać szczęśliwszemu, bardziej harmonijnemu społeczeństwu, muszą opierać się na mocnych fundamentach etycznych. Zaczyna się to od koncentracji nie tylko na standardach, które organizacje muszą spełniać, lecz także na tych, które chciałyby osiągnąć.

Isabella Grandi jest dyrektorką ds. strategii, zarządzania i etyki w obszarze danych oraz AI w NTT DATA UK&I. Współpracuje z organizacjami przy projektowaniu i wdrażaniu odpowiedzialnej AI oraz zasad zarządzania nią, pomagając im przejść od obecnego stanu do bardziej dojrzałego modelu operacyjnego opartego na danych.

Jej praca koncentruje się na włączaniu etycznych praktyk i solidnego zarządzania ryzykiem AI do sposobu, w jaki organizacje projektują i wdrażają AI, tak aby odpowiedzialne korzystanie z niej było częścią struktur decyzyjnych oraz codziennych działań.