AI wciąż potrzebuje trenera, a nadzór ludzki wymaga podręcznika

AI jest wszędzie, gdzie się spojrzy, i futbol profesjonalny nie jest wyjątkiem.

NFL wprowadziło Digital Athlete, które wykorzystuje dane i AI, aby pomóc zespołom zidentyfikować scenariusze, w których zawodnicy mogą być narażeni na podwyższone ryzyko kontuzji. Łączy wideo i dane z treningów, praktyk i meczów z milionami symulacji, dając wszystkim 32 zespołom dostęp do informacji o trendach w całej lidze. Trenerzy i personel szkoleniowy wykorzystują te informacje do opracowania spersonalizowanych programów zapobiegania urazom, treningu i regeneracji.

Choć technologia „czyta” pole, trenerzy wciąż są odpowiedzialni za podejmowanie decyzji. W miarę jak organizacje rozszerzają wykorzystanie AI na procesy biznesowe, w tym zgodność i dochodzenia w miejscu pracy, potencjał automatyzacji wydaje się nieograniczony. Ale które zadania powinno wykonywać AI, w jakich warunkach i przy jakim nadzorze człowieka?

Właśnie tutaj podręcznik organizacyjny może wyznaczyć ton: oferując trenerom środki do wykorzystania narzędzi AI przy jednoczesnym utrzymaniu nadzoru ludzkiego tam, gdzie ma to znaczenie.

Przydziel AI pozycję, a nie całe pole

Dochodzenia obejmują różne poziomy ryzyka. AI może pomóc uporządkować informacje z wstępnych raportów i:

• Zidentyfikować brakujące szczegóły
• Podsumować informacje w końcowy raport
• Zbudować oś czasu
• Wydobyć wzorce, które dochodzeniowcy mogą chcieć zbadać bardziej szczegółowo

Te przypadki użycia mogą zmniejszyć ręczne sortowanie i uwolnić czas na pracę, która wymaga ludzkiego osądu.

Pamiętaj, że AI może podsumować zarzut, ale nie może zdecydować, czy jest wiarygodny. AI może wykryć niespójność, ale nie może określić, dlaczego ona istnieje. To właśnie w tym miejscu organizacje mogą popaść w problemy, po prostu używając AI bez zabezpieczeń.

Aby utrzymać nadzór, AI potrzebuje jasno określonej roli. Organizacje powinny zdecydować:

• Jakie zadania system ma wykonywać
• Do jakich informacji ma dostęp
• Jakie są granice jego działań
• W jakich sytuacjach człowiek musi przejąć kontrolę

Ramowy System Zarządzania Ryzykiem AI Narodowego Instytutu Standaryzacji i Technologii (NIST) zapewnia przydatny punkt odniesienia. Mapa drogowa NIST opisuje profile AI RMF jako sposób wykazania, jak ramy mogą być zastosowane w konkretnych sektorach, technologiach, kontekstach lub innych ustawieniach. Innymi słowy, odpowiedzialne zarządzanie AI staje się bardziej wykonalne, gdy organizacje przetłumaczą szerokie zasady na realia konkretnego przypadku użycia.

Podręcznik AI może zrobić coś podobnego na poziomie operacyjnym. Definiuje role, sytuacje i działania z precyzją.

Ludzki nadzór jest problemem projektowania systemu

Zwrot „człowiek w pętli” stał się powszechny w dyskusjach o odpowiedzialnej AI. Jednak obecność osoby gdzieś w przepływie pracy nie czyni automatycznie systemu AI dobrze zarządzanym.

NIST zidentyfikował zespół człowiek‑AI jako ważny obszar badań i wytycznych w zarządzaniu ryzykiem AI. Wśród poruszanych kwestii znajduje się to, jak ludzie interpretują wyniki generowane przez AI oraz jak nadzorują systemy AI działające w rzeczywistych środowiskach.

Nadzór ludzki nie powinien być traktowany jako tymczasowe obejście, dopóki AI nie stanie się wystarczająco zaawansowane, aby działać samodzielnie. W wielu środowiskach o wysokim ryzyku jest on częścią wymaganego architektonicznego podejścia do odpowiedzialnego wykorzystania AI w dłuższej perspektywie.

Recenzowane badanie nad nadzorem ludzkim w zarządzaniu AI wskazuje, że nadzorcy ludzcy mają zwiększyć dokładność i bezpieczeństwo, aby podtrzymać wartości ludzkie i budować zaufanie. Jednak ludzie nie zawsze są niezawodnymi nadzorcami. Skuteczny nadzór zależy od kompetencji, motywacji i projektu roli nadzorującej.

Dla dochodzeniowca, prośba o zatwierdzenie rekomendacji wygenerowanej przez AI nie wystarczy, jeśli nie posiada on niezbędnych informacji lub uprawnień do jej zakwestionowania. Podręcznik musi określić nie tylko to, że człowiek jest zaangażowany, ale także jak i kiedy ta osoba może interweniować.

Przekazanie ma taką samą wagę jak model

Istnieje kolejny problem: nawet gdy człowiek ma ostateczną władzę, sposób, w jaki AI prezentuje informacje, może wpływać na podjętą decyzję.

Badanie z 2025 roku przygotowane przez badaczy z University of California, Santa Barbara ilustruje, dlaczego projektowanie interfejsu ma znaczenie. W kontrolowanym eksperymencie z udziałem 108 uczestników w scenariuszu podejmowania decyzji medycznych, badacze przetestowali sześć form wsparcia decyzyjnego AI. Stwierdzili, że mechanizmy, w tym informacje o pewności AI, wyjaśnienia tekstowe oraz wizualizacje wydajności, poprawiły dokładność decyzji człowiek‑AI w ich eksperymencie.

Badanie podkreśla także ryzyko uprzedzenia automatycznego: ludzie mogą nadmiernie polegać na sugestiach AI, w tym na błędnych.

Eksperyment ten pokazuje, dlaczego przekazanie między maszyną a człowiekiem wymaga świadomego projektowania i testowania.

Kiedy rozciągniemy to dalej i wprowadzimy koncepcję dochodzenia, pojawia się kilka pytań:

• Czy dochodzeniowiec widzi tylko wniosek wygenerowany przez AI, czy może zbadać informacje, które stoją za nim?

• Czy system może komunikować niepewność?

• Czy jest jasne, kiedy brakuje informacji?

• Czy dochodzeniowcy mogą odrzucić wynik i udokumentować przyczynę?

To są pytania dotyczące zarówno zarządzania, jak i techniczne.

Pięć pytań, na które każdy podręcznik AI powinien odpowiedzieć

Użyteczny podręcznik AI powinien przekształcić abstrakcyjne zasady, takie jak „odpowiedzialna AI” i „nadzór ludzki”, w konkretne zasady operacyjne.

1. Co AI może robić? Organizacje powinny upoważniać konkretne zadania, a nie przyznawać szerokich uprawnień do używania AI w całym przepływie pracy.
2. Jakich informacji może używać? W dochodzeniach i zgłaszaniu nieprawidłowości organizacje potrzebują wyraźnych granic dotyczących informacji dostępnych dla systemu AI oraz sposobu ich przetwarzania.
3. Jak ludzie będą oceniać wyniki? Recenzenci ludzcy potrzebują wystarczającego kontekstu, aby zrozumieć, co system wygenerował, jego istotne ograniczenia oraz informacje niezbędne do zakwestionowania rezultatu.
4. Kiedy człowiek musi interweniować? Podręcznik powinien określić wyzwalacze eskalacji, zamiast polegać na indywidualnych pracownikach, aby decydowali, kiedy AI posunęło się za daleko.
5. Gdzie kończy się władza AI? Niektóre decyzje powinny wymagać osądu człowieka, a osoby odpowiedzialne za te decyzje muszą mieć rzeczywistą władzę, aby odrzucić, obejść lub zatrzymać technologię.

Te idee odzwierciedlone są w jednym z najważniejszych dokumentów regulacyjnych dotyczących AI. Artykuł 14 ustawy UE o AI ustanawia wymogi nadzoru ludzkiego dla systemów AI zaliczonych do wysokiego ryzyka. Mówi, że środki nadzoru powinny być proporcjonalne do ryzyka systemu, jego autonomii i kontekstu użycia. Wymaga także, aby nadzorcy potrafili zrozumieć istotne możliwości i ograniczenia, prawidłowo interpretować wyniki, być czujni na uprzedzenia automatyczne, odrzucać lub obejść wyniki oraz interweniować lub zatrzymać system.

To nie oznacza, że każde narzędzie AI używane w dochodzeniu automatycznie staje się systemem wysokiego ryzyka. Ramy te ilustrują ważną zasadę zarządzania AI. Nadzór ludzki musi zapewniać ludziom znaczące możliwości, a nie jedynie miejsce w przepływie pracy.

AI nie zastępuje trenera. Zmienia to, co trener może zobaczyć.

Digital Athlete NFL jest przekonujący nie dlatego, że pokazuje, że AI może zastąpić trenerów, ale dlatego, że ukazuje, jak zaawansowana technologia może poszerzyć zakres informacji dostępnych doświadczonym profesjonalistom.

AI może pomagać ludziom przetwarzać informacje, wydobywać to, co wymaga uwagi, i tworzyć większą spójność w powtarzalnych zadaniach. Jednak najważniejsze momenty w dochodzeniu często wymagają czegoś innego: kontekstu, sceptycyzmu, interpretacji i odpowiedzialności.

Organizacje najlepiej przygotowane do korzystania z AI będą więc zadawać więcej pytań niż to, co technologia może zautomatyzować. Określą, co powinna robić, czego nie powinna robić i jak ludzie i AI powinni współpracować.