Co to tak naprawdę oznacza Human-in-the-loop?

Na początku XX wieku brytyjski filozof Gilbert Ryle wymyślił termin “ghost in the machine”. W swojej książce The Concept of Mind Ryle użył tej metafory, aby sprzeciwić się dualizmowi umysł-ciało, który utrzymuje, że umysł i ciało istnieją jako odrębne substancje. Dla Ryle’a ten podział był błędem, ponieważ poznanie i działanie fizyczne były nierozdzielne, częścią jednego systemu, a nie dwoma oddziałującymi częściami.

Wraz z pojawieniem się sztucznej inteligencji, podobna metafora pojawia się, gdy mówimy o użytkownikach narzędzi AI, aby zwiększyć produktywność: często używany “człowiek w pętli”. Jeśli ludzie i systemy inteligentne są teraz bardziej połączeni niż kiedykolwiek, czy budujemy bezszwankową fuzję, czy tworzymy wygodną iluzję kontroli?

Przedsiębiorstwa zależą od tego pojęcia, aby mówić o swoich narzędziach. Chociaż obiecuje zarówno innowacje, jak i pocieszenie, rzeczywistość jest często bardziej skomplikowana. Odpowiedzialność może łatwo stać się rozproszona, a odpowiedzialność trudniejsza do wyśledzenia.

Gdy systemy AI przenikają głębiej do wrażliwych dziedzin – od edukacji do wojny – stawka nie jest już abstrakcyjna. Co tak naprawdę oznacza “człowiek w pętli” i czy jest to tylko eufemizm, gdy znikają one całkowicie?

1. Człowiek w pętli jako tarcza odpowiedzialności

Używany niedbale, termin “człowiek w pętli” może być łatwym sposobem na przerzucenie odpowiedzialności bez prawdziwego zaangażowania w nią. Jak wielu zauważa, podpis człowieka na końcu procesu nie gwarantuje integralności etycznej, zwłaszcza jeśli podstawowy system jest źle zaprojektowany lub niewystarczająco zrozumiany.

Maysa Hawwash, założycielka i dyrektor generalna Scale X, napisała o tym, jak odpowiedzialność jest przerzucana i jest otwarta o tym, jak ten koncept jest często wykorzystywany. “To tak naprawdę nie różni się od innych sposobów przerzucania ciężaru.” Hawwash powiedziała Startup Beat, używając przykładu, jak menedżerowie HR często używają polityki zatwierdzania, aby przerzucić odpowiedzialność na firmę. “Jeśli masz tę politykę i ludzie ją czytają i zatwierdzają, to jako firma nie jesteś odpowiedzialna, prawda?” powiedziała.

Co wynika, to znany wzorzec w systemach korporacyjnych, gdzie odpowiedzialność jest przerzucana, a nie eliminowana. Hawwash uważa to za leniwy sposób, który unika myślenia krytycznego lub zrozumienia obszarów, w których może to wpłynąć na ludzi lub społeczności. “Tak więc przerzucasz ciężar, a potem nie ma znaczenia, czy ludzie rozumieją politykę, nie ma znaczenia, czy polityka ma sens.”

W tym ujęciu “człowiek w pętli” ryzykuje stanie się mniej o znaczącej interwencji i bardziej o procedurze pokrycia. Niebezpieczeństwo tutaj nie jest tylko semantyczne. Gdy nadzór jest redukowany do zatwierdzenia, rola człowieka staje się symboliczna, a nie istotna.

Hawwash odniosła się do niedawnego wojskowego okropieństwa – szkoły w Minab, Iran – gdzie ludzie zatwierdzili atak, ale obecność ludzkiej decyzji niekoniecznie oznaczała etyczną klarowność lub odpowiednią debatę. “Gdy jesteś w wojnie lub prowadzisz skomplikowaną operację, nie masz luksusu czasu, aby użyć człowieka w pętli jako tarczy.”

2. Projektowanie odpowiedzialności, a nie tylko nadzoru

Alternatywą nie jest porzucenie systemów człowieka w pętli, ale traktowanie ich poważnie jako zobowiązania projektowego. Oznacza to przechodzenie od symbolicznego nadzoru w kierunku celowych struktur odpowiedzialności.

“Jest to wielki wyścig, aby dostać więcej AI na rynek. Nie ma zbyt wielu myśli z perspektywy projektowej, takich jak jaki jest wpływ na społeczności, na ludzi lub na użytkowników końcowych”, powiedziała Hawwash.

Szybkość stała się dominującą zmienną konkurencyjną. W tym wyścigu odpowiedzialność jest często odraczana, a nie wbudowana. Wynikiem jest reaktywny model etyki, w którym rozwiązywanie problemów występuje po wdrożeniu, a nie przed nim.

Dostępność może przyspieszyć przyjęcie, ale również prowadzi do bardziej nasilonych konsekwencji. Systemy nie są już ograniczone do użytkowników technicznych, ponieważ mogą kształtować decyzje dla ludzi o różnym poziomie zrozumienia i kontekstu. W takim środowisku odpowiedzialność nie może być zlecona użytkownikowi końcowemu.

3. Człowiek w pętli jako dokładność i odpowiedzialność

Abhay Gupta, współzałożyciel Frizzle, oferuje bardziej operacyjną perspektywę – jedną opartą na budowaniu systemu, w którym nadzór ludzki jest zarówno praktyczny, jak i konieczny.

Jego firma powstała z konkretnego problemu: przeciążonych nauczycieli. “W mieście słyszysz o bankierach i konsultantach pracujących 70 godzin tygodniowo, ale nie słyszysz o nauczycielach pracujących tyle. Więc z ciekawości przeprowadziliśmy wywiady z setkami nauczycieli i ogólnie ocenianie było ich największym pochłaniaczem czasu.”

Zautomatyzowanie oceniania może się wydawać proste, ale złożoność odręcznych matematyk wprowadza realne ograniczenia dla AI. “Jest problem dokładności. AI nie jest idealne, więc zbudowaliśmy system człowieka w pętli. Jeśli AI nie jest pewne – jak w przypadku brudnego pisma – flaguje to do nauczyciela do przeglądu i zatwierdzenia lub odrzucenia.”

Tutaj rola człowieka nie jest tylko ozdobna. System wyraźnie identyfikuje swoją własną niepewność i kieruje te przypadki do człowieka. “Dla nas chodzi o dokładność. Zawsze będą przypadki brzegowe – może 1-3% – gdzie AI ma trudności, więc człowiek musi interweniować.”

Ten podejście przedefiniuje człowieka w pętli jako mechanizm kontroli jakości. Ale Gupta idzie dalej: “W swojej istocie AI nie jest 100% dokładne – może halucynować lub produkować błędne dane wyjściowe. Człowiek w pętli działa jako ostateczna kontrola jakości przed wynikami, które docierają do użytkownika końcowego. To również o odpowiedzialności. Ktoś musi być odpowiedzialny za dane wyjściowe, a obecnie to nadal musi być człowiek.”

Co więcej, rola człowieka zachowuje coś mniej ilościowego: relacyjny aspekt nauczania. “To również o zachowaniu ludzkiej strony nauczania. Nauczyciele mają różne style, więc pozwalamy im dostosowywać, w jaki sposób jest dostarczana informacja zwrotna”

Przedefiniowanie Człowieka w pętli

Fraza “człowiek w pętli” niesie proste pocieszenie. Sugestywnie, niezależnie od tego, jak zaawansowane stają się nasze systemy, człowiek pozostaje w kontroli i nie jesteśmy po prostu “duszą w maszynie”. Ale gdy startupy coraz częściej wdrażają AI w środowiskach o wysokich stawkach, to pocieszenie wymaga szczegółowej analizy.

Głębszym problemem jest projektowanie. Jeśli ryzyko systemu jest źle zrozumiane lub celowo zminimalizowane, wstawienie człowieka na końcu nie robi wiele, aby skorygować podstawowe błędy. Co więcej, oznacza to również definiowanie roli człowieka nie jako zabezpieczenia, ale jako integralnej części działania systemu. Człowiek w pętli nie powinien po prostu zatwierdzać wyniku. Przedsiębiorstwa powinny dążyć do umocnienia swoich pracowników, aby kształtować je, wyzwalać je i, gdy jest to konieczne, anulować je z autorytetem.