Hype wokół zagłady wywołanej przez AI i kawiarnie AI: pytania o nadzór, których nie możemy zignorować

Czy jesteśmy skazani na zagładę? Czy AI jest świadoma? I dlaczego firmy AI otwierają kawiarnie?

Te pytania są wyraziste, niepokojące i — zwłaszcza w przypadku świadomości — naprawdę trudne. Łączy je też to, że przyciągają nas do najbardziej spekulacyjnych lub poruszających emocjonalnie wątków opowieści o AI. Tymczasem mniej widowiskowe pytania już wpływają na życie ludzi: Kto ponosi odpowiedzialność, gdy system AI wyrządza szkodę? Jakie dane i czyja praca umożliwiły jego powstanie? Na jakie decyzje powinien mieć wpływ? I kto ma prawo zabrać głos?

Nie zakładam, że każdy, kto porusza temat ryzyka egzystencjalnego, omawia świadomość maszyn lub otwiera kawiarnię, robi to po to, by uniknąć tych pytań. Każdy z tych tematów może zasługiwać na naszą uwagę sam w sobie. Ale nasza uwaga jest ograniczona. Gdy na pierwszy plan wysuwa się dramatyczna opowieść, warto zapytać, co innego zeszło nam z pola widzenia.

Urok namacalnej AI

Branża AI zaczęła nadawać swoim w dużej mierze niematerialnym produktom fizyczne adresy. Nowojorska „Zero Slop Zone” firmy Anthropic zaprosiła gości, by zwolnili tempo przy kawie, książkach oraz papierze i długopisie; Perplexity otworzyło w Seulu Cafe Curious — kawiarnię, w której AI firmy jest częścią doświadczenia. Relacje o pop-upie Anthropic i seulskiej kawiarni Perplexity opisują dwie odrębne próby wprowadzenia abstrakcyjnej technologii do zwyczajnej, towarzyskiej przestrzeni.

To ma w sobie pewien sens. Większość ludzi nie może zobaczyć modelu językowego, zajrzeć do stojącej za nim infrastruktury ani łatwo wyobrazić sobie, co dzieje się między wpisaniem polecenia a uzyskaniem odpowiedzi. Kawiarnia stanowi rodzaj fizycznego odpowiednika: pomieszczenie, filiżanka, rozmowa. Dzięki niej łatwiej zetknąć się z firmą i jej technologią — a być może także lepiej je zrozumieć.

Jest też druga warstwa tego zjawiska. Fizyczna przestrzeń sprawia, że firma staje się widoczna w lokalnej społeczności. Mówi przynajmniej: „jesteśmy tutaj, w tym miejscu, teraz”. W branży, w której produkty, zasady i oczekiwania szybko się zmieniają, może to dawać poczucie bezpieczeństwa. Widoczność nie jest jednak tym samym co odpowiedzialność. Przyjazna przestrzeń może sprawić, że technologia wyda się bardziej znajoma, ale nie wyjaśni, jak ją wytrenowano, w jakich sytuacjach działa niezawodnie ani jakie środki odwoławcze przysługują danej osobie, gdy system popełni poważny błąd.

To rozróżnienie przywodzi na myśl ideę, do której wracam od lat: doświadczenia cyfrowe nigdy nie są wyłącznie cyfrowe. Spotykają się z ludźmi w określonych miejscach, relacjach i instytucjach. Pytanie projektowe nie sprowadza się jedynie do tego, jak sprawić, by system AI wydawał się przystępny. Chodzi o to, czy dane doświadczenie pomaga ludziom zrozumieć ograniczenia systemu i zachować realną sprawczość.

Debata o świadomości — i ludzie, na których AI już wpływa

To samo rozróżnienie ma znaczenie w debacie o świadomości AI. Nie ma zgody co do tego, czy świadomość maszyn jest możliwa, jakie dowody należałoby uznać za rozstrzygające ani jak niepewność powinna kształtować nasze obowiązki. Argument Anila Setha przedstawiony w Noema pokazuje, że inteligencji i świadomości nie należy traktować jako pojęć zamiennych; niedawne doniesienia The Guardian również wyjaśniają, dlaczego kwestia ta pozostaje nierozstrzygnięta. Ta debata nie daje się sprowadzić do łatwych odpowiedzi.

Niepewność co do wewnętrznego życia maszyny nie oznacza jednak, że niepewne są pytania o skutki AI dla ludzi tu i teraz. Odpowiedzialność nie zaczyna się dopiero wtedy, gdy ustalimy, czym jest świadomość. Zaczyna się, gdy organizacje tworzą, wdrażają i czerpią zyski z systemów, które wpływają na ludzi.

Zastanówmy się nad pytaniami, które możemy zbadać już teraz. Jakich informacji użyto do trenowania systemu i w jakich warunkach? Kto przygotowuje i sprawdza jego wyniki? Jak system działa w różnych grupach? Co się dzieje, gdy wykorzystuje się go w opiece zdrowotnej, rekrutacji, edukacji lub usługach publicznych? Czy dana osoba może zakwestionować zautomatyzowaną rekomendację, skontaktować się z człowiekiem podejmującym decyzję i uzyskać rzeczowe wyjaśnienie?

To nie są hipotetyczne obawy. Przegląd badań nad stronniczością w medycznej AI opisuje, jak obciążone uprzedzeniami dane i decyzje projektowe mogą przyczyniać się do nierównego traktowania pacjentów w procesie podejmowania decyzji klinicznych. Badania nad AI i zatrudnieniem wciąż się rozwijają: analiza rynku pracy przeprowadzona przez Anthropic proponuje jeden ze sposobów mierzenia narażenia na wpływ AI, natomiast przegląd Hamilton Project przestrzega, że dowody dotyczące szeroko rozumianego wpływu na rynek pracy pozostają niepełne. Źródła te wskazują różne kierunki w kwestii tego, jakie wnioski możemy dziś wyciągać, ale oba podkreślają, że skutki należy mierzyć, zamiast zastępować dowody pewnymi siebie opowieściami.

Istnieje też związane z tym ryzyko dotyczące sposobu, w jaki mówimy o systemach. Ludzkie imiona, głosy i konwersacyjny styl mogą sprawiać, że AI wydaje się bardziej osobą niż produktem. Może to wpływać na zaufanie i na to, jak bezkrytycznie ludzie przyjmują jej odpowiedzi. Zasadne jest pytanie, czy rozmowy o świadomości lub antropomorfizujący sposób projektowania nie odwracają uwagi od organizacji, które wyznaczają cele i ograniczenia systemu. Jedna z analiz w MIT Technology Review wskazuje, że opowieści o świadomości mogą zaciemniać kwestię odpowiedzialności firm. To argument dotyczący skutków takiego ujęcia tematu — nie dowód na to, że każda osoba poruszająca tę kwestię ma ukryte motywy.

Zagłada to nie plan nadzoru

Ryzyko egzystencjalne zasługuje na poważną uwagę. Możliwość katastrofalnych skutków nie umniejsza znaczenia szkód, które mogą nastąpić w bliższej przyszłości, podobnie jak szkody w bliższej przyszłości nie stają się mniej ważne przez samą możliwość katastrofy. Nie musimy wybierać jednego horyzontu czasowego i ignorować drugiego.

Kiedy jednak cała rozmowa sprowadza się do pytania „Czy jesteśmy skazani na zagładę?”, ryzyka długoterminowe znów przesłaniają obecne szkody. Zagłada może brzmieć jak wyrok, a nie zachęta do działania: jeśli wynik jest nieunikniony, po co podejmować trud, by go zmienić? Tekst The New Yorker o kursie poświęconym ryzyku egzystencjalnemu opisuje pytanie jednego ze studentów o „budowanie katedr”: po co angażować się w budowę czegoś, co może przetrwać nas samych, jeśli wierzymy, że świat może się skończyć? Odpowiedź nie polega na tym, że ryzyko znika. Chodzi o to, że niepewność nie odbiera nam zdolności — ani odpowiedzialności — do decydowania o tym, co będzie ważne, i pomagania w kształtowaniu tego, co nastąpi.

To właśnie mam na myśli, mówiąc o filozofii „strategicznego optymizmu”. Nie chodzi o beztroskie zapewnianie, że „wszystko będzie dobrze”, ani o odmawianie spojrzenia na dowody. Chodzi o uznanie realnych zagrożeń, pracę nad ich ograniczeniem, a jednocześnie o poważne zaangażowanie w budowanie przyszłości, do której warto dążyć. Nadzieja nie jest przeciwieństwem rzetelności. Może sprawiać, że rzetelność przekłada się na działanie.

Kwestie ładu i nadzoru kryjące się za widowiskiem

Niezależnie od tego, czy organizacja kupuje narzędzie AI, tworzy je, czy opracowuje dotyczące go zasady, praktyczne pytania są mniej efektowne niż kawiarnia czy twierdzenie o świadomości — i bardziej przydatne:

• Cel: Jaki problem ma rozwiązać system i czy AI jest do tego odpowiednim narzędziem?
• Dowody: Jak system został przetestowany, także pod kątem potrzeb różnych użytkowników i mniej typowych przypadków?
• Granice: Które decyzje muszą pozostać w gestii człowieka i czego system nie potrafi zrobić?
• Odpowiedzialność: Kto odpowiada za błędy systemu i jak osoby, których one dotyczą, mogą się od nich odwołać?
• Przejrzystość: Czy ludzie mogą dowiedzieć się, kiedy wykorzystywana jest AI, i zrozumieć, jakie informacje wpłynęły na wynik jej działania?
• Bieżący nadzór: Kto monitoruje działanie systemu, zmieniające się dane i niezamierzone skutki po jego wdrożeniu?

Dokumenty ramowe, takie jak Ramy NIST dotyczące zarządzania ryzykiem związanym ze sztuczną inteligencją, oferują organizacjom uporządkowany sposób identyfikowania ryzyka i zarządzania nim na wszystkich etapach funkcjonowania systemu AI. Żadne ramy nie zastąpią osądu ani debaty publicznej, ale zarządzanie staje się bardziej konkretne, gdy jasno określono zakresy odpowiedzialności, testy i możliwości dochodzenia roszczeń.

Nadzoru wymaga także fizyczny wymiar AI. Jej działanie zależy od centrów danych, energii elektrycznej, wody, gruntów i finansowania — nie tylko od interfejsów. Doniesienia na temat struktury finansowania dużego projektu centrum danych rodzą pytania o to, jak ujawnia się ryzyko związane z infrastrukturą i kto ostatecznie je ponosi. Kawiarnia może pomóc ludziom zetknąć się z AI, ale sama nie pozwoli im zrozumieć infrastruktury, na której AI się opiera.

Korzystajmy więc z kawiarni. Zadawajmy wielkie pytania o świadomość. Traktujmy ryzyko katastrofy poważnie. A potem wracajmy do decyzji, które możemy teraz analizować i na które możemy wpływać: co powstaje, kto na tym korzysta, kto ponosi koszty i jakie zabezpieczenia są dostępne, gdy coś pójdzie nie tak.

Przyszłość nie jest wyrokiem ogłoszonym w nagłówku. To zbiór wyborów — dokonywanych przez firmy, instytucje, rządy i społeczności — które wciąż można kwestionować i zmieniać. Najważniejsze pytanie nie brzmi tylko: czy jesteśmy skazani na zagładę? Chodzi też o to, jakie warunki sprawiłyby, że AI służyłaby ludzkiemu rozkwitowi, i co jesteśmy gotowi zrobić, by te warunki urzeczywistnić.