Nie Wyrównujemy AI. Wyrównujemy Cywilizacje

Przez wiele lat głównym pytaniem w sztucznej inteligencji (AI) było, jak wyrównać modele AI z ludzkimi wartościami. Naukowcy próbowali zdefiniować reguły bezpieczeństwa, zasady etyczne i mechanizmy kontroli, które kierują decyzjami AI. Praca ta osiągnęła znaczny postęp. Ale teraz, gdy te systemy AI stają się coraz bardziej zaawansowane i rozpowszechnione, focus wyrównania zaczyna się zmieniać. To, co zaczęło się jako wyzwanie wyrównania jednego modelu do jednego zestawu instrukcji, stało się znacznie większym wyzwaniem wyrównania całych cywilizacji, które używają tych systemów na skalę globalną. AI nie jest już tylko narzędziem. Ewoluuje w środowisko, w którym społeczeństwa pracują, komunikują się, negocjują i konkurują. W rezultacie wyrównanie nie pozostaje już problemem technicznym. Stało się problemem cywilizacyjnym. W tym artykule wyjaśniam, dlaczego wyrównanie nie jest już tylko kwestią modeli i dlaczego musimy zacząć myśleć w kategoriach cywilizacji zamiast maszyn. Omawiam również, jak ta zmiana wpływa na nasze odpowiedzialności i co oznacza dla współpracy globalnej.

Czyje Wartości Rzeczywiście Reprezentuje AI?

Jeśli zapytasz AI o wrażliwe wydarzenie historyczne, jego odpowiedź zależy od danych, które studiował. Jeśli te dane pochodzą głównie z internetu zachodniego, odpowiedź będzie miała zachodnią stronniczość. Będzie priorytetem indywidualizm, wolność słowa i ideały demokratyczne. Są to dobre wartości dla wielu ludzi. Ale nie są one jedynymi wartościami na świecie.

Użytkownik w Singapurze, użytkownik w Rijadzie i użytkownik w San Francisco mają różne definicje tego, co jest “użyteczne” i co jest “szkodliwe”. W niektórych kulturach harmonia społeczna jest ważniejsza niż absolutna wolność słowa. W innych szacunek dla hierarchii jest ważniejszy niż zakłócenie.

Gdy firma z Doliny Krzemowej używa “Reinforcement Learning from Human Feedback” (RLHF), zatrudniają ludzi, aby oceniali odpowiedzi AI. Ale kim są ci ludzie? Jakie są ich przekonania? Jeśli wyrównują model z amerykańskimi standardami, nieumyślnie budują amerykański eksport kulturowy. Budują cyfrowego dyplomatę, który egzekwuje reguły jednej określonej cywilizacji na resztę świata.

Wzrost Pętli Sprzężenia

Wyzwanie nie polega tylko na tym, że AI odzwierciedla przekonania jednej kultury. To, jak te przekonania mogą nas zmienić. Współczesne systemy AI mają potencjał, aby kształtować zachowanie jednostek, organizacji i nawet narodów. Mogą wpływać na to, jak myślimy, pracujemy, ufamy i konkurujemy. Tworzy to pętle sprzężenia między systemami AI a społeczeństwami ludzkimi; trenujemy AI, a AI kształtuje, jak myślimy i działamy. Te pętle stają się coraz silniejsze, gdy AI staje się coraz bardziej wszechobecne. Aby zobaczyć, jak działa ta pętla sprzężenia, oto dwa przykłady:

• Wdrożenie AI w dużym stopniu zmienia zachowanie społeczne, a zachowanie społeczne zmienia dane, które trenują nowe systemy. Na przykład algorytm rekomendacji może kształtować to, co ludzie oglądają, czytają i w co wierzą. Narzędzia produktywności zmieniają sposób, w jaki zespoły współpracują i jak studenci uczą się. Te zmiany w zachowaniu zmieniają wzorce danych w postaci różnych nawyków oglądania, wzorców komunikacji w miejscu pracy lub stylów pisarskich. Gdy te dane płyną do przyszłych zbiorów danych, modele dostosowują swoje założenia i dane wyjściowe odpowiednio. Zachowanie ludzkie kształtuje modele, a modele, z kolei, kształtują zachowanie ludzkie.
• Narzędzia decyzyjne automatyczne wpływają na politykę publiczną, a polityka publiczna wpływa na przyszłe szkolenia modeli. Na przykład wiele rządów używa obecnie AI, aby sugerować, gdzie przydzielić zasoby, takie jak identyfikowanie dzielnic, które potrzebują większego wsparcia zdrowotnego lub obszarów, które mogą mieć wyższe ryzyko przestępczości. Gdy decydenci działają na podstawie tych rekomendacji, wyniki tych decyzji później stają się częścią nowych zbiorów danych. Z czasem decyzje polityczne ukształtowane przez AI kończą się kształtowaniem następnej generacji modeli AI.

Gdy rozpoznajesz tę pętlę sprzężenia, staje się jasne, że AI stopniowo kształtuje i wyrównuje cywilizacje. W rezultacie narody zaczynają pytać: Jak mogą zabezpieczyć swoje wartości, integrując AI do swoich społeczeństw i instytucji?

Wzrost Suwerennych AI

To wyzwanie wyrównania wywołało znaczącą reakcję ze strony rządów na całym świecie. Narody zrozumiały, że poleganie na importowanych AI jest ryzykowne dla ich suwerenności. Nie mogą pozwolić, aby ich obywatele byli edukowani, informowani i doradzani przez czarną skrzynkę, która myśli jak obcy.

To zrozumienie doprowadziło do powstania “Suwerennych AI.” Francja inwestuje dużo, aby zbudować modele, które mówią po francusku i rozumieją francuskie prawo i kulturę. Indie budują rodzime modele AI, aby zapewnić, że ich wartości kulturowe są zachowane. Zjednoczone Emiraty Arabskie i Chiny budują modele AI wyrównane z ich własną wizją narodową.

To jest nowy wyścig zbrojeń. To wyścig o kontrolę narracji. Cywilizacja, która nie ma własnego AI, w końcu straci swoją własną pamięć. Jeśli twoje dzieci zapytają maszynę o pytanie, a maszyna odpowie logiką innej kultury, twoja kultura zacznie się erozyjnie zmieniać. To zrozumienie może jednak doprowadzić do powstania odrębnych bloków cyfrowych. Możemy skończyć z AI zachodnią, chińską, indyjską itd. Te systemy będą działać z różnymi faktami i różnymi kompasami moralnymi. Te rozwinięcia sprawiają, że jest jasne, że jeśli chcemy stworzyć jeden, prawdziwie wyrównany model AI, musimy najpierw znaleźć sposób, aby wyrównać cywilizacje.

Potrzeba Dyplomatycznego AI

Tradycyjne wyrównanie zakłada, że model może być wyrównany przez staranne szkolenie, pobudzanie i barierki bezpieczeństwa. To myślenie pochodzi z technicznego umysłu wczesnych badań nad bezpieczeństwem AI. Ale nawet idealne wyrównanie na poziomie modelu nie może rozwiązać wyzwań wyrównania cywilizacji. Wyrównanie nie może pozostać stabilne, gdy społeczeństwa ciągną w przeciwnych kierunkach. Jeśli kraje, firmy i społeczności mają sprzeczne cele, będą popychać systemy AI, aby odzwierciedlały te konflikty. Te ograniczenia pokazują, że wyrównanie nie jest tylko problemem technicznym. To problem rządzenia, kultury i koordynacji. I te problemy wymagają nie tylko ekspertów lub deweloperów. Wymagają całych cywilizacji.

Więc, jak możemy iść dalej? Jeśli zaakceptujemy, że powszechne wyrównanie jest niemożliwe, musimy zmienić naszą strategię. Musimy przestać szukać technicznego rozwiązania problemu filozoficznego. Musimy zacząć myśleć jak dyplomaci. Musimy zbudować protokoły “Wyrównania Cywilizacji”. Musimy dowiedzieć się, jak AI może szanować przekonania i wartości społeczeństwa bez narzucania mu przekonań innych kultur. Innymi słowy, musimy mieć cyfrowe Narody Zjednoczone dla naszych algorytmów.

To wymaga transparentności. Obecnie nie wiemy naprawdę, jakie wartości są ukryte w głębokich warstwach sieci neuronowej. Widzimy tylko dane wyjściowe. Aby wyrównać cywilizacje, musimy być jasnymi w kwestii “Konstytucji” każdego modelu. Model powinien być w stanie zadeklarować swoją stronniczość. Powinien być w stanie powiedzieć: “Jestem trenowany na tych danych, z tymi regułami bezpieczeństwa, priorytetem tych wartości.” Dopiero gdy stronniczość jest widoczna, możemy ufać systemowi. Użytkownik powinien być w stanie przełączać się między perspektywami. Powinien być w stanie zadać pytanie i zobaczyć, jak “zachodni” model odpowiada w porównaniu z “wschodnim” modelem. To zmieni AI w narzędzie do zrozumienia, a nie w narzędzie do indoktrynacji.

Podsumowanie

Zbyt długo martwiliśmy się o Terminатора. Prawdziwe ryzyko nie polega na tym, że robot zniszczy nas. Prawdziwe ryzyko polega na tym, że robot sprawi, że zapomnimy, kim jesteśmy. Wyrównanie nie jest kodem, który możemy napisać raz i zapomnieć. To ciągłe negocjowanie z modelami AI, aby utrzymać je wyrównane z naszymi przekonaniami i wartościami. To akt polityczny. Gdy wkraczamy w tę następną fazę ery inteligentnej, musimy patrzeć poza ekran. Musimy rozważyć, jak AI interpretuje naszą historię, nasze granice i nasze przekonania. Budujemy umysły, które pomogą nam rządzić światem. Musimy upewnić się, że te umysły szanują różnice między cywilizacjami.