Vi är inte längre i färd med att anpassa AI. Vi är i färd med att anpassa civilisationer

Under många år har den främsta frågan inom artificiell intelligens (AI) varit hur man anpassar AI-modeller till mänskliga värderingar. Forskare har försökt definiera säkerhetsregler, etiska principer och kontrollmekanismer som vägleder AI-beslut. Detta arbete har uppnått betydande framsteg. Men nu, när dessa AI-system blir allt mer kapabla och utbredda, börjar fokus för anpassning att skifta. Det som började som en utmaning att anpassa en enskild modell till en enskild uppsättning instruktioner har nu blivit den mycket större utmaningen att anpassa hela civilisationer som använder dessa system på en global skala. AI är inte längre bara ett verktyg. Det utvecklas till en miljö där samhällen arbetar, kommunicerar, förhandlar och tävlar. Som ett resultat är anpassning inte längre bara ett tekniskt problem. Det har blivit ett civilisationsproblem. I den här artikeln förklarar jag varför anpassning inte längre bara handlar om modeller och varför vi måste börja tänka i termer av civilisationer istället för maskiner. Jag diskuterar också hur denna skiftning påverkar våra ansvar och vad det innebär för globalt samarbete.

Vems värderingar representerar AI egentligen?

Om du frågar en AI om en känslig historisk händelse, beror dess svar på de data den har studerat. Om dessa data kommer från den västerländska internet, kommer svaret att ha en västerländsk bias. Det kommer att prioritera individualism, öppen tal och demokratiska ideal. Dessa är bra värderingar för många människor. Men de är inte de enda värderingarna i världen.

En användare i Singapore, en användare i Riyadh och en användare i San Francisco har olika definitioner av vad som är “hjälpsamt” och vad som är “skadligt”. I vissa kulturer är social harmoni viktigare än absolut yttrandefrihet. I andra är respekt för hierarki viktigare än störning.

När ett företag i Silicon Valley använder “Reinforcement Learning from Human Feedback” (RLHF), anställer de människor för att betygsätta AI:s svar. Men vem är dessa människor? Vilka är deras övertygelser? Om de anpassar modellen med amerikanska standarder, bygger de oavsiktligt en amerikansk kulturell export. De bygger en digital diplomat som tvingar en specifik civilisations regler på resten av världen.

Feedback-loopens uppkomst

Utmaningen är inte bara att AI återspeglar övertygelser från en kultur. Det är hur dessa övertygelser kan förändra oss. Moderna AI-system har potentialen att forma beteendet hos individer, organisationer och till och med nationer. De kan påverka hur vi tänker, arbetar, litar och tävlar. Detta skapar feedback-loopar mellan AI-system och mänskliga samhällen; vi tränar AI och AI formar hur vi tänker och agerar. Dessa loopar blir allt starkare när AI blir mer utbrett. För att se hur denna feedback-loop fungerar, finns här två exempel:

• Storskalig AI-distribution förändrar socialt beteende, och socialt beteende förändrar de data som tränar nya system. Till exempel kan en rekommendationsalgoritm forma vad människor tittar på, läser och tror. Produktivitetsverktyg omformar hur team samarbetar och hur studenter lär sig. Dessa förändringar i beteende förändrar data-mönster i form av olika tittarvanor, kommunikationsmönster på arbetsplatsen eller skrivstilar. När dessa data flödar in i framtida träningsdata, justerar modellerna sina antaganden och utdata enligt. Mänskligt beteende formar modellerna, och modellerna, i sin tur, formar mänskligt beteende.
• Automatiserade beslutsverktyg påverkar offentlig politik, och offentlig politik påverkar framtida modellträning. Till exempel använder många regeringar nu AI för att föreslå var de ska allokera resurser, som att identifiera vilka områden som behöver mer hälsovård eller vilka områden som kan ha högre brottsrisk. När beslutsfattare agerar på dessa rekommendationer, blir resultaten av dessa beslut en del av nya data. Över tid formar AI-beslut som fattas av AI nästa generation av AI-modeller.

När du känner igen denna feedback-loop, blir det tydligt att AI gradvis formar och anpassar civilisationer. Som ett resultat börjar nationer fråga: Hur kan de skydda sina värderingar medan de integrerar AI i sina samhällen och institutioner?

Suverän AI:s uppkomst

Denna anpassningsutmaning har utlöst en betydande reaktion från regeringar över hela världen. Nationer har insett att de inte kan förlita sig på importerad AI, eftersom det är en risk för deras suveränitet. De kan inte ha medborgare som utbildas, informeras och rådgivs av en svart låda som tänker som en utlänning.

Denna insikt har lett till uppkomsten av “Suverän AI”. Frankrike investerar kraftigt för att bygga modeller som talar franska och förstår fransk lag och kultur. Indien bygger inhemska AI-modeller för att säkerställa att deras kulturella värderingar respekteras. Förenade Arabemiraten och Kina bygger AI-modeller som är anpassade till deras egna nationella visioner.

Detta är den nya kapprustningen. Det är en kamp för narrativ kontroll. En civilisation som inte har sin egen AI kommer så småningom att förlora sin egen minnesbild. Om dina barn frågar en maskin en fråga, och maskinen svarar med logiken från en annan kultur, börjar din egen kultur att erodera. Denna insikt kan dock leda till att distinkta digitala block bildas. Vi kan hamna med en västerländsk AI, en kinesisk AI, en indisk AI och så vidare. Dessa system kommer att fungera med olika fakta och olika moraliska kompasser. Dessa utvecklingar gör det tydligt att om vi vill skapa en enda, riktigt anpassad AI-modell, måste vi först hitta ett sätt att anpassa civilisationer.

Behovet av en diplomatisk AI

Traditionell anpassning förutsätter att en modell kan anpassas genom noggrann träning, uppmaning och skydd. Detta sätt att tänka kommer från den tekniska inställningen till tidig AI-säkerhetsforskning. Men även perfekt modellanpassning kan inte lösa utmaningarna med att anpassa civilisationer. Anpassningen kan inte förbli stabil när samhällen drar i motsatta riktningar. Om länder, företag och samhällen har motstridiga mål, kommer de att trycka AI-system att reflektera dessa konflikter. Dessa begränsningar visar att anpassning inte bara är ett tekniskt problem. Det är ett styrnings-, kulturellt och samordningsproblem. Och dessa problem kräver inte bara experter eller utvecklare. De involverar hela civilisationer.

Så, hur går vi vidare? Om vi accepterar att universell anpassning är omöjlig, måste vi ändra vår strategi. Vi behöver sluta leta efter en teknisk lösning på ett filosofiskt problem. Vi behöver börja tänka som diplomater. Vi behöver bygga protokoll för “Civilisationsanpassning”. Vi behöver ta reda på hur AI kan respektera en samhälls övertygelser och värderingar utan att påtvinga det övertygelser från andra kulturer. Med andra ord, vi behöver en digital FN för våra algoritmer.

Detta kräver transparens. För närvarande vet vi inte riktigt vilka värderingar som är dolda i de djupa lagren av ett neuronnät. Vi ser bara utdata. För att anpassa civilisationer, måste vi vara tydliga med “konstitutionen” för varje modell. En modell bör kunna deklarera sin bias. Den bör kunna säga: “Jag är tränad på dessa data, med dessa säkerhetsregler, prioriterande dessa värderingar.” Bara när biasen är synlig kan vi lita på systemet. En användare bör kunna växla mellan perspektiv. Du bör kunna ställa en fråga och se hur en “västerländsk” modell svarar jämfört med hur en “österländsk” modell svarar. Detta skulle förvandla AI till ett verktyg för förståelse, snarare än ett verktyg för indoktrinering.

Sammanfattning

Vi har tillbringat för mycket tid med att oroa oss för Terminator. Den verkliga risken är inte att en robot förstör oss. Den verkliga risken är att en robot får oss att glömma vem vi är. Anpassning är inte en kod vi kan skriva en gång och glömma. Det är en ständig förhandling med AI-modeller för att hålla dem anpassade till våra övertygelser och värderingar. Det är en politisk handling. När vi går in i denna nästa fas av intelligensåldern, måste vi titta bortom skärmen. Vi måste överväga hur AI tolkar vår historia, våra gränser och våra övertygelser. Vi bygger de sinnen som kommer att hjälpa oss att styra världen. Vi måste se till att dessa sinnen respekterar skillnaderna mellan civilisationer.