Hur AI formar framtiden för demokratisk dialog

I dagens politiskt polariserade värld blir det allt svårare att hitta gemensam grund på komplexa sociala och politiska frågor. Ju mer samhällen växer och blir mer mångfaldiga, desto mer har oenigheter om viktiga frågor som klimatförändringar, invandring och ekonomisk politik ökat. Att föra människor samman för att hitta samförstånd på komplexa frågor kräver ofta tid, resurser och en jämn spelplan där alla röster kan höras.

De senaste framstegen inom artificiell intelligens har öppnat nya möjligheter för teknologi att hjälpa till att underlätta komplexa samtal om kontroversiella ämnen. AI-drivna stora språkmodeller (NLP) har till exempel blivit tillräckligt avancerade för att tolka komplexa språk och urskilja skillnader i åsikter och perspektiv. Dessutom utformas AI-system med funktioner som realtidsanalys av åsikter, biasdetektering och anpassad återkoppling. Dessa förmågor gör dem särskilt lämpliga för att hjälpa till att underlätta rättvisa och balanserade diskussioner.

Denna potential har fångat uppmärksamheten hos Google DeepMind-forskare för att utforska AI:s löfte i att underlätta civil diskurs. Inspirerade av idéerna från filosofen Jürgen Habermas, har de skapat “Habermas Machine” (HM), ett verktyg för att stödja civil diskurs och hjälpa grupper att upptäcka gemensamma värderingar. Artikeln undersöker frågan: Kan AI verkligen hjälpa oss att hitta gemensam grund? Den undersöker också hur Habermas Machine (HM) kan underlätta demokratiskt deltagande.

Habermas-maskinen

Habermas-maskinen är ett AI-verktyg som är utformat för att analysera enskilda åsikter och skapa en enhetlig gruppförklaring. Maskinen fungerar som en “caucus-medling”. Deltagare börjar med att dela sina tankar. AI:n kombinerar sedan dessa till ett utkast till förklaring. Därefter granskar deltagarna utkastet och ger kritik. AI:n använder sedan sin indata för att generera en reviderad förklaring som syftar till att uppnå bredare överenskommelse, som fångar både majoritetsåsikter och minoritetskritik.

Denna maskin använder två specialiserade LLM:er för denna uppgift. Den första är en generativ modell som skapar uttalanden som speglar gruppens olika åsikter. Den andra är en personlig belöningsmodell som utvärderar dessa uttalanden baserat på hur sannolikt varje deltagare är att hålla med dem. Den generativa modellen finslipas med hjälp av övervakad finjustering, medan belöningsmodellen förbättras iterativt baserat på belöningsignalerna

Maskinen testades med över 5 000 deltagare från hela Storbritannien. Vissa deltagare anslöt sig via en crowdsourcing-plattform, medan andra rekryterades av Sortition Foundation, en ideell organisation som organiserar medborgarsamlingar. Deltagarna delades in i grupper och testningen genomfördes i två faser. Först sammanfattade maskinen de kollektiva åsikterna. Sedan medlade den mellan grupper för att hjälpa till att identifiera gemensam grund.

AI:s löfte i att avslöja gemensam grund för demokratisk dialog

Studien betonar AI:s potential att hitta gemensam grund i demokratisk dialog. En viktig upptäckt var att AI-underlättade diskussioner ledde deltagarna att skifta mot delade åsikter. Till skillnad från ounderlättade diskussioner, som ofta förstärkte befintliga övertygelser, hjälpte AI deltagarna att ompröva sina positioner, vilket drog dem närmare en mittpunkt. Denna förmåga att uppmuntra samstämmighet visar att AI kan vara ett värdefullt verktyg för att hantera komplexa och kontroversiella frågor.

Studien visade också att både deltagare och oberoende domare gav AI-genererade uttalanden högre betyg än de som producerades av mänskliga medlare. De fann att AI:s uttalanden var mer precisa, mer informativa och rättvisare. Det är viktigt att AI:n inte bara förstärkte majoritetsåsikter, utan också gav vikt åt minoritetsperspektiv. Denna funktion hjälpte till att förhindra “majoritetens tyranni” och säkerställde att avvikande röster hördes. Inkluderingen av dessa avvikande perspektiv är avgörande, särskilt i känsliga debatter, eftersom rättvis representation hjälper till att förhindra missförstånd och uppmuntrar balanserade diskussioner.

Verkliga tillämpningar av AI i deliberativ demokrati

Konsekvenserna av AI-underlättad diskussion är betydande för verkliga scenarier. Till exempel kan AI förbättra policydiskussioner, konfliktlösning, förhandlingar om avtal och medborgarsamlingar. Dess förmåga att främja balanserad diskussion gör det till ett värdefullt verktyg för regeringar, organisationer och samhällen som söker hantera komplexa frågor som involverar många intressenter.

För att testa modellens effektivitet i en praktisk miljö organiserade forskarna en virtuell medborgarsamling med en representativ grupp av brittiska medborgare. Denna samling fokuserade på kontroversiella ämnen som invandringspolitik och klimatåtgärder. Efter AI-underlättade diskussioner visade deltagarna en märkbar skiftning mot samförstånd, utan att AI-bias påverkade deras åsikter. Dessa resultat betonar hur AI-medling kan potentiellt vägleda kollektivt beslutsfattande om kritiska sociala frågor samtidigt som man minimerar bias.

Begränsningar och etiska överväganden

Medan AI-medling visar stort löfte, har den också betydande begränsningar. Till exempel saknar den AI-modell som användes i denna studie faktakontrollförmåga, vilket innebär att den är beroende av kvaliteten på indata från deltagarna. Dessutom kräver AI-underlättad diskussion noggrann utformning för att undvika skadlig eller oproduktiv diskussion. Ett annat viktigt övervägande är den etiska rollen för AI i demokratiska processer. Vissa individer kan vara försiktiga med att använda AI i politiska diskussioner, eftersom de fruktar att algoritmer kan oavsiktligt påverka resultaten. Därför är kontinuerlig tillsyn och en tydlig etisk ram avgörande för att säkerställa att AI används på sätt som respekterar demokratiska värderingar.

Sammanfattning

Forskare vid Google DeepMind har betonat att AI har potentialen att förvandla demokratisk dialog. De föreslår att AI-verktyg, som Habermas-maskinen, kan hjälpa individer att hitta gemensam grund på komplexa frågor. Medan AI kan göra samtal mer tillgängliga och inkluderande, är det avgörande att använda det på ett ansvarsfullt sätt för att säkerställa demokratiska värderingar.

Om AI utvecklas på ett genomtänkt sätt, kan det spela en avgörande roll för att underlätta kollektiv förståelse. Det kan hjälpa till att hantera brådskande sociala frågor genom att hitta gemensam grund bland många perspektiv. När AI-tekniken utvecklas, kan modeller som Habermas-maskinen bli avgörande för att hantera utmaningarna i modern demokrati, förenkla och utöka diskussionsprocesser för mer omfattande och mångfaldiga grupper.