Hoe AI de toekomst van democratisch gesprek vormgeeft

In een tegenwoordig politiek gepolariseerde wereld wordt het steeds moeilijker om gemeenschappelijke grond te vinden op complexe sociale en politieke kwesties. Naarmate de samenleving diverser wordt, zijn de meningsverschillen over cruciale kwesties als klimaatverandering, immigratie en economisch beleid alleen maar toegenomen. Het bijeenbrengen van mensen om consensus te bereiken over complexe kwesties vereist vaak tijd, middelen en een gelijk speelveld waar alle stemmen gehoord kunnen worden.

Recente vooruitgang in kunstmatige intelligentie heeft nieuwe mogelijkheden gebracht voor technologie om te helpen bij het faciliteren van complexe gesprekken over verdeeldheid zaaiende onderwerpen. AI-gebaseerde grote taalverwerkingsmodellen (NLP) zijn bijvoorbeeld zo verfijnd dat ze complexe taal kunnen interpreteren en verschillen in sentimenten en perspectieven kunnen onderscheiden. Bovendien worden AI-systemen ontworpen met functies zoals real-time sentimentanalyse, biasdetectie en adaptieve feedback. Deze mogelijkheden maken ze bijzonder geschikt om te helpen bij het faciliteren van eerlijke en evenwichtige discussies.

Deze potentie heeft de aandacht getrokken van onderzoekers van Google DeepMind om de belofte van AI te onderzoeken bij het faciliteren van burgerlijke discussie. Geïnspireerd door de ideeën van filosoof Jürgen Habermas, hebben ze de “Habermas Machine” (HM) gemaakt, een instrument voor het ondersteunen van burgerlijke discussie en het helpen van groepen om gedeelde waarden te ontdekken. Het artikel onderzoekt de vraag: Kan AI ons echt helpen om gemeenschappelijke grond te vinden? Het onderzoekt ook hoe de Habermas Machine (HM) democratische beraadslaging kan faciliteren.

De Habermas Machine

De Habermas Machine is een AI-instrument ontworpen om individuele meningen te analyseren en een verenigde groepsverklaring te creëren. De machine werkt als een “caucusmediatie”. Deelnemers beginnen met het delen van hun gedachten. De AI combineert deze vervolgens in een conceptverklaring. Vervolgens beoordelen deelnemers deze conceptverklaring en geven ze commentaar. De AI gebruikt deze input om een herziene verklaring te genereren die bredere overeenstemming nastreeft, waarbij zowel meerderheidsstandpunten als minderheidscommentaren worden vastgelegd.

Deze machine gebruikt twee gespecialiseerde LLM’s voor deze taak. De eerste is een generatief model dat verklaringen creëert die de diverse meningen van de groep weerspiegelen. De tweede is een gepersonaliseerd beloningsmodel dat deze verklaringen beoordeelt op basis van de waarschijnlijkheid dat elke deelnemer het ermee eens is. Het generatieve model wordt verfijnd met behulp van begeleide fijntuning, terwijl het beloningsmodel iteratief wordt verbeterd op basis van de beloningsignalen

De machine werd getest met meer dan 5.000 deelnemers uit het hele VK. Sommigen sloten zich aan via een crowdsourcingsplatform, terwijl anderen werden geworven door de Sortition Foundation, een non-profitorganisatie die burgersassemblee organiseert. Deelnemers werden verdeeld in groepen en de test vond plaats in twee fasen. Eerst samenvatte de machine de collectieve meningen. Vervolgens bemiddelde het tussen groepen om gemeenschappelijke grond te helpen identificeren.

De belofte van AI bij het blootleggen van gemeenschappelijke grond voor democratisch gesprek

De studie benadrukt de potentie van AI om gemeenschappelijke grond te vinden in democratisch gesprek. Een van de belangrijkste bevindingen was dat AI-gefaciliteerde discussies deelnemers ertoe brachten om naar gedeelde meningen te verschuiven. In tegenstelling tot ongefaciliteerde discussies, die vaak bestaande overtuigingen versterkten, hielp AI deelnemers om hun standpunten opnieuw te overwegen, waardoor ze dichter bij een middenweg kwamen. Deze mogelijkheid om overeenstemming te stimuleren toont aan dat AI een waardevol instrument kan zijn voor het omgaan met complexe en verdeeldheid zaaiende kwesties.

De studie onthulde ook dat zowel deelnemers als onafhankelijke rechters de AI-gegenereerde verklaringen gunstiger beoordeelden dan die welke door menselijke bemiddelaars werden geproduceerd. Zij vonden de verklaringen van de AI nauwkeuriger, informatiever en eerlijker. Belangrijk is dat de AI niet alleen meerderheidsmeningen versterkte, maar ook gewicht gaf aan minderheidsstandpunten. Deze functie hielp voorkomen dat de “tirannie van de meerderheid” ontstond en zorgde ervoor dat afwijkende meningen gehoord werden. De opname van deze afwijkende meningen is cruciaal, vooral in gevoelige debatten, aangezien een eerlijke vertegenwoordiging helpt om misverstanden te voorkomen en evenwichtige discussies aan te moedigen.

Praktische toepassingen van AI in deliberatieve democratie

De implicaties van AI-gefaciliteerde beraadslaging zijn aanzienlijk voor real-world scenario’s. Bijvoorbeeld kan AI het beleidsdebat, conflictbeslechting, contractonderhandelingen en burgersassemblee verbeteren. De mogelijkheid om evenwichtige dialoog te stimuleren maakt het een waardevol instrument voor overheden, organisaties en gemeenschappen die complexe kwesties met diverse stakeholders willen aanpakken.

Om de effectiviteit van het model in een praktische setting te testen, organiseerden onderzoekers een virtuele burgersassemblee met een representatieve steekproef van UK-bewoners. Deze assemblee richtte zich op verdeeldheid zaaiende onderwerpen zoals immigratiebeleid en klimaatactie. Na AI-gefaciliteerde discussies toonden deelnemers een opvallende verschuiving naar consensus, zonder enige AI-vooringenomenheid die hun meningen beïnvloedde. Deze bevindingen benadrukken hoe AI-bemiddeling collectief besluitvorming over kritieke sociale kwesties kan leiden, terwijl het tegelijkertijd vooringenomenheid minimaliseert.

Beperkingen en ethische overwegingen

Hoewel AI-bemiddeling veelbelovend is, heeft het aanzienlijke beperkingen. Zo ontbreekt het de AI-model dat in deze studie werd gebruikt aan feitcontrole-mogelijkheden, waardoor het zwaar leunt op de kwaliteit van de input van deelnemers. Bovendien vereist AI-ondersteunde beraadslaging zorgvuldige ontwerp om schadelijke of onproductieve discussie te voorkomen. Een andere belangrijke overweging is de ethische rol van AI in democratische processen. Sommige individuen kunnen voorzichtig zijn met het gebruik van AI in politieke discussies, uit angst dat algoritmes onbewust de uitkomsten kunnen beïnvloeden. Daarom is voortdurende toezicht en een duidelijk ethisch kader essentieel om te garanderen dat AI op een manier wordt gebruikt die democratische waarden respecteert.

De bottom line

Onderzoekers bij Google DeepMind hebben benadrukt dat AI het potentieel heeft om democratisch gesprek te transformeren. Zij stellen voor dat AI-instrumenten, zoals de Habermas Machine, kunnen helpen bij het vinden van gemeenschappelijke grond op complexe kwesties. Hoewel AI gesprekken meer toegankelijk en inclusief kan maken, is het cruciaal om het verantwoordelijk te gebruiken om democratische waarden te beschermen.

Als het op een zorgvuldige manier wordt ontwikkeld, kan AI een cruciale rol spelen bij het faciliteren van collectief begrip. Het kan helpen bij het aanpakken van dringende sociale kwesties door gemeenschappelijke grond te vinden onder diverse perspectieven. Naarmate de AI-technologie vordert, kunnen modellen zoals de Habermas Machine essentieel worden voor het navigeren door de uitdagingen van de moderne democratie, het vereenvoudigen en uitbreiden van beraadslagingsprocessen voor uitgebreidere en diversere groepen.