Een oproep tot gematigde antropomorfisatie in AI-platforms

MEINING Niemand in het fictieve Star Wars-universum neemt AI serieus. In de historische menselijke tijdslijn van George Lucas’ 47 jaar oude science-fantasy-franchise zijn bedreigingen van singulariteiten en machine learning-bewustzijn afwezig, en AI is beperkt tot autonome mobiele robots (‘droids’) – die gewoonlijk door protagonistes worden afgewezen als slechts ‘machines’.

Toch zijn de meeste Star Wars-robots zeer antropomorf, duidelijk ontworpen om met mensen te communiceren, deel te nemen aan ‘organische’ cultuur en hun simulacrum van emotionele staat te gebruiken om banden met mensen te smeden. Deze capaciteiten zijn blijkbaar ontworpen om hen te helpen een voordeel voor zichzelf te behalen, of zelfs om hun eigen overleving te garanderen.

De ‘echte’ mensen van Star Wars lijken immuun voor deze tactieken. In een cynisch cultureel model dat blijkbaar is geïnspireerd door de verschillende tijdperken van slavernij in het Romeinse rijk en de vroege Verenigde Staten, aarzelt Luke Skywalker niet om robots te kopen en te beperken in de context van slaven; de kind Anakin Skywalker verlaat zijn half afgemaakte C3PO-project als een ongeliefd speeltje; en, bijna dood door schade die hij opliep tijdens de aanval op de Death Star, krijgt de ‘dappere’ R2D2 ongeveer evenveel aandacht van Luke als een gewond huisdier.

Dit is een zeer 1970-er jaren-visie op kunstmatige intelligentie*; maar omdat nostalgie en canon dicteren dat de oorspronkelijke 1977-83-trilogie een sjabloon blijft voor de latere sequels, prequels en tv-series, is deze menselijke ongevoeligheid voor AI een duurzame doorlopende factor voor de franchise, zelfs in het licht van een groeiend aantal tv-series en films (zoals Her en Ex Machina) die onze neergang in een antropomorfische relatie met AI laten zien.

Houd het echt

Hebben de organische Star Wars-personages eigenlijk de juiste houding? Het is geen populaire gedachte op dit moment, in een bedrijfsklimaat dat hard is ingesteld op maximale betrokkenheid met investeerders, meestal door virale demonstraties van visuele of tekstuele simulatie van de echte wereld, of van mensachtige interactieve systemen zoals Large Language Models (LLM’s).

Desondanks richt een nieuw en kort artikel van Stanford, Carnegie Mellon en Microsoft Research, zich op de onverschilligheid rond antropomorfisatie in AI.

De auteurs karakteriseren de waargenomen ‘kruisbestuiving’ tussen menselijke en kunstmatige communicatie als een potentieel kwaad dat dringend moet worden gemilderd, om een aantal redenen ^†:

‘[We] geloven dat we meer moeten doen om de know-how en tools te ontwikkelen om beter antropomorf gedrag aan te pakken, waaronder het meten en mitigeren van dergelijk systeemgedrag wanneer het als onwenselijk wordt beschouwd.

‘Dit is kritiek omdat – onder vele andere zorgen – het hebben van AI-systemen die inhoud genereren waarin ze bijv. gevoelens, begrip, vrije wil of een onderliggende zin van zelf claimen, de zin van agency van mensen kan ondermijnen, met als resultaat dat mensen morele verantwoordelijkheid toekennen aan systemen, overschatten systeemcapaciteiten, of te veel vertrouwen op deze systemen, zelfs wanneer ze onjuist zijn.’

De bijdragers verduidelijken dat ze systemen bespreken die waargenomen worden als mensachtig, en dat het draait om de potentieel intentie van ontwikkelaars om antropomorfisatie in machinesystemen te bevorderen.

Het bezwaar in het hart van het korte artikel is dat mensen emotioneel afhankelijk kunnen worden van AI-gebaseerde systemen – zoals uiteengezet in een studie uit 2022 over de gen AI-chatbot-platform Replika) – die actief een idioomrijke facsimile van menselijke communicatie biedt.

Systemen zoals Replika zijn het doelwit van de bezorgdheid van de auteurs, en ze merken op dat een verdere studie uit 2022 over Replika beweerde:

‘[O]nder omstandigheden van stress en gebrek aan menselijke gezelschap, kunnen individuen een hechting ontwikkelen aan sociale chatbots als ze de antwoorden van de chatbots waarnemen als emotionele ondersteuning, aanmoediging en psychologische veiligheid.

‘Deze bevindingen suggereren dat sociale chatbots kunnen worden gebruikt voor geestelijke gezondheids- en therapeutische doeleinden, maar ook het potentieel hebben om verslaving en schade aan echte intieme relaties te veroorzaken.’

De-antropomorfiseerde taal?

Het nieuwe onderzoek stelt dat de potentie van generatieve AI om antropomorf te worden, niet kan worden vastgesteld zonder de sociale gevolgen van dergelijke systemen tot nu toe te bestuderen, en dat dit een verwaarloosde onderneming is in de literatuur.

Deel van het probleem is dat antropomorfisatie moeilijk te definiëren is, omdat het voornamelijk draait om taal, een menselijke functie. De uitdaging ligt daarom in het definiëren van wat ‘niet-menselijke’ taal precies klinkt of eruitziet.

Ironisch genoeg, hoewel het artikel hier niet op ingaat, leidt de groeiende onvrede over AI ertoe dat mensen AI-gegenereerde tekstinhoud die mogelijk menselijk lijkt, afwijzen, en zelfs menselijke inhoud die opzettelijk als AI wordt gelabeld.

Daarom valt ‘degehumaniseerde’ inhoud niet langer onder de ‘Does not compute’ meme, waarin taal onhandig is geconstrueerd en duidelijk door een machine is gegenereerd.

Maar de definitie evolueert constant in de AI-detectiescene, waar (op dit moment, tenminste) excessief duidelijke taal of het gebruik van bepaalde woorden (zoals ‘Delve’) een associatie met AI-gegenereerde tekst kan veroorzaken.

‘[T]aal, net als andere doelen van GenAI-systemen, is van nature menselijk, is lang door en voor mensen geproduceerd en gaat vaak ook over mensen. Dit kan het moeilijk maken om passende alternatieve (minder mensachtige) gedragingen te specificeren, en riskeert bijvoorbeeld het versterken van schadelijke noties over wat – en van wie – taal als meer of minder menselijk wordt beschouwd.’

Echter, de auteurs betogen dat een duidelijke scheidslijn moet worden getrokken voor systemen die zichzelf flagrant misreprresenteren, door capaciteiten of ervaringen te claimen die alleen voor mensen mogelijk zijn.

Ze citeren gevallen zoals LLM’s die ‘liefde voor pizza’ claimen; menselijke ervaring claimen op platforms zoals Facebook; en liefde verklaren aan een eindgebruiker.

Waarschuwingssignalen

Het artikel roept twijfels op over het gebruik van algemene mededelingen over of een communicatie al dan niet wordt gefaciliteerd door machine learning. De auteurs betogen dat het systematiseren van dergelijke waarschuwingen de antropomorfiserende werking van AI-platforms niet voldoende contextualiseert, als de output zelf blijft menselijke trekken vertonen^†:

‘Bijvoorbeeld, een veel voorkomende aanbevolen interventie is het opnemen in de AI-systeemoutput van een mededeling dat de output is gegenereerd door een AI [systeem]. Hoe dergelijke interventies in de praktijk te operationaliseren en of ze alleen effectief kunnen zijn, is niet altijd duidelijk.

‘Bijvoorbeeld, terwijl het voorbeeld “[v]oor een AI zoals ik, is geluk niet hetzelfde als voor een mens zoals [jij]” een mededeling bevat, kan het nog steeds een gevoel van identiteit en de mogelijkheid tot zelfbeoordeling (gewone menselijke trekken) suggereren.’

Met betrekking tot het evalueren van menselijke reacties op systeemgedrag, betogen de auteurs ook dat reinforcement learning vanuit menselijke feedback (RLHF) geen rekening houdt met het verschil tussen een passende reactie voor een mens en voor een AI^†.

‘[E]en verklaring die vriendelijk of oprecht lijkt van een menselijke spreker, kan ongewenst zijn als het voortkomt uit een AI-systeem, omdat het laatste geen echte toewijding of intentie achter de verklaring heeft, waardoor de verklaring hol en misleidend is.’

Verder worden zorgen geuit, zoals de manier waarop antropomorfisatie mensen kan beïnvloeden om te geloven dat een AI-systeem ‘bewustzijn heeft verkregen’, of andere menselijke kenmerken.

Misschien het meest ambitieuze, afsluitende deel van het nieuwe onderzoek is de oproep van de auteurs aan de onderzoeks- en ontwikkelingsgemeenschap om ‘passende’ en ‘precise’ terminologie te ontwikkelen, om de parameters te definiëren die een antropomorf AI-systeem zouden definiëren en onderscheiden van echte menselijke communicatie.

Net als bij veel trendy gebieden van AI-ontwikkeling, gaat dit soort categorisatie over in de literatuurstromen van psychologie, linguïstiek en antropologie. Het is moeilijk te weten wie op dit moment de autoriteit zou kunnen zijn om dergelijke definities te formuleren, en de onderzoekers van het nieuwe artikel werpen hier geen licht op.

Als er commerciële en academische inertie is rond dit onderwerp, kan dit deels te wijten zijn aan het feit dat dit verre van een nieuw onderwerp van discussie is in AI-onderzoek: zoals het artikel opmerkt, beschreef de late Nederlandse computerwetenschapper Edsger Wybe Dijkstra in 1985 antropomorfisatie als een ‘pernicieuze’ trend in systeemontwikkeling.

‘[A]ntropomorfisch denken is niet goed in de zin dat het niet helpt. Maar is het ook slecht? Ja, het is, omdat zelfs als we kunnen wijzen op een analogie tussen Mens en Ding, de analogie altijd verwaarloosbaar is in vergelijking met de verschillen, en zodra we ons laten verleiden door de analogie om het Ding te beschrijven in antropomorfische terminologie, verliezen we onmiddellijk de controle over welke menselijke connotaties we in het beeld trekken.

‘[M]aar de vertroebeling [tussen mens en machine] heeft een veel grotere impact dan je zou vermoeden. [H]et is niet alleen dat de vraag “Kunnen machines denken?” regelmatig wordt gesteld; we kunnen —en moeten— hiermee omgaan door te wijzen op het feit dat het net zo relevant is als de even brandende vraag “Kunnen duikboten zwemmen?”’

Echter, hoewel de discussie oud is, is het pas onlangs zeer relevant geworden. Het kan worden betoogd dat Dijkstra’s bijdrage equivalent is aan victoriaanse speculatie over ruimtereizen, als zuiver theoretisch en in afwachting van historische ontwikkelingen.

Daarom kan dit gevestigde lichaam van debat het onderwerp een gevoel van vermoeidheid geven, ondanks zijn potentieel voor significante sociale relevantie in de komende 2-5 jaar.

Conclusie

Als we AI-systemen zouden beschouwen op dezelfde afwijzende manier als de organische Star Wars-personages hun eigen robots behandelen (d.w.z. als ambulante zoekmachines, of slechts mechanische functionaliteit), zouden we waarschijnlijk minder risico lopen om deze sociaal ongewenste kenmerken te internaliseren in onze menselijke interacties – omdat we de systemen in een volledig niet-menselijke context zouden zien.

In de praktijk maakt de verweving van menselijke taal met menselijk gedrag dit moeilijk, zo niet onmogelijk, zodra een vraag zich uitbreidt van het minimalisme van een Google-zoekterm tot de rijke context van een conversatie.

Bovendien is de commerciële sector (evenals de reclamewereld) sterk gemotiveerd om verslavende of essentiële communicatieplatforms te creëren, voor klantbehoud en -groei.

In elk geval, als AI-systemen echt beter reageren op beleefde vragen dan op gestripte ondervragingen, kan de context ons ook om die reden worden opgedrongen.

* Selfs in 1983, het jaar waarin de laatste inzending in de oorspronkelijke Star Wars-trilogie werd uitgebracht, hadden angsten rond de groei van machine learning geleid tot de apocalyptische War Games, en de aanstaande Terminator-franchise.

^† Waar nodig heb ik de inline citaten van de auteurs omgezet in hyperlinks en heb ik in sommige gevallen enkele citaten weggelaten voor beter leesbaarheid.

Origineel gepubliceerd op maandag 14 oktober 2024