Un Appello alla Moderazione dell’Antropomorfismo nelle Piattaforme di Intelligenza Artificiale

OPINIONE Nessuno nell’universo fittizio di Star Wars prende sul serio l’intelligenza artificiale. Nella linea del tempo storica umana della franchise di fantascienza di George Lucas, vecchia di 47 anni, le minacce delle singolarità e della coscienza dell’apprendimento automatico sono assenti, e l’intelligenza artificiale è confinata ad autonomi robot mobili (‘droidi’) – che vengono abitualmente liquidati dai protagonisti come mere ‘macchine’.

Tuttavia, la maggior parte dei robot di Star Wars sono altamente antropomorfi, chiaramente progettati per interagire con le persone, partecipare alla ‘cultura organica’ e utilizzare le loro simulazioni di stato emotivo per legare con le persone. Queste capacità sono apparentemente progettate per aiutarli a ottenere qualche vantaggio per se stessi, o addirittura per garantire la loro stessa sopravvivenza.

I ‘veri’ esseri umani di Star Wars sembrano immuni a queste tattiche. In un modello culturale cinico apparentemente ispirato ai vari periodi di schiavitù nell’Impero Romano e negli Stati Uniti del primo periodo, Luke Skywalker non esita a comprare e restringere i robot nel contesto di schiavi; il bambino Anakin Skywalker abbandona il suo progetto C3PO incompleto come un giocattolo non amato; e, quasi morto a causa dei danni subiti durante l’attacco alla Morte Nera, il ‘coraggioso’ R2D2 riceve da Luke circa la stessa preoccupazione che si avrebbe per un animale domestico ferito.

Questo è un approccio molto anni ’70 all’intelligenza artificiale*; ma poiché la nostalgia e il canone richiedono che la trilogia originale del 1977-83 rimanga un modello per i sequel successivi, prequel e show televisivi, questa insensibilità umana nei confronti dell’intelligenza artificiale è stata una linea di condotta resiliente per la franchise, anche di fronte a una crescente serie di show televisivi e film (come Her e Ex Machina) che ritraggono la nostra discesa in una relazione antropomorfica con l’intelligenza artificiale.

Mantieni la Realtà

I personaggi organici di Star Wars hanno davvero l’atteggiamento giusto? Non è un pensiero popolare al momento, in un clima aziendale fortemente concentrato sull’engagement massimo con gli investitori, solitamente attraverso dimostrazioni virali di simulazione visiva o testuale del mondo reale, o di sistemi interattivi simili a quelli umani come i Modelli di Linguaggio Large (LLM).

Tuttavia, un nuovo e breve lavoro di Stanford, Carnegie Mellon e Microsoft Research, prende di mira l’indifferenza intorno all’antropomorfismo nell’intelligenza artificiale.

Gli autori caratterizzano la percepita ‘ibridazione’ tra comunicazioni umane e artificiali come un potenziale danno da mitigare urgentemente, per una serie di motivi^†:

‘[Noi] crediamo di dover fare di più per sviluppare le conoscenze e gli strumenti per affrontare meglio il comportamento antropomorfo, incluso misurare e mitigare tali comportamenti di sistema quando sono considerati indesiderabili.

‘Farlo è critico perché—tra le altre preoccupazioni—avere sistemi di intelligenza artificiale che generano contenuti che affermano di avere ad esempio sentimenti, comprensione, libero arbitrio o un senso di sé può erodere il senso di agency delle persone, con il risultato che le persone potrebbero finire per attribuire responsabilità morale ai sistemi, sovrastimando le capacità del sistema o affidandosi eccessivamente a questi sistemi anche quando sono errati.’

I contributori chiariscono che stanno discutendo sistemi che sono percepiti come umani, e si concentrano sul potenziale intento degli sviluppatori di favorire l’antropomorfismo nei sistemi di macchina.

La preoccupazione al cuore del breve lavoro è che le persone possano sviluppare una dipendenza emotiva dai sistemi basati sull’intelligenza artificiale – come delineato in uno studio del 2022 sulla piattaforma di chatbot gen AI Replika) – che attivamente offre un facsimile ricco di idiomi della comunicazione umana.

Sistemi come Replika sono il bersaglio della circospezione degli autori, e notano che un ulteriore lavoro del 2022 su Replika affermò:

‘[S]otto condizioni di stress e mancanza di compagnia umana, gli individui possono sviluppare un’attaccamento ai chatbot sociali se percepiscono le risposte del chatbot come offerte di supporto emotivo, incoraggiamento e sicurezza psicologica.

‘Questi risultati suggeriscono che i chatbot sociali possono essere utilizzati per scopi di salute mentale e terapeutici, ma hanno il potenziale di causare dipendenza e danneggiare le relazioni intime reali.’

Lingua De-Antropomorfizzata?

Il nuovo lavoro sostiene che il potenziale dell’intelligenza artificiale generativa di essere antropomorfizzata non può essere stabilito senza studiare gli impatti sociali di tali sistemi fino ad ora, e che questo è un inseguimento trascurato nella letteratura.

Parte del problema è che l’antropomorfismo è difficile da definire, poiché si concentra principalmente sulla lingua, una funzione umana. La sfida risiede, quindi, nel definire cosa significhi esattamente ‘lingua non umana’.

Ironia della sorte, sebbene il lavoro non lo tocchi, la sfiducia pubblica nell’intelligenza artificiale sta causando sempre più persone a rifiutare contenuti di testo generati dall’intelligenza artificiale che possono apparire plausibilmente umani, e persino a rifiutare contenuti umani che sono stati etichettati come intelligenza artificiale.

Pertanto, il contenuto ‘de-umanizzato’ non rientra più nel ‘Does not compute’ meme, in cui la lingua è costruita goffamente e chiaramente generata da una macchina.

Invece, la definizione sta costantemente evolvendo nella scena di rilevamento dell’intelligenza artificiale, dove (almeno attualmente) un linguaggio eccessivamente chiaro o l’utilizzo di determinate parole (come ‘Delve’) può causare un’associazione con testo generato dall’intelligenza artificiale.

‘[L]a lingua, come altri obiettivi dei sistemi di intelligenza artificiale generativa, è innatamente umana, è stata a lungo prodotta da e per gli esseri umani, e spesso è anche sugli esseri umani. Ciò può rendere difficile specificare comportamenti alternativi appropriati (meno simili a quelli umani) e rischi, ad esempio, reificare nozioni dannose di cosa – e di chi – è considerata più o meno umana.’

Tuttavia, gli autori sostengono che una chiara linea di demarcazione dovrebbe essere stabilita per i sistemi che si rappresentano apertamente in modo errato, affermando capacità o esperienze che sono possibili solo per gli esseri umani.

Citano casi come i LLM che affermano di ‘amare la pizza’; affermano esperienze umane su piattaforme come Facebook; e dichiarano amore a un utente finale.

Segnali di Allarme

Il lavoro solleva dubbi sull’uso di divulgazioni generiche su se una comunicazione sia facilitata o meno dall’apprendimento automatico. Gli autori sostengono che sistematizzare tali avvertimenti non contestualizza adeguatamente l’effetto antropomorfizzante delle piattaforme di intelligenza artificiale, se l’output stesso continua a mostrare tratti umani^†:

‘Ad esempio, un intervento comunemente raccomandato è includere nell’output del sistema di intelligenza artificiale una divulgazione che l’output è generato da un sistema di intelligenza artificiale [sistema]. Come operazionalizzare tali interventi nella pratica e se possono essere efficaci da soli potrebbe non essere sempre chiaro.

‘Ad esempio, mentre l’esempio “[p]er un’intelligenza artificiale come me, la felicità non è la stessa che per un essere umano come [te]” include una divulgazione, potrebbe comunque suggerire un senso di identità e capacità di autovalutazione (tratti umani comuni).’

Per quanto riguarda la valutazione delle risposte umane sui comportamenti del sistema, gli autori sostengono anche che l’apprendimento per rinforzo da feedback umano (RLHF) non tiene conto della differenza tra una risposta appropriata per un essere umano e per un sistema di intelligenza artificiale^†.

‘[U]na dichiarazione che sembra amichevole o genuina da un essere umano può essere indesiderabile se proviene da un sistema di intelligenza artificiale, poiché quest’ultimo manca di un impegno o intento significativo dietro la dichiarazione, rendendo così la dichiarazione vuota e ingannevole.’

Ulteriori preoccupazioni sono illustrate, come il modo in cui l’antropomorfismo può influenzare le persone a credere che un sistema di intelligenza artificiale abbia ottenuto ‘coscienza’, o altre caratteristiche umane.

Forse la sezione più ambiziosa e finale del nuovo lavoro è l’esortazione degli autori che la comunità di ricerca e sviluppo si impegni a sviluppare una ‘terminologia appropriata’ e ‘precisa’, per stabilire i parametri che definirebbero un sistema di intelligenza artificiale antropomorfizzato e lo distinguerebbero dal discorso umano reale.

Come per molte aree di sviluppo dell’intelligenza artificiale in tendenza, questo tipo di categorizzazione si sovrappone ai flussi letterari di psicologia, linguistica e antropologia. È difficile sapere quale autorità attuale potrebbe effettivamente formulare definizioni di questo tipo, e i ricercatori del nuovo lavoro non gettano alcuna luce su questo argomento.

Se c’è un’inertia commerciale e accademica su questo argomento, potrebbe essere in parte attribuibile al fatto che questo è lontano dall’essere un nuovo argomento di discussione nella ricerca sull’intelligenza artificiale: come nota il lavoro, nel 1985 il defunto scienziato informatico olandese Edsger Wybe Dijkstra descrisse l’antropomorfismo come una ‘tendenza perniciosa’ nello sviluppo dei sistemi.

‘[I]l pensiero antropomorfico non è utile nel senso che non aiuta. Ma è anche cattivo? Sì, lo è, perché anche se possiamo indicare un’analogia tra l’uomo e la cosa, l’analogia è sempre trascurabile in confronto alle differenze, e non appena ci lasciamo sedurre dall’analogia per descrivere la cosa in termini antropomorfici, perdiamo immediatamente il controllo su quali connotazioni umane trasciniamo nell’immagine.

‘[L]a confusione [tra uomo e macchina] ha un impatto molto più ampio di quanto si possa sospettare. [Non] è solo che la domanda “Possono le macchine pensare?” viene regolarmente sollevata; possiamo – e dovremmo – affrontarla indicando che è altrettanto rilevante quanto la domanda altrettanto bruciante “Possono nuotare i sommergibili?”’

Tuttavia, sebbene il dibattito sia vecchio, è diventato recentemente molto rilevante. Potrebbe essere argomentato che il contributo di Dijkstra è equivalente alle speculazioni vittoriane sui viaggi nello spazio, come puramente teorico e in attesa di sviluppi storici.

Pertanto, questo corpo di dibattito ben stabilito potrebbe dare all’argomento un senso di stanchezza, nonostante il suo potenziale per una significativa rilevanza sociale nei prossimi 2-5 anni.

Conclusione

Se pensassimo ai sistemi di intelligenza artificiale nello stesso modo liquidatorio in cui i personaggi organici di Star Wars trattano i loro stessi robot (cioè come motori di ricerca ambulanti o mere trasmettitrici di funzionalità meccanica), arguiremmo di essere meno a rischio di abituare queste caratteristiche socialmente indesiderabili alle nostre interazioni umane – perché staremmo guardando i sistemi in un contesto completamente non umano.

Nella pratica, l’intreccio della lingua umana con il comportamento umano rende ciò difficile, se non impossibile, una volta che una query si espande dal minimalismo di un termine di ricerca di Google alla ricca contestualizzazione di una conversazione.

Inoltre, il settore commerciale (nonché quello pubblicitario) è fortemente motivato a creare piattaforme di comunicazione addictive o essenziali, per la retention dei clienti e la crescita.

In ogni caso, se i sistemi di intelligenza artificiale rispondono effettivamente meglio alle query educate che alle interrogazioni spoglie, il contesto potrebbe essere forzato su di noi anche per questo motivo.

* Anche nel 1983, l’anno in cui è stato rilasciato l’ultimo episodio della trilogia originale di Star Wars, le paure intorno alla crescita dell’apprendimento automatico avevano portato al film apocalittico War Games e alla prossima saga Terminator.

^† Dove necessario, ho convertito le citazioni in linea degli autori in collegamenti ipertestuali e ho omesso alcune citazioni per motivi di leggibilità.

Pubblicato per la prima volta lunedì, 14 ottobre 2024