L’allarmismo apocalittico sull’IA e i caffè a tema IA: le questioni di governance che non possiamo permetterci di trascurare

Siamo condannati? L’IA è cosciente? E perché le aziende di IA aprono caffè?

Sono domande vivide e inquietanti, e—soprattutto nel caso della coscienza—davvero difficili. Hanno anche in comune la capacità di attirarci verso gli aspetti più speculativi o emotivamente coinvolgenti della storia dell’IA. Nel frattempo, le questioni meno cinematografiche stanno già incidendo sulla vita delle persone: chi è responsabile quando un sistema di IA provoca un danno? Quali dati e quale lavoro umano lo hanno reso possibile? Su quali decisioni dovrebbe poter influire? E chi ha voce in capitolo?

Non do necessariamente per scontato che chi solleva il tema dei rischi esistenziali, discute di coscienza delle macchine o apre un caffè lo faccia per eludere queste domande. Ognuno di questi temi può meritare di per sé la nostra attenzione. Ma l’attenzione è una risorsa limitata. Quando una storia drammatica si prende la scena, vale la pena chiedersi che cos’altro è finito fuori dal nostro campo visivo.

Il fascino di un’IA tangibile

L’industria dell’IA ha iniziato a dare sedi fisiche ai suoi prodotti, perlopiù immateriali. “Zero Slop Zone” di Anthropic, a New York, invitava i visitatori a rallentare i ritmi davanti a un caffè, con libri, carta e penna; Perplexity ha aperto Cafe Curious, un caffè a Seul in cui l’IA dell’azienda fa parte dell’esperienza. Il racconto dell’iniziativa temporanea di Anthropic e del caffè di Perplexity a Seul descrive due tentativi distinti di portare una tecnologia astratta in un contesto quotidiano e sociale.

È comprensibile. La maggior parte delle persone non può vedere un modello linguistico, esaminarne l’infrastruttura o immaginare facilmente che cosa accade tra un prompt e una risposta. Un caffè offre una sorta di equivalente tangibile: una stanza, una tazza, una conversazione. Può rendere un’azienda e la sua tecnologia più accessibili e, forse, più facili da comprendere.

C’è anche un secondo aspetto. Uno spazio fisico rende un’azienda visibile all’interno di una comunità. Dice, come minimo: «Siamo qui, in questo luogo, per ora». In un settore in cui prodotti, politiche e aspettative cambiano rapidamente, questo può rassicurare. Ma visibilità non significa responsabilità. Uno spazio accogliente può rendere una tecnologia più familiare senza dirci come è stata addestrata, in quali circostanze è affidabile o a quali rimedi può ricorrere una persona quando commette un errore grave.

Questa distinzione richiama un’idea a cui torno da anni: le esperienze digitali non sono mai soltanto digitali. Si inseriscono in luoghi, relazioni e istituzioni. La questione progettuale non è semplicemente come rendere un sistema di IA accessibile. È capire se l’esperienza aiuta le persone a comprenderne i limiti e a conservare un’effettiva capacità di scelta.

Il dibattito sulla coscienza e le persone già coinvolte

La stessa distinzione è importante nel dibattito sulla coscienza dell’IA. Esistono divergenze reali sulla possibilità che le macchine siano coscienti, su quali prove sarebbero sufficienti e su come l’incertezza dovrebbe orientare le nostre responsabilità. La tesi sostenuta da Anil Seth su Noema afferma che intelligenza e coscienza non dovrebbero essere considerate intercambiabili; anche un recente articolo su The Guardian spiega perché la questione resta irrisolta. Questo dibattito non ammette risposte semplici.

Ma l’incertezza sulla vita interiore di una macchina non rende incerte le domande attuali sulle conseguenze per le persone. La responsabilità non comincia soltanto quando avremo chiarito che cosa sia la coscienza. Comincia quando le organizzazioni sviluppano, distribuiscono e sfruttano sistemi che incidono sulla vita delle persone.

Consideriamo le domande a cui possiamo già trovare risposta. Quali informazioni sono state usate per addestrare un sistema e a quali condizioni? Chi svolge il lavoro di preparazione e verifica dei suoi risultati? Come si comporta con gruppi diversi? Che cosa accade quando un sistema viene impiegato nell’assistenza sanitaria, nelle assunzioni, nell’istruzione o nei servizi pubblici? Una persona può contestare una raccomandazione automatizzata, rivolgersi a chi prende decisioni ed è umano e ottenere una spiegazione esauriente?

Non si tratta di preoccupazioni ipotetiche. Un’analisi dei pregiudizi nell’IA medica descrive come dati distorti e scelte progettuali possano contribuire a decisioni cliniche inique. La ricerca sull’IA e l’occupazione, invece, è ancora in evoluzione: l’analisi di Anthropic sul mercato del lavoro propone un metodo per misurare l’esposizione, mentre la rassegna dell’Hamilton Project avverte che le prove sugli effetti complessivi sul mercato del lavoro sono ancora incomplete. Queste fonti indicano direzioni diverse su ciò che possiamo concludere oggi, ma ribadiscono la necessità di misurare gli effetti, anziché sostituire le prove con narrazioni sicure di sé.

C’è un rischio correlato nel modo in cui parliamo dei sistemi. Nomi, voci e stili conversazionali simili a quelli umani possono far sembrare un’IA più una persona che un prodotto. Questo può influire sulla fiducia e sulla propensione delle persone ad affidarsi alle sue risposte. È ragionevole chiedersi se il dibattito sulla coscienza o una progettazione antropomorfica possano distogliere l’attenzione dalle organizzazioni che definiscono gli obiettivi e i limiti del sistema. Un’analisi pubblicata su MIT Technology Review sostiene che le narrazioni sulla coscienza possono offuscare le questioni legate alla responsabilità aziendale. È un’affermazione sugli effetti di questa impostazione, non la prova che chiunque sollevi la questione abbia secondi fini.

L’apocalisse non è un piano di governance

Il rischio esistenziale merita seria attenzione. La possibilità di conseguenze catastrofiche non rende meno importanti i danni più immediati, così come la possibilità di una catastrofe non rende meno importanti i danni a breve termine. Non dobbiamo scegliere un orizzonte temporale e ignorare l’altro.

Ma quando «Siamo condannati?» diventa l’intero argomento della conversazione, i rischi a lungo termine tornano a mettere in ombra i danni del presente. La condanna può sembrare una conclusione anziché un invito ad agire: se l’esito è inevitabile, perché impegnarsi nel difficile lavoro necessario a cambiarlo? Un articolo del New Yorker su un corso dedicato al rischio esistenziale racconta la domanda di uno studente, che paragona il proprio impegno alla «costruzione di una cattedrale»: perché dedicarsi a costruire qualcosa che potrebbe durare più di noi, se si crede che il mondo possa finire? La risposta non è che i rischi scompaiano. È che l’incertezza non annulla la nostra capacità — né la nostra responsabilità — di decidere cosa conta per il futuro e contribuire a plasmarlo.

È questo che intendo con la mia filosofia dell’«ottimismo strategico». Non significa credere ingenuamente che «andrà tutto bene», né rifiutarsi di considerare le prove. Significa riconoscere i rischi reali, impegnarsi a ridurli e e, nel frattempo, lavorare seriamente per costruire un futuro che valga la pena raggiungere. La speranza non è l’opposto del rigore. Può essere ciò che mantiene il rigore legato all’azione.

Le questioni di governance dietro lo spettacolo

Che un’organizzazione acquisti uno strumento di IA, ne sviluppi uno o definisca politiche al riguardo, le questioni pratiche sono meno appariscenti di un caffè o di un’affermazione sulla coscienza, ma più utili:

• Scopo: Quale problema dovrebbe risolvere il sistema e l’IA è lo strumento giusto per farlo?
• Prove: Come è stato testato, anche con utenti diversi e nei casi meno comuni?
• Limiti: Quali decisioni devono restare affidate a una persona e che cosa non può fare il sistema?
• Responsabilità: Chi risponde quando il sistema non funziona e come possono presentare ricorso le persone coinvolte?
• Trasparenza: Le persone possono capire quando viene usata l’IA e quali informazioni hanno influenzato il risultato?
• Supervisione continua: Chi controlla le prestazioni, i cambiamenti nei dati e gli effetti indesiderati dopo il lancio?

Framework come il framework NIST per la gestione dei rischi dell’IA offrono alle organizzazioni un metodo strutturato per individuare e gestire i rischi durante l’intero ciclo di vita di un sistema di IA. Nessun framework può sostituire il giudizio o il dibattito pubblico, ma la governance diventa più concreta quando responsabilità, test e procedure di ricorso sono definiti con chiarezza.

C’è anche un livello fisico da governare. L’IA dipende da centri dati, elettricità, acqua, terreni e finanziamenti, non soltanto dalle interfacce. Un’inchiesta sulla struttura finanziaria di un importante progetto di centro dati solleva interrogativi su come vengono comunicati i rischi infrastrutturali e su chi, in ultima analisi, se ne assume il peso. Un caffè può aiutare le persone a entrare in contatto con l’IA, ma da solo non può rendere comprensibile l’infrastruttura che la sostiene.

Godetevi il caffè. Ponete le grandi domande sulla coscienza. Prendete sul serio il rischio catastrofico. Poi tornate alle decisioni che possiamo esaminare e influenzare fin da ora: che cosa viene costruito, chi ne trae vantaggio, chi ne sostiene i costi e quali garanzie esistono quando qualcosa va storto.

Il futuro non è una sentenza pronunciata da un titolo di giornale. È un insieme di scelte — compiute da aziende, istituzioni, governi e comunità — che possono ancora essere messe in discussione e cambiate. La domanda più utile non è soltanto se siamo condannati. È quali condizioni permetterebbero all’IA di favorire la realizzazione e il benessere delle persone e che cosa siamo disposti a fare perché quelle condizioni diventino realtà.