Ridescrivere il parco giochi digitale: una crociata per la sicurezza dei giovani nei social media

Le recenti udienze del Senato sui social media sono state sia aspre che convincenti. I senatori hanno affrontato i CEO di grandi aziende come Meta, X, TikTok, Snap e Discord, ponendo domande difficili e chiedendo responsabilità per l’impatto delle piattaforme sui giovani utenti. A rendere ancora più toccante questo scenario sono stati i genitori seduti dietro i leader tecnologici, i cui figli sono morti a causa dell’uso dei social media. Le loro storie strazianti hanno aggiunto una dimensione profondamente personale e tragica alle discussioni.

Le aziende di social media sono sotto attacco per la loro presunta indifferenza nei confronti del danno che causano. Le conseguenze delle loro operazioni si estendono a una serie di problemi gravi, tra cui bullismo, suicidio tra gli adolescenti, disturbi alimentari, comportamento violento e radicalizzazione, tra gli altri.

In risposta a queste preoccupazioni urgenti, il Senato è stato proattivo nel creare il Kids’ Online Safety Act (KOSA), un’ampia legge volta a risolvere i numerosi pericoli che i bambini affrontano online. Questa legge, il risultato di anni di discussione e numerose revisioni, rappresenta un tentativo legislativo di costringere le aziende di social media ad assumersi maggiori responsabilità per la sicurezza e il benessere dei loro utenti più giovani.

Ma è sufficiente?

Non trasformativo, ma un primo passo credibile

Senza analizzare nel dettaglio il KOSA, è chiaro che la legge introduce misure innovative, in particolare definendo un “dovere di cura” che obbliga le piattaforme a ridurre i rischi per i minori. Tuttavia, la portata del KOSA è limitata.

Se il Congresso approvasse il KOSA senza ulteriori azioni, le sue carenze potrebbero permettere agli effetti negativi dei social media sui giovani utenti di proliferare. In particolare, il KOSA non impedisce agli adulti di prendere di mira i bambini attraverso queste piattaforme, poiché limita solo i contenuti per gli utenti identificati come minori, senza implementare la verifica dell’età obbligatoria – una disposizione che probabilmente susciterà notevoli controversie.

Nonostante queste limitazioni, il KOSA rappresenta un passo positivo iniziale verso la salvaguardia dei bambini online. I suoi difetti non sono irreparabili. È importante che la legislazione sia vista non come una soluzione finale, ma come l’inizio di uno sforzo sostenuto e pluriennale per riformare le pratiche dei social media e ridurre i loro impatti dannosi sui bambini. Il viaggio verso un ambiente online più sicuro per i minori richiede più di uno sforzo legislativo una tantum; richiede impegno e adattamento continui.

La forte opposizione fa parte del territorio

Il KOSA è iniziato nel posto giusto, il Congresso degli Stati Uniti. Tuttavia, data la portata globale di queste piattaforme, una regolamentazione efficace richiederà sostegno federale e transnazionale, come quello dell’Unione Europea, per garantire una supervisione globale. Senza tale sostegno legislativo, è improbabile che le piattaforme social volontariamente implementino modifiche che potrebbero potenzialmente ridurre le loro metriche di engagement tra i giovani.

La legislazione federale, anche su scala modesta, offre un approccio più unificato rispetto a una raccolta disparata di leggi statali, che potrebbe consentire ai procuratori generali di perseguire obiettivi politici. Un quadro federale garantisce un terreno di gioco uniforme per tutte le piattaforme tra gli stati, impedendo alle aziende conformi di affrontare svantaggi competitivi. Tuttavia, creare una tale legislazione è un processo delicato, poiché deve resistere alle sfide legali da vari quartieri, tra cui attivisti per i diritti, grandi aziende di social media e fornitori di contenuti per adulti, tutti pronti a difendere vigorosamente i loro interessi.

La sfida di prevenire la reazione legale è aggravata dalla riluttanza delle parti interessate a compromettersi. Una strategia radicale, sebbene potenzialmente efficace, potrebbe consistere nel costringere un dialogo tra parti diverse, come l’ACLU, attivisti per i diritti, avvocati costituzionali e sostenitori della sicurezza dei bambini, con la direttiva che nessuno se ne vada fino a quando non si raggiunga un consenso.

La questione di come la legislazione dovrebbe regolare l’uso della tecnologia per la verifica dell’età o dell’identità è cruciale. Paragonare i social media alle utility sottolinea l’argomentazione per una regolamentazione più rigorosa: mentre forniscono servizi essenziali, presentano anche rischi significativi. Questa analogia invita a una rivalutazione del ruolo e della funzionalità dei social media, soprattutto considerando come gli algoritmi possano guidare gli utenti verso contenuti sempre più estremi, alimentati dalla ricerca di un maggiore engagement e ricavi pubblicitari. Questa dinamica può portare i bambini a isolarsi in camere echo online che esacerbano l’odio e il malcontento, allontanandoli ulteriormente da prospettive più sane.

Ma un cambiamento radicale nei social media non si verificherà in un solo evento. Il KOSA rappresenta un passo importante iniziale, ma è solo una parte di un puzzle complesso. Ha il potenziale di portare a cambiamenti, ma si verificherà in fasi.

È una maratona, non una sprint

Le sfumature della garanzia della sicurezza online mentre si tutelano le libertà costituzionali sono complesse. Il successo sarà probabilmente raggiunto attraverso progressi incrementali e ponderati nel corso di diversi anni.

La collaborazione, il compromesso e la costruzione del consenso saranno fondamentali per il successo del KOSA. È un obiettivo ammirevole, ma raggiungere il consenso in un sol colpo è improbabile. Un’aspettativa più realistica è che il KOSA subisca continue raffinatezze e miglioramenti attraverso aggiornamenti annuali. Questi aggiustamenti saranno informati dalle esperienze dell’anno precedente, adattandosi ai cambiamenti tecnologici, ai modelli di abuso e consentendo all’industria di adattarsi alle nuove regolamentazioni.

Idealmente, il primo round, KOSA 2024, dovrebbe comprendere valutazioni dei contenuti, verifica dell’età e opzione di rinuncia, avvertimenti e censura specificando:

• Quali contenuti sono inaccettabili e/o illegali;
• Quali contenuti possono e devono essere bloccati dalle piattaforme;
• Come etichettare precisamente i contenuti tossici ma che non possono essere bloccati;
• Come avvertire gli utenti e i genitori e quali barriere mettere intorno ai contenuti sensibili;
• Impostazioni predefinite di rinuncia (ai blocchi di contenuti).

Riforma degli algoritmi: controversa ma potenzialmente trasformativa

La prossima fase del KOSA nel 2025 si concentrerà sull’aumento della responsabilità e sull’istituzione di penalità più severe per le piattaforme e gli individui che si impegnano o facilitano attività illegali. Ciò mira a limitare non solo la diffusione di contenuti illegali, ma anche ad affrontare i comportamenti che contribuiscono alla crisi della salute mentale tra i giovani, come l’eccessivo doom-scrolling e l’immergersi in ambienti online dannosi.

Guardando più avanti, le iterazioni successive potrebbero segnare un cambiamento cruciale nel funzionamento stesso delle piattaforme di social media, potenzialmente centrato sul “rovesciamento degli algoritmi” che attualmente guidano gli utenti, in particolare i più giovani, verso spazi online negativi e a rischio. L’obiettivo è non solo prevenire l’esposizione a contenuti dannosi, ma attivamente guidare gli utenti verso interazioni online più sicure e positive.

Sebbene potenzialmente controversa, la riforma degli algoritmi apre la strada a una possibilità per le piattaforme di reinventarsi. Anticipando questi cambiamenti, le aziende di social media possono prepararsi ad adattare i loro modelli di business. L’obiettivo è rimanere redditizi mentre si crea un ambiente che priorizza il benessere degli utenti, soprattutto della fascia demografica più giovane. Questa strategia di lungimiranza suggerisce uno scenario win-win: salvaguardare la salute mentale degli utenti e garantire la sostenibilità a lungo termine delle piattaforme social, coltivando una comunità online più sana e coinvolgente.

Il cambiamento è lungamente dovuto

La testimonianza delle famiglie alle udienze del Senato sottolinea la necessità di più di cambiamenti incrementali nella regolamentazione dei social media. Una revisione robusta, a partire dal KOSA 2024, è essenziale per proteggere contro le minacce in evoluzione dell’intelligenza artificiale e delle influenze esterne. Il processo richiederà aggiustamenti continui, simili a quelli della SEC e FDA.

Ma l’inazione non è un’opzione.

Una strategia a lungo termine e focalizzata è critica per garantire la sicurezza dei nostri giovani sui social media. Iniziando riforme comprensive e raffinando continuamente queste misure, possiamo mitigare il danno e finalmente mantenere la promessa originale dei social media – migliorare le nostre vite attraverso la connessione.