I leader tecnologici evidenziano i rischi dell’AI e l’urgenza di una robusta regolamentazione dell’AI

La crescita e gli sviluppi dell’AI sono stati esponenziali negli ultimi anni. Statista riporta che entro il 2024, il mercato globale dell’AI genererà entrate stimate di circa 3000 miliardi di dollari, rispetto ai 126 miliardi di dollari del 2015. Tuttavia, i leader tecnologici stanno ora avvertendo sui vari rischi dell’AI.

In particolare, l’ultima ondata di modelli di AI generativa come ChatGPT ha introdotto nuove capacità in vari settori sensibili ai dati, come la sanità, l’istruzione, la finanza, ecc. Questi sviluppi supportati dall’AI sono vulnerabili a causa di molte carenze dell’AI che gli agenti malintenzionati possono esporre.

Discutiamo cosa stanno dicendo gli esperti di AI sui recenti sviluppi e mettiamo in evidenza i potenziali rischi dell’AI. Tratteremo anche brevemente come gestire questi rischi.

I leader tecnologici e le loro preoccupazioni relative ai rischi dell’AI

Geoffrey Hinton

Geoffrey Hinton – un famoso leader tecnologico dell’AI (e padre putativo di questo settore), che ha recentemente lasciato Google (GOOGL ), ha espresso le sue preoccupazioni sui rapidi sviluppi dell’AI e sui suoi potenziali pericoli. Hinton ritiene che i chatbot dell’AI possano diventare “piuttosto spaventosi” se superano l’intelligenza umana.

Hinton afferma:

“Al momento, ciò che stiamo vedendo è che cose come GPT-4 eclissano una persona per quantità di conoscenza generale e la eclissano di molto. In termini di ragionamento, non è altrettanto bravo, ma già esegue un ragionamento semplice. E considerando il ritmo di progressi, ci aspettiamo che le cose migliorino abbastanza in fretta. Quindi dobbiamo preoccuparci di questo.”

Inoltre, ritiene che “cattivi attori” possano utilizzare l’AI per “cose cattive”, come consentire ai robot di avere obiettivi secondari. Nonostante le sue preoccupazioni, Hinton ritiene che l’AI possa portare benefici a breve termine, ma dovremmo anche investire molto nella sicurezza e nel controllo dell’AI.

Elon Musk

L’impegno di Elon Musk nell’AI è iniziato con il suo primo investimento in DeepMind nel 2010, per poi cofondare OpenAI e integrare l’AI nei veicoli autonomi di Tesla.

Sebbene sia entusiasta dell’AI, solleva frequentemente preoccupazioni sui rischi dell’AI. Musk afferma che i sistemi di AI potenti possono essere più pericolosi per la civiltà delle armi nucleari. In un’intervista a Fox News di aprile 2023, ha detto:

“L’AI è più pericolosa di, diciamo, una progettazione aerea mal gestita o una manutenzione di produzione o una cattiva produzione di auto. Nel senso che ha il potenziale — per quanto piccolo si possa considerare questa probabilità — ma non è trascurabile e ha il potenziale di distruggere la civiltà.”

Inoltre, Musk sostiene la regolamentazione governativa dell’AI per garantire la sicurezza dai potenziali rischi, sebbene “non sia così divertente”.

Interrompere gli esperimenti di AI su larga scala: una lettera aperta sostenuta da migliaia di esperti di AI

Future of Life Institute ha pubblicato una lettera aperta il 22 marzo 2023. La lettera chiede una sospensione temporanea di sei mesi per lo sviluppo di sistemi di AI più avanzati di GPT-4. Gli autori esprimono le loro preoccupazioni sul ritmo con cui i sistemi di AI stanno essere sviluppati, che pone gravi sfide socioeconomiche.

Inoltre, la lettera afferma che gli sviluppatori di AI dovrebbero lavorare con i responsabili delle politiche per documentare i sistemi di governance dell’AI. A giugno 2023, la lettera è stata firmata da oltre 31.000 sviluppatori di AI, esperti e leader tecnologici. Tra i firmatari notevoli ci sono Elon Musk, Steve Wozniak (cofondatore di Apple (AAPL )), Emad Mostaque (CEO, Stability AI), Yoshua Bengio (vincitore del Premio Turing) e molti altri.

Argomenti contrari alla sospensione dello sviluppo dell’AI

Due importanti leader dell’AI, Andrew Ng e Yann LeCun, si sono opposti alla sospensione di sei mesi per lo sviluppo di sistemi di AI avanzati e hanno considerato la pausa un’idea sbagliata.

Ng afferma che sebbene l’AI abbia alcuni rischi, come i pregiudizi, il valore creato dall’AI in campi come l’istruzione, la sanità e la formazione è enorme.

Yann LeCun afferma che la ricerca e lo sviluppo non dovrebbero essere interrotti, sebbene i prodotti di AI che raggiungono l’utente finale possano essere regolamentati.

Quali sono i pericoli potenziali e i rischi immediati dell’AI?

1. Sostituzione del lavoro

Gli esperti di AI ritengono che i sistemi di AI intelligenti possano sostituire compiti cognitivi e creativi. La banca d’investimenti Goldman Sachs stima che circa 300 milioni di lavori saranno automatizzati dall’AI generativa.

Pertanto, dovrebbero esserci regolamentazioni sullo sviluppo dell’AI in modo che non causi una grave recessione economica. Dovrebbero esserci programmi educativi per migliorare le competenze e riqualificare i dipendenti per affrontare questa sfida.

2. Sistemi di AI pregiudizievoli

I pregiudizi presenti tra gli esseri umani riguardo al genere, alla razza o al colore possono involontariamente permeare i dati utilizzati per l’addestramento dei sistemi di AI, rendendo così i sistemi di AI pregiudizievoli.

Ad esempio, nel contesto del reclutamento, un sistema di AI pregiudizievole può scartare i curriculum di individui di specifici background etnici, creando discriminazione nel mercato del lavoro. Nell’applicazione della legge, la polizia predittiva pregiudizievole potrebbe colpire in modo sproporzionato specifici quartieri o gruppi demografici.

Pertanto, è essenziale avere una strategia di dati globale che affronti i rischi dell’AI, in particolare i pregiudizi. I sistemi di AI devono essere valutati e verificati frequentemente per mantenerli equi.

3. Applicazioni di AI critiche per la sicurezza

I veicoli autonomi, la diagnosi e il trattamento medico, i sistemi di aviazione, il controllo delle centrali nucleari, ecc. sono tutti esempi di applicazioni di AI critiche per la sicurezza. Questi sistemi di AI devono essere sviluppati con cautela perché anche piccoli errori potrebbero avere gravi conseguenze per la vita umana o l’ambiente.

Ad esempio, il malfunzionamento del software di AI chiamato Maneuvering Characteristics Augmentation System (MCAS) è attribuito in parte al crash dei due Boeing 737 MAX, il primo in ottobre 2018 e poi in marzo 2019. Purtroppo, i due incidenti hanno ucciso 346 persone.

Come superare i rischi dei sistemi di AI? – Sviluppo di AI responsabile e conformità normativa

AI responsabile (RAI) significa sviluppare e distribuire sistemi di AI equi, responsabili, trasparenti e sicuri che garantiscano la privacy e seguano le norme giuridiche e le norme sociali. Implementare l’AI responsabile può essere complesso dato lo sviluppo rapido e ampio dei sistemi di AI.

Tuttavia, le grandi aziende tecnologiche hanno sviluppato framework di AI responsabile, come:

1. Microsoft’s Responsible AI (MSFT )
2. Google’s AI Principles
3. IBM’S Trusted AI

I laboratori di AI in tutto il mondo possono trarre ispirazione da questi principi o sviluppare i propri framework di AI responsabile per creare sistemi di AI affidabili.

Conformità normativa dell’AI

Poiché i dati sono un componente essenziale dei sistemi di AI, le organizzazioni e i laboratori di AI basati sui dati devono rispettare le seguenti norme per garantire la sicurezza, la privacy e la protezione dei dati.

1. GDPR (Regolamento generale sulla protezione dei dati) – un quadro di protezione dei dati dell’UE.
2. CCPA (California Consumer Privacy Act) – una legge statale della California per i diritti della privacy e la protezione dei consumatori.
3. HIPAA (Health Insurance Portability and Accountability Act) – una legislazione degli Stati Uniti che tutela i dati medici dei pazienti.
4. EU AI Act, e Linee guida per l’AI affidabile – una regolamentazione dell’AI della Commissione europea.

Ci sono varie leggi regionali e locali emanate da diversi paesi per proteggere i propri cittadini. Le organizzazioni che non garantiscono la conformità normativa relativamente ai dati possono subire gravi penalità. Ad esempio, il GDPR ha stabilito una multa di 20 milioni di euro o il 4% del profitto annuo per gravi violazioni, come l’elaborazione di dati illecita, il consenso dei dati non dimostrato, la violazione dei diritti dei soggetti dei dati o il trasferimento di dati non protetto a un’entità internazionale.

Sviluppo e regolamentazione dell’AI – Presente e futuro

Con ogni mese che passa, gli sviluppi dell’AI raggiungono vette senza precedenti. Ma le regolamentazioni e i framework di governance dell’AI che li accompagnano sono in ritardo. Devono essere più robusti e specifici.

I leader tecnologici e gli sviluppatori di AI stanno suonando l’allarme sui rischi dell’AI se non regolamentata adeguatamente. La ricerca e lo sviluppo dell’AI possono portare ulteriore valore in molti settori, ma è chiaro che una regolamentazione attenta è ora imperativa.

Per ulteriore contenuto relativo all’AI, visitate unite.ai.