Perché Silicon Valley non può “muoversi velocemente e rompere le cose” quando si tratta di intelligenza artificiale

La gente dice che Silicon Valley è maturata oltre la mentalità impulsiva di “muoversi velocemente, rompere le cose e poi ripararle dopo”, e che le aziende hanno adottato un approccio più lento e responsabile per costruire il futuro del nostro settore.

Purtroppo, le tendenze attuali raccontano una storia diversa.

Nonostante le dichiarazioni, il modo in cui le aziende costruiscono le cose non è ancora cambiato. Le startup tecnologiche stanno ancora utilizzando lo stesso codice di scorciatoie e promesse false, e la qualità declinante dei prodotti lo dimostra. “Muoversi velocemente e rompere le cose” è ancora il credo di Silicon Valley – e, anche se fosse realmente morto, il boom dell’intelligenza artificiale lo ha riportato in vita con tutta la sua forza.

I recenti progressi nell’intelligenza artificiale stanno già trasformando radicalmente il modo in cui lavoriamo e viviamo. Nel giro di solo un paio di anni, l’intelligenza artificiale è passata dal dominio dei professionisti dell’informatica a uno strumento domestico grazie alla rapida proliferazione di strumenti di intelligenza artificiale generativa come ChatGPT. Se le aziende tecnologiche “si muovono velocemente e rompono le cose” con l’intelligenza artificiale, potrebbe non esserci l’opzione di “ripararle dopo”, soprattutto quando i modelli sono addestrati su dati personali sensibili. Non si può disfare ciò che è stato fatto, e l’eco si ripercuoterà nella società, potenzialmente causando danni irreparabili. Dalle deepfake maliziose agli schemi di truffa alle campagne di disinformazione, stiamo già vedendo il lato negativo dell’intelligenza artificiale.

Allo stesso tempo, però, questa tecnologia ha il potere di cambiare la nostra società in meglio. L’adozione dell’intelligenza artificiale da parte delle aziende sarà altrettanto rivoluzionaria quanto il passaggio al cloud; le aziende ricostruiranno completamente su basi di intelligenza artificiale e diventeranno infinitamente più produttive ed efficienti a causa di essa. A livello individuale, l’intelligenza artificiale generativa diventerà il nostro assistente di fiducia, aiutandoci a completare attività quotidiane, a sperimentare in modo creativo e a sbloccare nuove conoscenze e opportunità.

Il futuro dell’intelligenza artificiale può essere luminoso, ma richiede un grande cambiamento culturale nel luogo in cui quel futuro sta sendo costruito.

Perché “Muoversi velocemente e rompere le cose” è incompatibile con l’intelligenza artificiale

“Muoversi velocemente e rompere le cose” si basa su due assunzioni principali: una, che tutto ciò che non funziona al lancio può essere corretto in un aggiornamento successivo; e due, che se “si rompono le cose”, ciò può portare a breakthrough con abbastanza codice creativo e pensiero fuori dagli schemi. E mentre molte grandi innovazioni sono nate da errori, questo non è penicillina o Coca-Cola. L’intelligenza artificiale è una tecnologia straordinariamente potente che deve essere maneggiata con la massima cautela. I rischi di violazioni dei dati e di uso criminale sono semplicemente troppo alti per essere ignorati.

Purtroppo, Silicon Valley ha la cattiva abitudine di glorificare la confusione del processo di sviluppo. Le aziende continuano a promuovere una corsa incessante, in cui lunghe ore e una mancanza di equilibrio tra lavoro e vita diventano necessarie per fare carriera. Le startup e i loro azionisti fissano obiettivi irrealistici che aumentano il rischio di errori e di scorciatoie. I limiti vengono superati quando, forse, non dovrebbero esserlo. Questi comportamenti si combinano in una cultura industriale tossica che incoraggia la caccia all’ipér alle spese dell’etica.

L’attuale ritmo di sviluppo dell’intelligenza artificiale non può continuare all’interno di questa cultura. Se l’intelligenza artificiale deve risolvere alcuni dei problemi più pressanti del mondo, dovrà formarsi su informazioni altamente sensibili, e le aziende hanno la responsabilità critica di proteggere quelle informazioni.

I presidi di sicurezza richiedono tempo per essere implementati, e il tempo è qualcosa di cui Silicon Valley è profondamente convinta di non avere. Già, stiamo vedendo aziende di intelligenza artificiale che rinunciano a salvaguardie necessarie per il solo scopo di produrre nuovi prodotti. Ciò potrebbe soddisfare gli azionisti nel breve termine, ma i rischi a lungo termine espongono queste organizzazioni a enormi danni finanziari lungo la strada – per non parlare di un completo crollo di ogni buona volontà che abbiano coltivato.

C’è anche un rischio serio associato alla violazione del diritto d’autore e della proprietà intellettuale, come dimostrato dalle varie cause federali in corso che coinvolgono l’intelligenza artificiale e il diritto d’autore. Senza adeguate protezioni contro la violazione del diritto d’autore e le violazioni della proprietà intellettuale, le persone rischiano di perdere i mezzi di sussistenza.

Per l’azienda di intelligenza artificiale che vuole sfondare lo sviluppo e andare sul mercato, questo sembra molto da considerare – e lo è. Proteggere le persone e le informazioni richiede un lavoro duro. Ma è un lavoro non negoziabile, anche se costringe gli sviluppatori di intelligenza artificiale a essere più pensierosi. In realtà, sostengo che sia il beneficio. Costruire soluzioni ai problemi prima che si verifichino, e non dovrà riparare ciò che si rompe lungo la strada.

Un nuovo credo: “Muoversi strategicamente per essere inattaccabile”

Lo scorso maggio, l’UE ha approvato la prima legge globale sull’intelligenza artificiale, il Atto sull’intelligenza artificiale, per gestire il rischio attraverso estensive richieste di trasparenza e il divieto totale di tecnologie di intelligenza artificiale ritenute un rischio inaccettabile. La legge riflette l’approccio cauto dell’UE nei confronti della nuova tecnologia, che ha governato le strategie di sviluppo dell’intelligenza artificiale fin dall’inizio dell’attuale boom. Invece di agire d’impulso, di dirottare tutti i loro dollari di venture e le loro capacità di ingegneria nel trend più recente senza una pianificazione adeguata, queste aziende investono i loro sforzi nella creazione di qualcosa che durerà.

Questo non è l’approccio prevalente negli Stati Uniti, nonostante numerosi tentativi di regolamentazione. Sul fronte legislativo, i singoli stati stanno in gran parte proponendo le loro leggi, che vanno da inadeguate a eccessivamente restrittive, come la proposta SB-1047 della California. Nel frattempo, la corsa agli armamenti dell’intelligenza artificiale si intensifica, e Silicon Valley persiste nelle sue vecchie abitudini.

I capitalisti di venture stanno solo alimentando il problema. Quando investono in nuove startup, non chiedono delle salvaguardie e dei controlli di sicurezza. Vogliono ottenere un prodotto minimo viable il più velocemente possibile in modo da poter riscuotere i loro assegni. Silicon Valley è diventata un terreno fertile per schemi di arricchimento rapido, in cui le persone vogliono fare quanta più soldi possibile, nel minor tempo possibile, facendo il meno lavoro possibile – e non si curano delle conseguenze.

Per l’era dell’intelligenza artificiale, vorrei proporre un sostituto per “muoversi velocemente e rompere le cose”: muoversi strategicamente per essere inattaccabile. Potrebbe non avere la stessa verve poetica del precedente, ma riflette la mentalità di cui Silicon Valley ha bisogno nel panorama tecnologico odierno.

Sono ottimista che l’industria tecnologica possa essere migliore, e inizia con l’adozione di una mentalità centrata sul cliente e orientata al futuro, focalizzata sulla creazione di prodotti che durino e sul loro mantenimento in modo da favorire la fiducia degli utenti. Un approccio più consapevole renderà le persone e le organizzazioni più sicure nell’introdurre l’intelligenza artificiale nelle loro vite – e questo suona abbastanza redditizio per me.

Verso un futuro sostenibile

Il mondo della tecnologia soffre di una pressione schiacciante per essere il primo. I fondatori sentono che se non saltano sul prossimo grande affare subito, perderanno l’opportunità. Naturalmente, essere un precursore può aumentare le possibilità di successo, ma essere “primo” non dovrebbe avvenire a spese della sicurezza e dell’etica.

Quando l’obiettivo è costruire qualcosa che duri, si finirà per cercare più a fondo i rischi e le debolezze. Questo è anche il modo per trovare nuove opportunità di innovazione. Le aziende che possono trasformare i punti di forza in debolezze sono quelle che possono risolvere le sfide di domani, oggi.

L’entusiasmo è reale, e la nuova era dell’intelligenza artificiale è degna di esso. Ma nel nostro entusiasmo per sbloccare il potere di questa tecnologia, non possiamo trascurare le salvaguardie necessarie che renderanno questi prodotti affidabili e degni di fiducia. L’intelligenza artificiale promette di migliorare le nostre vite per il meglio, ma può anche causare danni imponderabili se la sicurezza e la sicurezza non sono al centro del processo di sviluppo.

Per Silicon Valley, questo dovrebbe essere un richiamo alla realtà: è il momento di lasciarsi alle spalle la mentalità di “muoversi velocemente, rompere le cose e poi ripararle dopo”. Perché non c’è “dopo” quando il futuro è ora.