AI come Predatore Apex nel Mondo dello Sviluppo

Pressione Evolutiva: Una Breve Introduzione

Prima di entrare nel vivo dell’argomento, ci sono alcuni concetti da stabilire. Il primo è la pressione evolutiva.

L’evoluzione non è una scelta. Gli animali non scelgono di evolversi in un modo o nell’altro – il loro ambiente li costringe a farlo, o li elimina. Quindi, quando parliamo di come un animale si è evoluto, o perché esiste come fa oggi, non stiamo parlando di una serie di decisioni consapevoli. Stiamo parlando di mutazioni casuali e pressioni ambientali che hanno spinto una specie in una direzione o nell’altra.

Attualmente, le aziende di software stanno entrando in un momento evolutivo simile. I sistemi di intelligenza artificiale in grado di identificare autonomamente le vulnerabilità, generare exploit e accelerare gli attacchi informatici stanno cambiando la pressione sotto cui operano gli sviluppatori e i team di sicurezza.

L’AI sta creando la stessa pressione ambientale per le aziende di software. I modelli in grado di scoprire autonomamente le vulnerabilità, generare exploit e automatizzare gli attacchi su larga scala stanno cambiando il panorama della sicurezza molto più velocemente di quanto la maggior parte delle organizzazioni sia preparata.

La specifica pressione evolutiva di cui voglio parlare è il predatore apex sulla Terra al momento: gli esseri umani. E il modo in cui tre animali molto diversi hanno risposto a questa pressione.

Chi Ha Fatto Peggio: Il Grande Wombat o il Pollo?

Il Grande Wombat

Il grande wombat – non ricordo il nome esatto, ma viveva in Australia – pesava circa 6.000 libbre. Prima dell’arrivo degli esseri umani, l’Australia era un luogo verde e quasi paradisiaco. Se solo non l’avessimo toccato. Questi enormi wombats vivevano per lo più senza problemi. Alcuni predatori li prendevano occasionalmente, ma data la loro enorme taglia, l’abbondanza di cibo e la loro capacità di riprodursi, se la cavavano contro tutto ciò che il continente aveva da offrire.

Poi gli esseri umani sono arrivati.

Due cose sono accadute immediatamente. Gli esseri umani hanno visto una fonte di proteine massive che poteva nutrire un gruppo per settimane – più a lungo, se potevano conservare la carne. In secondo luogo, hanno iniziato a disboscare le foreste di cui il wombat dipendeva, o tagliando alberi per legna da ardere o bruciando intere aree di terra per scacciare gli animali e ucciderli. Gli esseri umani sono straordinariamente bravi in questo tipo di distruzione coordinata ed efficiente.

In un periodo di tempo geologicamente breve – praticamente da un giorno all’altro – gli esseri umani hanno disboscato grandi parti del continente e cacciato fino all’estinzione l’ultimo grande wombat.

È importante notare che non tutti gli animali australiani sono diventati estinti. Il canguro, i piccoli wombats, i koala e altri sono sopravvissuti – perché erano abbastanza piccoli, veloci o adattabili da restare fuori portata. Quando gli europei sono arrivati, il continente era stato plasmato in qualcosa di aspro e spietato. Una popolazione umana più piccola, rude e adattata a condizioni estreme. Gli animali che erano o molto piccoli, molto letali o entrambi. Come si dice: tutto in Australia cerca di ucciderti.

Questo è il primo esempio.

Il Pollo

Ora, a suo modo, il pollo è probabilmente l’animale terrestre più di successo sulla Terra. Circa il 70% della biomassa totale degli uccelli sul pianeta è costituita da polli domestici. Ci sono anche aree in cui i polli sono diventati selvatici – su isole dove non hanno predatori naturali, come le Isole Cayman – e hanno prosperato.

I polli si sono evoluti in qualcosa che gli esseri umani trovano estremamente utile: si riproducono rapidamente, crescono velocemente, producono uova. Gli esseri umani li nutrono, li proteggono e incoraggiano attivamente a moltiplicarsi. Per quasi ogni metrica di successo biologico – dimensione della popolazione, diffusione geografica, accesso alle risorse – il pollo sta vincendo.

Tranne, naturalmente, la parte in cui li mangiamo.

Quindi il pollo è riuscito a diventare il cibo perfetto. Non è poco. Ma c’è un limite a questo tipo di successo.

Il Gatto: La Risposta Giusta

C’è un animale che, credo, ha fatto quasi esattamente la cosa giusta.

Il gatto.

I gatti non sono predatori apex. Non dominano gli esseri umani o li attaccano. Invece di essere schiacciati dall’espansione umana o di sottomettersi ai gusti umani, hanno fatto qualcosa di diverso: si sono co-evoluti con noi. Si sono resi utili cacciando topi e uccelli piccoli che erano attirati dagli insediamenti umani e, da qualche parte, si sono resi desiderabili. Sono diventati compagni.

Il risultato? I gatti si riproducono rapidamente. Hanno abbondanti fonti di cibo, sia come animali domestici che come cacciatori opportunisti intorno agli insediamenti umani. Affrontano pochi predatori gravi. Sono ovunque gli esseri umani sono.

E di nuovo, non è stata una scelta che hanno fatto. Non è stata una strategia. È solo come la pressione evolutiva si è svolta. Ma il risultato è notevole: invece di combattere il predatore apex, o di nutrire il predatore apex, lo hanno addomesticato.

Cosa C’entra Tutto Ciò con l’AI

Quindi, perché tutto ciò è importante?

L’arrivo di modelli come Mythos di Anthropic e Project Glass Wing è, credo, equivalente al giorno in cui gli esseri umani sono sbarcati in Australia. Tranne che la timeline è compressa drasticamente. Ciò che ha richiesto generazioni per realizzarsi su quel continente accadrà in anni – forse meno.

C’è molta scrittura al momento su come i team di sicurezza dovrebbero rispondere alla minaccia di hacking abilitato dall’AI. Credo che questo approccio sia un errore. Non è principalmente un problema di sicurezza. È un problema di ingegneria.

Questo è ciò che sta cambiando: prima di questa nuova ondata di AI, sia i difensori che gli attaccanti operavano in un mondo con poste relativamente limitate. Gli attacchi sono accaduti. Le violazioni sono accadute. Ma il ritmo e la sofisticazione erano limitati dalla capacità umana. Ciò è fondamentalmente cambiato. Ora ci sono modelli di AI progettati specificamente per trovare e sfruttare autonomamente le vulnerabilità, su larga scala, senza stancarsi.

La maggior parte dei team di sviluppo sono il grande wombat in questa storia. Hanno vissuto in un ambiente in cui sì, c’erano minacce, ma nulla di simile a ciò che sta arrivando. Hanno costruito sistemi che erano ragionevolmente sicuri contro le pressioni che hanno effettivamente affrontato. Non avevano incontrato nulla di simile a ciò che sta arrivando.

Questo sta per cambiare.

Le Tre Opzioni – e Perché Solo Una Funziona

Quando questa nuova minaccia arriva, le organizzazioni avranno effettivamente tre scelte:

1. Essere il wombat. Non adattarsi. Venire spazzati via. Ciò accadrà a molte aziende. Alcune non torneranno più.
2. Essere il pollo. Diventare reattivi, affannandosi a correggere ogni nuova vulnerabilità non appena appare. Questo è l’approccio “estrarre la lancia e curare la ferita”. È meglio di nulla, ma quando ci sono 45 lance che ti vengono lanciate da tutte le direzioni, quella singola abilità non ti salverà. Sei ancora cibo; sei solo più lento ad arrivare al tavolo.
3. Essere il gatto. Cambiare fondamentalmente la propria relazione con la minaccia. Usare l’AI per difendersi dall’AI. Incorporare la sicurezza nell’ingegneria fin dall’inizio. Progettare sistemi che presuppongono una violazione – non sperando di prevenirla.

L’obiettivo non è quello di assumere più analisti di sicurezza per pattugliare il perimetro. Questo è come cercare di proteggere gli elefanti nella savana. Non funziona contro questo tipo di minaccia. L’obiettivo è ridisegnare la savana.

Cosa Significa “Diventare il Gatto”?

Questo non è un lavoro di superficie. Non è eseguire uno scanner di sicurezza AI sul codice una volta al trimestre. Richiede una ripensata di come si fa lo sviluppo.

Praticamente, significa cose come:

• Basare il codice su strutture più semplici e facili da capire e verificare
• Attingere da librerie con posture di sicurezza note e verificate
• Costruire infrastrutture sulla base dell’assunzione che una violazione sia una quando, non un se – e rendere il più difficile possibile il movimento laterale una volta che un attaccante è all’interno
• Amicizia con il predatore sfruttando l’AI proprio come fa l’attaccante. I modelli di AI possono amplificare i team di ingegneria e sicurezza per evolvere le loro difese e stare un passo avanti.

Le aziende fondate domani hanno una tabula rasa. Possono costruire in questo modo fin dall’inizio. Le aziende che già esistono, con clienti, con dati sensibili, con sistemi live, non hanno questo lusso. Devono iniziare a transizione immediatamente.

La Chiamata all’Azione

Anthropic ha detto loro stessi: ci sarà un giudizio. Ci sarà un disastro economico e sociale a causa degli attacchi abilitati dall’AI. Alcune aziende non sopravvivranno. Saranno compromesse dalle persone che usano questi strumenti e non si riprenderanno mai completamente. Ciò accadrà.

Quindi ecco il messaggio: inizia adesso.

L’ingegneria e la sicurezza devono sedersi nella stessa stanza. Attraversare insieme il panorama delle minacce. Costruire una strada condivisa. Una in cui il lavoro principale è fatto dai team di ingegneria e design, validato dalla sicurezza, non viceversa. La sicurezza non può guidare questo. La sicurezza può verificare il lavoro. Ma il cambiamento fondamentale deve venire dalle persone che costruiscono i sistemi.

Le aziende che iniziano questo processo oggi non sopravvivranno tutte. Ma avranno creato le condizioni per la sopravvivenza. E nell’ambiente che sta arrivando, è il meglio che possiamo fare.

Diventa il gatto.