AI som den øverste rovdyret i utviklingsverden

Evolverende press: En kort innføring

Før vi går inn i kjernen av dette, er det noen konsepter som er verdt å etablere. Det første er evolverende press.

Evolvering er ikke et valg. Dyr velger ikke å evolvere på en bestemt måte — deres miljø tvinger dem til det, eller deres miljø eliminerer dem. Så når vi snakker om hvordan et dyr har evolvert, eller hvorfor det eksisterer som det gjør i dag, snakker vi ikke om en rekke bevisste beslutninger. Vi snakker om tilfeldige mutasjoner og miljømessige press som har presset en art i en bestemt retning.

For tiden er programvarebedrifter i ferd med å gå inn i en lignende evolusjonær øyeblikk. AI-systemer som kan identifisere sårbarheter, generere angrep og akselerere cyberangrep på egen hånd, endrer presset utviklere og sikkerhetsteam opererer under.

AI skaper nå samme type miljømessig press for programvarebedrifter. Modeller som kan oppdage sårbarheter, generere angrep og automatisere angrep i stor skala, endrer sikkerhetslandskapet mye raskere enn de fleste organisasjoner er forberedt på.

Det spesifikke evolverende presset jeg vil snakke om, er den øverste rovdyret på jorden i dag: mennesker. Og hvordan tre svært forskjellige dyr reagerte på dette presset.

Hvem gjorde det verre: Kjempevombaten eller kyllingen?

Kjempevombaten

Kjempevombaten — jeg husker ikke det eksakte navnet, men den levde i Australia — veide omtrent 6 000 pund. Før mennesker ankom, var Australia en grønn, lummert og nesten paradisisk plass. Ønsker vi hadde aldri berørt det. Disse enorme wombater levde stort sett ubekymret. Noen rovdyr tok av og til en ned, men gitt deres enorme størrelse, matens overflod og deres evne til å formeere seg, holdt de sin egen mot alt kontinentet hadde å tilby.

Så ankom mennesker.

Noen ting skjedde umiddelbart. Først så mennesker en enorm kilde til protein som kunne mate en gruppe i uker — lengre, hvis de kunne konservere kjøttet. For det andre begynte de å rydde skogene wombaten var avhengig av, enten ved å hogge trær for brensel eller ved å brenne store områder for å drive dyrene ut i åpen mark hvor de kunne bli drept. Mennesker er usedvanlig dyktige til denne type koordinert, effektiv ødeleggelse.

På en svært kort periode — geologisk sett, praktisk talt over natten — mennesker ryddet store deler av kontinentet og jaget hver eneste kjempevombat ut av eksistens.

Det er verdt å merke seg at ikke alle australske dyr ble utryddet. Kangoeroen, små wombater, koalaer og andre overlevde — fordi de var små nok, raske nok eller tilpassingsdyktige nok til å holde seg utenfor rekkevidde. Da europeerne ankom, var kontinentet blitt formet til noe hardt og uforsonlig. En mindre menneskebefolkning, robust og tilpasset ekstreme forhold. Dyr som var enten svært små, svært dødelige eller begge deler. Som de sier: Alt i Australia prøver å drepe deg.

Det er versjon én.

Kyllingen

Nå, på sin egen måte, er kyllingen kanskje det mest suksessfulle landlevende dyret på jorden. Omtrent 70 % av den totale fuglebiomassen på planeten er tamkylling. Det finnes sogar lommer hvor kyllinger har gått vill — på øyer hvor de ikke har noen naturlige rovdyr, som Caymanøyene — og de har trivd.

Kyllinger har utviklet seg til noe mennesker finner usedvanlig nyttig: de formerer seg raskt, de vokser fort, de produserer egg. Mennesker mater dem, beskytter dem og oppmuntret dem til å formeere seg. Ved nesten alle mål for biologisk suksess — befolkningens størrelse, geografisk spredning, tilgang på ressurser — er kyllingen seierherren.

Bortsett, selvfølgelig, for delen hvor vi spiser dem.

Så kyllingen lyktes ved å bli den perfekte maten. Det er ikke ingenting. Men det er en grense for denne type suksess.

Katten: Det riktige svaret

Det er ett dyr som, jeg ville hevde, gjorde dette nesten helt riktig.

Katten.

Katter er ikke øverste rovdyr. De dominerer ikke mennesker eller jakter på dem. Men i stedet for å bli knust av den menneskelige ekspansjonen eller underkaste seg menneskenes appetitt, gjorde de noe annet: de sam-evolusjonerte med oss. De gjorde seg nyttige ved å jakte på rotter og små fugler som ble tiltrekket av menneskebosettinger, og et sted på veien ble de ønsket. De ble kompanjoner.

Resultatet? Katter formerer seg raskt. De har rikelig med matkilder, enten som katter eller som opportunistiske jegere rundt menneskebosettinger. De møter få alvorlige rovdyr. De er overalt mennesker er.

Og igjen, dette var ikke et valg de tok. Det var ikke en strategi. Det var bare hvordan evolverende press spilte ut. Men resultatet er bemerkelsesverdig: i stedet for å kjempe mot øverste rovdyret, eller mate øverste rovdyret, vennet de seg med øverste rovdyret.

Hva dette har å gjøre med AI

Så hvorfor betyr noen av dette?

Ankomsten av modeller som Anthropics Mythos og Project Glass Wing er, jeg ville hevde, ekvivalent med dagen mennesker ankom Australia. Bortsett fra at tidsrammen er komprimert dramatisk. Det som tok generasjoner å spille ut på kontinentet, vil skje på år — kanskje mindre.

Det er mye skriving nå om hvordan sikkerhetsteam skal reagere på truslene fra AI-aktivert hacking. Jeg tror at denne rammen er en feil. Dette er ikke primært et sikkerhetsproblem. Det er et ingeniørproblem.

Her er hva som endrer seg: Før denne nye bølgen av AI, opererte både forsvarere og angripere i en verden med relativt begrensede innsatser. Angrep skjedde. Brudd skjedde. Men tempo og sofistikasjon var begrenset av menneskelig kapasitet. Det har fundamentalt endret seg. Nå finnes det AI-modeller som er spesifikt designet for å finne og utnytte sårbarheter på egen hånd, i stor skala, uten trøtthet.

De fleste utviklingsteams er kjempevombaten i denne historien. De har levd i en verden hvor ja, det var trusler, men ingenting like dette. De bygget systemer som var rimelig trygge mot presset de faktisk møtte. De hadde ikke møtt noe som det som kommer.

Det er på vei til å endre seg.

De tre valgene — og hvorfor bare ett fungerer

Når denne nye truslen ankommer, vil organisasjoner effektivt ha tre valg:

1. Vær kjempevombaten. Ikke tilpass deg. Blir utryddet. Dette vil skje med mange selskaper. Noen vil aldri komme tilbake.
2. Vær kyllingen. Blir reaktiv, skramlinger for å luke hver ny sårbarhet som dukker opp. Dette er “trek ut spydet og behandle såret”-tilnærmingen. Det er bedre enn ingenting, men når det er 45 spyd som kommer mot deg fra alle retninger, vil denne ene ferdigheten ikke redde deg. Du er fortsatt mat; du er bare saktere til å nå bordet.
3. Vær katten. Endre fundamentalt forholdet ditt til truslen. Bruk AI til å forsvare mot AI. Innlemmet sikkerhet i ingeniørvirksomheten fra bunnen av. Design systemer som om brudd er en når, ikke en hvis — og gjør det så vanskelig som mulig for å bevege seg sidelengs en gang en dårlig aktør er inne.

Målet er ikke å ansette flere sikkerhetsanalytikere for å patruljere periferien. Det er å prøve å beskytte elefanter på savannen. Det skalerer ikke mot denne type trussel. Målet er å redesigne savannen.

Hva “å bli katten” faktisk ligner

Dette er ikke overfladisk arbeid. Det er ikke å kjøre en AI-sikkerhetsscanner på kodebasen en gang i kvartalet. Det krever en omtenkning av hvordan utvikling blir gjort.

Praktisk talt betyr det ting som:

• Enklere kodebasier som er lettere å forstå og gjennomgå
• Trekke fra biblioteker med kjente, verifiserte sikkerhetsposturer
• Bygge infrastruktur på antagelsen av at brudd er en når, ikke en hvis — og gjøre det så vanskelig som mulig for å bevege seg sidelengs en gang en dårlig aktør er inne
• Venn med rovdjuret ved å utnytte det på samme måte som angriperen. AI-modeller kan forsterke ingeniørteam og sikkerhetsteam til å utvikle sine forsvar og komme foran kurven.

Selskaper som grunnlegges i morgen har en ren skrivebord. De kan bygge på denne måten fra dag én. Selskaper som allerede eksisterer, med kunder, med sensitiv data, med live-systemer, har ikke denne luksusen. De må begynne å gå over nå.

Kallet til handling

Anthropic har sagt dette selv: Det vil være en regnskapsavslutning. Det vil være økonomisk og samfunnsmessig forstyrrelse fra AI-aktiverede angrep. Noen selskaper vil ikke overleve. De vil bli kompromittert av mennesker som bruker disse verktøyene, og de vil aldri fullt ut gjenopprette seg. Det vil skje.

Så her er beskjeden: Start nå.

Ingeniører og sikkerhetsteam må sitte i samme rom. Gå gjennom trussellandskapet sammen. Bygge en felles veikart. En hvor det primære arbeidet blir gjort av ingeniør- og designlag, valideres av sikkerhet, ikke omvendt. Sikkerhet kan ikke lede dette. Sikkerhet kan sjekke arbeidet. Men den grunnleggende endringen må komme fra menneskene som bygger systemene.

Selskapene som starter denne prosessen i dag, vil ikke alle overleve. Men de vil ha satt betingelsene for overlevelse. Og i den omgangen som kommer, er det det beste noen av oss kan gjøre.

Vær katten.