AI som toppredator i udviklingsverdenen

Evolutionær pres: En kort introduktion

Før vi dykker ned i det væsentlige, er der et par begreber, der er værd at fastslå. Det første er evolutionær pres.

Evolution er ikke et valg. Dyr vælger ikke at udvikle sig på en bestemt måde – deres omgivelser tvinger dem til det, eller deres omgivelser eliminerer dem. Så når vi taler om, hvordan et dyr har udviklet sig, eller hvorfor det eksisterer, som det gør i dag, taler vi ikke om en række bevidste beslutninger. Vi taler om tilfældige mutationer og miljøpres, der har presset en art i en bestemt retning.

Lige nu er softwarevirksomheder ved at indtræde i en lignende evolutionær situation. AI-systemer, der kan identificere sårbarheder, generere exploits og accelerere cyberangreb på egen hånd, er ved at ændre presningen på udviklere og sikkerhedsteams.

AI skaber nu den samme type miljøpres for softwarevirksomheder. Modeller, der kan opdage sårbarheder, generere exploits og automatisere angreb i stor skala, ændrer sikkerhedslandskabet meget hurtigere, end de fleste organisationer er klar til.

Det specifikke evolutionære pres, jeg vil tale om, er toppredatoren på jorden lige nu: mennesket. Og hvordan tre meget forskellige dyr reagerede på dette pres.

Hvem gjorde det værre: Kæmpevombaten eller kyllingen?

Kæmpevombaten

Kæmpevombaten – jeg kan ikke huske det præcise navn, men den levede i Australien – vejede omkring 6.000 pund. Før menneskene ankom, var Australien et grønt, nærmest paradisisk sted. Ønske, at vi aldrig havde rørt det. Disse enorme wombater levede stort set ubesværet. Nogle rovdyr tog af og til en ned, men på grund af deres enorme størrelse, fødemængden og deres evne til at formere sig, holdt de stand mod alt, hvad kontinentet havde at byde på.

Så ankom menneskene.

Et par ting skete med det samme. Først så menneskene denne massive kilde til protein, der kunne føde en gruppe i uger – længere, hvis de kunne konservere kødet. Anden, de begyndte at rydde skovene, som wombaten var afhængig af, enten ved at fælde træer til brænde eller ved at afbrænde hele områder for at drive dyrene ud i det åbne, hvor de kunne dræbes. Mennesker er ekstraordinært gode til denne type koordineret, effektiv ødelæggelse.

På en meget kort tid – geologisk set, nærmest over natten – havde menneskene ryddet store dele af kontinentet og jaget den sidste kæmpevombat ud af eksistens.

Det er værd at bemærke, at ikke alle australske dyr udryddedes. Kanguruen, små wombater, koalaer og andre overlevede – fordi de var små nok, hurtige nok eller tilpasningsdygtige nok til at holde sig uden for rækkevidde. Da europæerne ankom, var kontinentet blevet formet til noget hårdt og uforgivende. En mindre menneskebefolkning, robust og tilpasset ekstreme forhold. Dyr, der enten var meget små, meget dødelige eller begge dele. Som de siger: Alt i Australien forsøger at dræbe dig.

Det er version én.

Kyllingen

Nu, på sin egen måde, er kyllingen måske det mest succesfulde landdyr på jorden. Omtrent 70% af den samlede fuglebiomasse på planeten er domesticerede kyllinger. Der er endda områder, hvor kyllinger er gået vilde – på øer, hvor de ikke har nogen naturlige rovdyr, som Caymanøerne – og de har trivedes.

Kyllinger udviklede sig til noget, som mennesker finder ekstraordinært nyttigt: de formerer sig hurtigt, de vokser hurtigt, de producerer æg. Mennesker føder dem, beskytter dem og opmuntrer dem aktivt til at formere sig. Ved næsten alle mål for biologisk succes – befolkningstørrelse, geografisk udbredelse, adgang til ressourcer – er kyllingen sejrrig.

Undtagen, selvfølgelig, for den del, hvor vi spiser dem.

Så kyllingen lykkedes ved at blive den perfekte mad. Det er ikke ingenting. Men der er en grænse for den slags succes.

Katten: Det rigtige svar

Der er et dyr, som, jeg ville argumentere, fik det næsten helt rigtigt.

Katten.

Katte er ikke toppredatorer. De dominere ikke mennesker eller jagter dem. Men i stedet for at blive knust af den menneskelige udvidelse eller underkaste sig menneskers appetit, gjorde de noget andet: de sam-evoluerede sammen med os. De gjorde sig nyttige ved at jage rotter og små fugle, der blev tiltrukket af menneskers bosættelser, og på et tidspunkt gjorde de sig ønskede. De blev følgesvende.

Resultatet? Katte formerer sig hurtigt. De har overflod af føde, enten som kæledyr eller som oportuniske jagere omkring menneskelig beboelse. De står over for få alvorlige rovdyr. De er overalt, hvor mennesker er.

Og igen, dette var ikke et valg, de tog. Det var ikke en strategi. Det var bare, hvordan evolutionær pres spillede ud. Men resultatet er bemærkelsesværdigt: i stedet for at kæmpe mod toppredatoren eller føde toppredatoren, vennedes de med toppredatoren.

Hvad dette har at gøre med AI

Så hvorfor betyder dette noget?

Ankomsten af modeller som Anthropics Mythos og Project Glass Wing er, jeg ville argumentere, ligesom den dag, hvor mennesker ankom til Australien. Undtagen at tidsrammen er komprimeret dramatisk. Det, der tog generationer at udspille på kontinentet, vil ske på år – måske mindre.

Der er meget skrivning lige nu om, hvordan sikkerhedsteams skal reagere på truslen fra AI-aktiveret hacking. Jeg mener, at denne ramme er en fejl. Dette er ikke primært et sikkerhedsproblem. Det er et ingeniørproblem.

Her er, hvad der skifter: Før denne nye bølge af AI, opererede både forsvarere og angribere i en verden med relativt begrænsede indsatser. Angreb skete. Dataleaks skete. Men tempo og sofistikation var begrænsede af menneskelig kapacitet. Det har fundamentalt ændret sig. Nu er der AI-modeller, der specifikt er designet til at finde og udnytte sårbarheder på egen hånd, i stor skala, uden træthed.

De fleste udviklingsteams er kæmpevombaten i denne historie. De har levet i en verden, hvor ja, der var trusler, men ingenting som dette. De byggede systemer, der var rimeligt sikre mod presningen, de faktisk stod over for. De havde ikke mødt noget som det, der er på vej.

Det er om at ændre sig.

De tre muligheder – og hvorfor kun én virker

Når denne nye trussel ankommer, vil organisationer effektivt have tre valg:

1. Vær kæmpevombaten. Tilpas dig ikke. Bliv udslettet. Dette vil ske for mange virksomheder. Nogle vil aldrig komme tilbage.
2. Vær kyllingen. Bliv reaktiv, og kæmp for at lave hver ny sårbarhed, så snart den opstår. Dette er “træk spydet ud og behandle såret”-tilgangen. Det er bedre end ingenting, men når der er 45 spyd, der kommer fra alle retninger, vil denne ene færdighed ikke redde dig. Du er stadig mad; du er bare langsommere til at nå bordet.
3. Vær katten. Ændr fundamentalt din relation til truslen. Brug AI til at forsvare dig mod AI. Integrer sikkerhed i ingeniøren fra bunden. Design systemer, der antager, at en dataleak sker – ikke håber at forhindre det.

Målet er ikke at ansætte flere sikkerhedsanalytikere til at patruljere periferien. Det er at forsøge at beskytte elefanterne på savannen. Det skalerer ikke mod denne type trussel. Målet er at redesigne savannen.

Hvad “at blive katten” faktisk ligner

Dette er ikke overfladisk arbejde. Det er ikke at køre en AI-sikkerhedsscanner på din kodebase en gang om kvartalen. Det kræver en genovervejelse af, hvordan udvikling bliver gjort.

Praktisk set betyder det ting som:

• Enklere kodebaser, der er lettere at forstå og gennemgå
• At trække fra biblioteker med kendte, godkendte sikkerhedsstandarder
• At bygge infrastruktur på antagelsen af, at en dataleak er en når, ikke en hvis – og gøre lateral bevægelse så svær som muligt, når en angriber er inde
• At venne sig med rovdiret ved at udnytte det på samme måde, som angriberen. AI-modeller kan forstærke ingeniør- og sikkerhedsteams til at udvikle deres forsvar og komme foran kurven.

Virksomheder, der bliver grundlagt i morgen, har en ren slate. De kan bygge på denne måde fra dag én. Virksomheder, der allerede eksisterer, med kunder, med følsomme data, med levende systemer, har ikke den luksus. De må begynde at omstille nu.

Opfordring til handling

Anthropic har selv sagt det: Der vil være en regnskab. Der vil være økonomisk og samfundsmæssig forstyrrelse fra AI-aktiverede angreb. Nogle virksomheder vil ikke overleve. De vil blive kompromitteret af personer, der bruger disse værktøjer, og de vil aldrig fuldt ud genvinde sig. Det vil ske.

Så her er beskeden: Start nu.

Udvikling og sikkerhed må sidde i samme rum. Gennemgå trusselslandskabet sammen. Byg en fælles vejviser. En, hvor det primære arbejde udføres af udvikling- og designhold, valideret af sikkerhed, ikke omvendt. Sikkerhed kan ikke lede dette. Sikkerhed kan kontrollere arbejdet. Men den fundamentale ændring må komme fra de mennesker, der bygger systemerne.

Virksomhederne, der starter denne proces i dag, vil ikke alle overleve. Men de vil have sat betingelserne for overlevelse. Og i den verden, der er på vej, er det det bedste, vi kan gøre.

Vær katten.