Inteligența artificială ca prădătorul de vârf în lumea dezvoltării

Presiunea evolutivă: Un scurt ghid

Înainte de a intra în substanța acestui articol, există câteva concepte pe care ar trebui să le stabilim. Primul este presiunea evolutivă.

Evoluția nu este o alegere. Animalele nu aleg să evolueze într-un anumit fel — mediul lor le forțează să o facă, sau mediul le elimină. Deci, atunci când vorbim despre modul în care un animal a evoluat, sau de ce există astfel cum este astăzi, nu vorbim despre o serie de decizii conștiente. Vorbim despre mutații aleatorii și presiuni de mediu care au împins o specie într-o direcție sau alta.

În acest moment, companiile de software intră într-un moment evolutiv similar. Sistemele de inteligență artificială capabile să identifice autonom vulnerabilități, să genereze exploatații și să accelereze atacurile cibernetice schimbă presiunea sub care lucrează dezvoltatorii și echipele de securitate.

Inteligența artificială creează acum același tip de presiune de mediu pentru companiile de software. Modelele capabile de descoperire autonomă a vulnerabilităților, generare de exploatații și automatizare a atacurilor la scară largă schimbă peisajul securității mult mai rapid decât majoritatea organizațiilor sunt pregătite.

Presiunea evolutivă specifică pe care vreau să o discut este prădătorul de vârf de pe Pământ în acest moment: oamenii. Și modul în care trei animale foarte diferite au răspuns la această presiune.

Cine a făcut mai rău: Wombatul uriaș sau păsărica?

Wombatul uriaș

Wombatul uriaș — nu-mi amintesc exact numele, dar trăia în Australia — cântărea aproximativ 6.000 de kilograme. Înainte de a ajunge oamenii, Australia era un loc verde, aproape paradisiac. Ar fi trebuit să nu atingem niciodată acel loc. Acești wombati uriași trăiau în mare parte neliniștiți. Unii prădători îi omorau uneori, dar având în vedere mărimea lor, abundența de hrană și capacitatea de a se reproduce, ei și-au păstrat poziția împotriva tuturor lucrurilor pe care continentul le-ar fi putut arunca împotriva lor.

Apoi oamenii au sosit.

Câteva lucruri s-au întâmplat imediat. În primul rând, oamenii au văzut o sursă masivă de proteine care ar fi putut hrăni un grup timp de săptămâni — mai mult, dacă ar fi putut păstra carnea. În al doilea rând, au început să taie pădurile de care wombatusul uriaș depindea, fie tăind copaci pentru lemne de foc, fie arde întregi porțiuni de pământ pentru a scoate animalele afară, unde ar fi putut fi ucise. Oamenii sunt extraordinar de buni la acest tip de distrugere coordonată și eficientă.

Într-un timp foarte scurt — vorbind din punct de vedere geologic, practic peste noapte — oamenii au defrișat mari porțiuni ale continentului și au vânat ultimul wombatus uriaș până la dispariție.

Este important de remarcat că nu toate animalele australiene au dispărut. Cangurul, wombatusul mic, koala și altele au supraviețuit — pentru că erau suficient de mici, suficient de rapizi sau suficient de adaptați pentru a rămâne în afara atenției. Până când au sosit europenii, continentul fusese transformat în ceva aspru și nemilos. O populație umană mai mică, robustă și adaptată la condiții extreme. Animale care erau fie foarte mici, foarte letale sau ambele. Așa cum se spune: totul în Australia încearcă să te omoare.

Asta este versiunea unu.

Păsărica

Acum, în felul său, păsărica este, probabil, cel mai de succes animal de uscat de pe Pământ. Aproximativ 70% din biomasa totală de păsări de pe planetă este reprezentată de păsări domestice. Există chiar și zone în care păsăricile au devenit sălbatice — pe insule unde nu au prădători naturali, cum ar fi Insulele Cayman — și au prosperat.

Păsăricile s-au transformat în ceva pe care oamenii îl găsesc extraordinar de util: se reproduc rapid, cresc repede, produc ouă. Oamenii le hrănesc, le protejează și încurajează activ să se înmulțească. Prin aproape orice metrică a succesului biologic — mărimea populației, răspândirea geografică, accesul la resurse — păsărica câștigă.

Exceptând, desigur, partea în care le mâncăm.

Deci păsărica a reușit prin faptul că a devenit hrana perfectă. Asta nu este nimic. Dar există un plafon pentru acest tip de succes.

Pisica: Răspunsul corect

Există un animal care, aș argumenta, a făcut lucrurile aproape exact cum trebuie.

Pisica.

Pisicile nu sunt prădători de vârf. Ele nu domină oamenii și nu se hrănesc cu ei. În schimb, în loc să fie zdrobite de expansiunea umană sau să se supună apetitului uman, ele au făcut ceva diferit: s-au co-evoluat alături de noi. Ele și-au făcut utilitatea prin vânarea șoarecilor și păsărilor mici care erau atrași de așezările umane și, undeva pe parcurs, ele s-au făcut dorite. Ele au devenit animale de companie.

Rezultatul? Pisicile se reproduc rapid. Ele au surse de hrană abundente, fie ca animale de companie, fie ca vânători ocazionali în jurul așezărilor umane. Ele se confruntă cu puțini prădători serioși. Ele sunt peste tot unde sunt oamenii.

Și din nou, asta nu a fost o alegere pe care ele au făcut-o. Nu a fost o strategie. A fost doar cum s-a desfășurat presiunea evolutivă. Dar rezultatul este remarcabil: în loc să lupte împotriva prădătorului de vârf, sau să se hrănească cu prădătorul de vârf, ele l-au împrietenit pe prădătorul de vârf.

Ce are de-a asta cu inteligența artificială

Deci, de ce contează toate astea?

Sosirea modelelor precum Mythos și Project Glass Wing este, aș argumenta, echivalentul zilei în care oamenii au sosit în Australia. Exceptând faptul că cronologia este comprimată dramatic. Ceea ce a durat generații pentru a se desfășura pe acel continent se va întâmpla în ani — poate mai puțin.

Există multă scriere în acest moment despre cum ar trebui să răspundă echipele de securitate la amenințarea hacking-ului cu inteligență artificială. Cred că această abordare este o greșeală. Acesta nu este în primul rând un problemă de securitate. Este o problemă de inginerie.

Iată ce se schimbă: înainte de această nouă undă de inteligență artificială, atât apărătorii, cât și atacatorii operau într-o lume cu stake-uri relativ limitate. Atacurile s-au întâmplat. Încălcările s-au întâmplat. Dar ritmul și sofisticarea au fost limitate de capacitatea umană. Acest lucru s-a schimbat fundamental. Acum există modele de inteligență artificială proiectate special pentru a găsi și exploata vulnerabilități autonom, la scară largă, fără oboseală.

Majoritatea echipelor de dezvoltatori sunt wombatusul uriaș din această poveste. Ei au trăit într-un mediu în care, da, existau amenințări, dar nimic nu seamănă cu ceea ce vine. Ei au construit sisteme care erau rezonabil de securizate împotriva presiunilor pe care le-au întâlnit. Nu au întâlnit nimic asemănător cu ceea ce vine.

Asta este pe cale să se schimbe.

Cele trei opțiuni — și de ce numai una funcționează

Când această nouă amenințare sosește, organizațiile vor avea, în esență, trei alegeri:

1. Să fie wombatusul uriaș. Să nu se adapteze. Să fie distruse. Acest lucru se va întâmpla cu multe companii. Unele nu se vor mai recupera.
2. Să fie păsărica. Să devină reactive, grăbindu-se să repare fiecare nouă vulnerabilitate pe măsură ce apare. Acesta este abordarea “scoate sulița și tratează rana”. Este mai bine decât nimic, dar când există 45 de sulițe care vin spre tine din toate direcțiile, acea singură abilitate nu te va salva. Ești încă hrană; ești doar mai lent în a ajunge la masă.
3. Să fie pisica. Să schimbe fundamental relația cu amenințarea. Să folosească inteligența artificială pentru a se apăra împotriva inteligenței artificiale. Să încorporeze securitatea în inginerie de la început. Să proiecteze sisteme care presupun o încălcare — nu speră să o prevină.

Scopul nu este să angajeze mai mulți analiști de securitate pentru a patrula perimetrul. Acesta este încercarea de a proteja elefanții de pe savană. Nu funcționează la scară împotriva acestui tip de amenințare. Scopul este să redeseneze savana.

Ce înseamnă “a deveni pisica” în realitate

Acesta nu este un lucru de suprafață. Nu este vorba despre a rula un scanner de securitate cu inteligență artificială pe codul dvs. o dată pe trimestru. Acesta necesită o reevaluare a modului în care se face dezvoltarea.

Practic, asta înseamnă lucruri precum:

• Coduri mai simple care sunt mai ușor de înțeles și auditat
• Extrăgerea din biblioteci cu posturi de securitate cunoscute și verificate
• Construirea infrastructurii pe presupunerea că o încălcare este o când, nu o dacă — și facerea mișcării laterale cât mai dificilă odată ce un actor rău este în interior
• A prieteni cu prădătorul prin exploatarea lui exact cum face și atacatorul. Modelele de inteligență artificială pot amplifica echipele de inginerie și securitate pentru a-și evolua apărarea și a lua startul.

Companiile fondate mâine au o foaie de parcurs curată. Ele pot construi astfel de la început. Companiile care deja există, cu clienți, cu date sensibile, cu sisteme live, nu au acea lux. Trebuie să înceapă tranziția acum.

Chemarea la acțiune

Anthropic a spus asta însuși: va exista o înfățișare a judecății. Va exista o perturbare economică și socială din cauza atacurilor cu inteligență artificială. Unele companii nu vor supraviețui. Vor fi compromise de oameni care folosesc aceste unelte și nu se vor mai recupera niciodată. Acest lucru se va întâmpla.

Deci iată mesajul: începeți acum.

Ingineria și securitatea trebuie să stea în aceeași cameră. Să treacă prin peisajul amenințărilor împreună. Să construiască o hartă comună. Una în care munca principală este făcută de echipele de inginerie și design, validate de securitate, nu invers. Securitatea nu poate conduce asta. Securitatea poate verifica lucrul. Dar schimbarea fundamentală trebuie să vină de la oamenii care construiesc sistemele.

Companiile care încep acest proces astăzi nu vor reuși toate. Dar vor fi creat condițiile pentru supraviețuire. Și în mediul care vine, acesta este cel mai bun lucru pe care oricine îl poate face.

Fii pisica.