Umělá inteligence jako vrcholový predátor ve světě vývoje

Evolutionní tlak: Rychlý úvod

Než se ponoříme do hlavního tématu, je třeba stanovit několik pojmů. První z nich je evolutionní tlak.

Evolutione není volba. Živočichové se nevyvíjejí podle své vlastní vůle — jejich prostředí je nutí, nebo je eliminuje. Když tedy mluvíme o tom, jak se určitý živočich vyvinul, nebo proč existuje tak, jak existuje dnes, nemluvíme o sérii vědomých rozhodnutí. Mluvíme o náhodných mutacích a environmentálních tlacích, které tlačily druh jedním směrem nebo druhým.

V současné době vstupují softwarové společnosti do podobného evolutionního momentu. Systémy umělé inteligence, které jsou schopné autonomně identifikovat zranitelnosti, generovat exploity a urychlovat kybernetické útoky, mění tlak, pod kterým působí vývojáři a bezpečnostní týmy.

Umělá inteligence nyní vytváří podobný druh environmentálního tlaku pro softwarové společnosti. Modely, které jsou schopné autonomního objevování zranitelností, generování exploitů a automatizace útoků v velkém měřítku, mění bezpečnostní krajinu mnohem rychleji, než jsou meisten organizace připraveny.

Konkrétní evolutionní tlak, o kterém chci mluvit, je vrcholový predátor na Zemi právě teď: lidé. A způsob, jakým tři velmi odlišné živočichy reagovaly na tento tlak.

Kdo to udělal hůř: Obří vačice nebo kuře?

Obří vačice

Obří vačice — přesněji řečeno, žila v Austrálii — vážila kolem 6 000 liber. Předtím, než lidé přijeli, byla Austrálie zelenou, téměř rájem. Kéž bychom ji nikdy nedotkli. Tyto obrovské vačice žily téměř bezstarostně. Někteří predátoři je občas ulovili, ale díky jejich obrovské velikosti, hojnosti potravy a schopnosti rozmnožovat se, držely se proti všemu, co kontinent měl k dispozici.

Pak ale lidé přijeli.

Několik věcí se stalo okamžitě. První, lidé viděli obrovský zdroj proteinu, který by mohl nakrmit skupinu na týdny — déle, pokud by mohli maso uchovat. Druhé, začali kácet lesy, na které vačice závisely, buď pro dřevo, nebo pro to, aby vyhnali zvířata do otevřených prostor, kde je mohli zabít. Lidé jsou mimořádně dobří v tomto druhu koordinovaného, efektivníni zničení.

Ve velmi krátké době — geologicky řečeno, prakticky přes noc — lidé odlesnili velké části kontinentu a vyhubili poslední obří vačici.

Je třeba poznamenat, že ne všechny australské zvířata vyhynula. Klokani, malé vačice, koaly a další přežily — protože byly dostatečně malé, dostatečně rychlé nebo dostatečně přizpůsobivé, aby unikly. Do doby, kdy přišli Evropané, kontinent byl utvořen do něčeho drsného a nemilosrdného. Menší populace lidí, drsných a přizpůsobených extrémním podmínkám. Zvířata, která byla buď velmi malá, velmi nebezpečná nebo oboje. Jak se říká: všechno v Austrálii se snaží zabít vás.

To je verze jedna.

Kuře

Nyní, svým způsobem, je kuře pravděpodobně nejúspěšnějším suchozemským zvířetem na Zemi. Přibližně 70 % celkové biomasy ptáků na planetě je domestikované kuře. Existují dokonce i oblasti, kde kuřata zdivočela — na ostrovech, kde nemají přirozené predátory, jako jsou Kajmanské ostrovy — a daří se jim.

Kuřata se vyvinula v něco, co lidé považují za mimořádně užitečné: rozmnožují se rychle, rostou rychle, produkují vejce. Lidé je krmí, chrání je a aktivně podporují, aby se množila. Z téměř každého hlediska biologického úspěchu — velikosti populace, geografického rozšíření, přístupu ke zdrojům — kuře vítězí.

Kromě toho, že je samozřejmě jíme.

Takže kuře uspělo tím, že se stalo dokonalým jídlem. To není nic. Ale existuje strop pro tento druh úspěchu.

Kočka: Správná odpověď

Existuje jedno zvíře, které, podle mého názoru, to téměř přesně pochopilo.

Kočka.

Kočky nejsou vrcholoví predátoři. Nedomínají lidem ani na ně neútočí. Místo toho, aby byly zničeny lidským rozšiřováním nebo podrobeny lidským chutím, udělaly něco jiného: vyvinuly se spolu s námi. Staly se užitečnými lovícími myši a malé ptáky, které byly přitahovány lidskými sídly, a někde cestou se staly chtěnými. Staly se společníky.

Výsledek? Kočky se rozmnožují rychle. Mají hojné zdroje potravy, buď jako domácí mazlíčci nebo jako příležitostní lovci v okolí lidských sídel. Čelí málo vážným predátorům. Jsou všude, kde jsou lidé.

A opět, to nebyla volba, kterou učinily. To nebyla strategie. To było prostě, jak evolutionní tlak vyšel. Ale výsledek je pozoruhodný: místo toho, aby bojovaly proti vrcholovému predátorovi, nebo se staly potravou pro vrcholového predátora, přátelily se s ním.

To, co tohle má společného s umělou inteligencí

Proč tohle všechno vlastně matters?

Příchod modelů, jako je Anthropic’s Mythos a Project Glass Wing, je, podle mého názoru, ekvivalentem dne, kdy lidé přistáli v Austrálii. Kromě toho, že časová osa je dramaticky zkrácena. Co trvalo generace, aby se odehrálo na tom kontinentu, se bude dít za roky — možná méně.

Existuje spousta psaní o tom, jak by bezpečnostní týmy měly reagovat na hrozbu kybernetických útoků s umělou inteligencí. Myslím, že tohle je chybné. Tohle není primárně bezpečnostní problém. Je to problém inženýrství.

Co se mění: před touto novou vlnou umělé inteligence působily obě strany — obránci i útočníci — ve světě relativně omezených rizik. Útoky se staly. Procházely se. Ale tempo a sofistikovanost byly omezeny lidskou kapacitou. To se fundamentálně změnilo. Nyní existují modely umělé inteligence, které jsou speciálně navrženy pro autonomní objevování zranitelností, generování exploitů a automatizaci útoků v velkém měřítku, bez únavy.

Většina vývojářských týmů je obří vačice v tomto příběhu. Žily v prostředí, kde ano, existovaly hrozby, ale nic podobného, co přijde. Postavily systémy, které byly rozumně zabezpečené proti tlaku, se kterým se skutečně setkaly. Nezažily nic podobného, co přijde.

To se brzy změní.

Tři možnosti — a proč funguje pouze jedna

Když tato nová hrozba přijde, organizace budou mít efektivní tři možnosti:

1. Být obří vačicí. Neadaptovat se. Být zničenou. To se stane mnoha společnostem. Některé se nikdy nezotaví.
2. Být kuřetem. Stát se reaktivním, snažícím se zašít každé nové zranitelnosti, jakmile se objeví. To je přístup “vytáhnout oštěp a léčit ránu”. Je to lepší než nic, ale když na vás přichází 45 oštěpů ze všech směrů, tato jedna dovednost vás nezachrání. Jste stále potravou; jste jen pomalejší, abyste se dostali na stůl.
3. Být kočkou. Zásadně změnit svůj vztah k hrozbě. Použít umělou inteligenci k obraně proti umělé inteligenci. Zahrnout bezpečnost do inženýrství od základů. Navrhnout systémy s předpokladem, že budou prolomeny — ne s nadějí, že je lze zabránit.

Cílem není najmout více bezpečnostních analytiků, aby střežili perimetr. To je pokus chránit slony na savaně. To nefunguje proti této hrozby. Cílem je přestavit savanu.

To, co “stát se kočkou” vlastně znamená

Tohle není povrchová práce. Není to běhání umělou inteligencí bezpečnostního skeneru na vašem kódu jednou za čtvrtletí. To vyžaduje přehodnocení toho, jak se vývoj provádí.

Prakticky to znamená věci, jako:

• Jednodušší kódy, které jsou snazší rozumět a auditovat
• Využívání knihoven s známými, ověřenými bezpečnostními postoji
• Stavění infrastruktury s předpokladem, že prolomení je kdy, ne pokud — a dělání bočních pohybů co nejvíce obtížných, jednou když je útočník uvnitř
• Přátelit se s predátorem tím, že ho využijete stejně jako útočník. Modely umělé inteligence mohou zesílit inženýrské týmy a bezpečnostní týmy, aby vyvinuly své obrany a dostaly se před křivkou.

Společnosti, které budou založeny zítra, mají čistý štít. Mohou stavět tímto způsobem od samého začátku. Společnosti, které již existují, se zákazníky, citlivými daty a živými systémy, nemají tuto výhodu. Musí začít přecházet hned.

Volání k akci

Anthropic sám řekl: bude to odúčtování. Bude to ekonomické a společenské narušení z kybernetických útoků s umělou inteligencí. Některé společnosti nebudou přežít. Budou kompromitovány lidmi, kteří používají tyto nástroje, a nikdy se plně nezotaví. To se stane.

Takže tohle je zpráva: začněte hned.

Inženýrství a bezpečnost musí sedět ve stejné místnosti. Projděte si spolu bezpečnostní krajinu. Vytvořte si společnou mapu. Jednu, kde primární práce je prováděna inženýrskými a designérskými týmy, ověřenými bezpečnostními týmy, ne naopak. Bezpečnost nemůže vést tohle. Bezpečnost může pouze zkontrolovat práci. Ale fundamentální změna musí pocházet od lidí, kteří staví systémy.

Společnosti, které začnou tento proces dnes, nebudou všechny přežít. Ale budou mít stanovené podmínky pro přežití. A v prostředí, které přijde, je to nejlepší, co můžeme udělat.

Buďte kočkou.