Tekoäly apexpedaattorina kehitysmaailmassa

Evoluutio paine: Nopea johdanto

Ennen kuin perehdytään itse aiheeseen, on muutamia käsitteitä, jotka on syytä selvittää. Ensimmäinen näistä on evoluutio paine.

Evoluutio ei ole valinta. Eläimet eivät valitse, miten ne evoluution, tai miksi ne ovat sellaisia kuin ne nykyään ovat — heidän ympäristönsä pakottaa heidät siihen, tai heidän ympäristönsä tuhoaa heidät. Kun puhumme siitä, miten eläin on evoluutionut, tai miksi se on olemassa sellaisena kuin se on tänään, emme puhu tietoisten päätösten sarjasta. Puhumme satunnaisista mutaatioista ja ympäristön paineista, jotka ovat työntäneet lajin tiettyyn suuntaan.

Tällä hetkellä ohjelmistoyhtiöt ovat samanlaisessa evoluutio hetkellä. Tekoälyjärjestelmät, jotka pystyvät itsenäisesti tunnistamaan haavoittuvuuksia, luomaan hyökkäyksiä ja kiihdyttämään kyberhyökkäyksiä, muuttavat painetta, jolle kehittäjät ja turvatiimit toimivat.

Te koäly luo nyt samanlaisen ympäristö paineen ohjelmistoyhtiöille. Mallit, jotka pystyvät itsenäisesti etsimään haavoittuvuuksia, luomaan hyökkäyksiä ja automatisoimaan laajamittaisia hyökkäyksiä, muuttavat turvallisuusmaisemaa nopeammin kuin useimmat organisaatiot ovat valmiit.

Erikoista evoluutio painetta, josta haluan puhua, on maapallon apex pedaattori tällä hetkellä: ihminen. Ja miten kolme erilaista eläintä reagoi tähän paineeseen.

Kuka teki huonommin: Jättiläisvompatti vai kana?

Jättiläisvompatti

Jättiläisvompatti — en muista tarkkaa nimeä, mutta se eli Australiassa — painoi noin 6 000 paunaa. Ennen kuin ihmiset saapuivat, Australia oli vihreä, vehreä, melkein paratiisinomainen paikka. Toivomme, ettei meidän koskaan olisi pitänyt koskea siihen. Nämä valtavat vombatit elivät suurelta osin häiriintymättöminä. Jotkut pedot ajoittain tappoivat yhden, mutta niiden valtavan koosta, ruoan runsaudesta ja kyvystä lisääntyä huolimatta, ne piti omansa kaikkea, mitä mantereella oli tarjolla.

Sitten ihmiset saapuivat.

Paria asiaa tapahtui välittömästi. Ensinnäkin ihmiset näkivät massiivisen proteiinin lähteen, joka voisi ruokkia ryhmän useita viikkoja — pidempään, jos he pystyisivät säilömään lihan. Toiseksi he alkoivat raivata metsiä, joista vompatti oli riippuvainen, joko hakkaamalla puita polttopuiksi tai polttamalla koko maanpalasia ajamaan eläimiä ulos, jotta ne voitiin tappaa. Ihmiset ovat erittäin hyviä tämänkaltaisessa koordinoituessa, tehokkaassa tuhoamisessa.

Hyvin lyhyessä ajassa — geologisesti puhuttaessa, käytännössä yhdessä yössä — ihmiset raivasivat suuria osia mantereesta ja metsästivät viimeisen jättiläisvompatin kuoliaaksi.

On syytä huomata, että ei kaikki australialaiset eläimet kuolivat sukupuuttoon. Kengurut, pienet vombatit, koalat ja muut selviytyivät — koska ne olivat tarpeeksi pieniä, nopeita tai sopeutuvia pysyäkseen ulottumattomissa. Kun eurooppalaiset saapuivat, mantere oli muovautunut julmaksi ja armottomaksi. Pieni ihmisväestö, karkea ja sopeutunut äärioloihin. Eläimet, jotka olivat joko hyvin pieniä, hyvin vaarallisia tai molempia. Kuten sanotaan: kaikki Australiassa yrittää tappaa sinut.

Se on versio yksi.

Kana

Nyt, omalla tavallaan, kana on ehkä menestynein maan eläin maapallolla. Karkeasti 70 % kaikkien lintujen biomassasta maapallolla on kesytetty kana. On jopa taskuja, joissa kanat ovat menneet villiksi — saarilla, joilla niillä ei ole luonnollisia petoja, kuten Caymansaarella — ja ne ovat menestyneet.

kanat kehittyivät joksikin, mitä ihmiset pitävät erittäin hyödyllisinä: ne lisääntyvät nopeasti, ne kasvavat nopeasti, ne tuottavat munia. Ihmiset ruokkivat niitä, suojelivat niitä ja kannustivat niitä lisääntymään. Melkein missä tahansa biologisen menestyksen mittarissa — populaation koko, maantieteellinen levinneisyys, resurssien saatavuus — kana voittaa.

Poikkeuksena tietysti se osa, jossa me syömme niitä.

Niin kana onnistui tekemällä itsensä täydelliseksi ruoaksi. Se ei ole mitätön asia. Mutta on katto tällaiselle menestykselle.

Kissa: Oikea vastaus

On yksi eläin, joka, väitän, sai tämän melkein täysin oikein.

Kissa.

Kissat eivät ole apex pedaattoreita. Ne eivät hallitse ihmisiä eivätkä metsästä niitä. Sen sijaan, että ne olisivat murskittu ihmislaajennuksen alla tai alistuneet ihmisten nälän tyydyttämiseen, ne tekivät jotain muuta: ne kehittyivät rinnakkain meidän kanssamme. Ne tekivät itsensä hyödyllisiksi metsästämällä rotteja ja pikkulintuja, jotka olivat houkuteltuine ihmisasutuksiin, ja jossain vaiheessa ne tekivät itsensä toivottaviksi. Ne tulivat seurakumppaneiksi.

Tuloksena? Kissat lisääntyvät nopeasti. Niillä on runsaasti ravinnonlähteitä, joko lemmikkeinä tai tilaisuudenmukaisina metsästäjinä ihmisten asutuksen ympärillä. Niillä on vain muutamia vakavia petoja. Ne ovat joka paikassa, missä ihmiset ovat.

Ja uudelleen, tämä ei ollut valinta, jonka he tekivät. Se ei ollut strategia. Se oli vain, miten evoluutio paine toteutui. Mutta lopputulos on hämmästyttävä: sen sijaan, että ne taistelisivat apex pedaattoria vastaan tai ruokkisivat apex pedaattoria, ne ystävystyivät apex pedaattorin kanssa.

Mikä tämä liittyy tekoälyyn

Miksi mikään tästä on merkitystä?

Anthropicsin Mythosin ja Project Glass Wingin kaltaisten mallien saapuminen on, väitän, vastaavaa kuin se päivä, jona ihmiset saapuivat Australiaan. Paitsi, että aikajana on dramaattisesti tiivistynyt. Se, mikä kesti sukupolvia Australian mantereella, tapahtuu nyt vuosissa — ehkä vähemmässä ajassa.

On paljon kirjoitusta tällä hetkellä siitä, miten turvatiimit tulisi vastata tekoälyvoimaisiin hakkeri-uhkiin. Väitän, että tämä on virheellinen lähestymistapa. Tämä ei ole ennen kaikkea turvallisuusongelma. Se on insinöörintekninen ongelma.

Tässä on muutosta: ennen tätä uutta tekoälyaalloa sekä puolustajat että hyökkääjät toimivat maailmassa, jossa panokset olivat suhteellisen rajatut. Hyökkäykset tapahtuivat. Rikkomiset tapahtuivat. Mutta hyökkäysten tempo ja monimutkaisuus olivat sidottuja ihmisten kykyyn. Se on perustavanlaatuisesti muuttunut. Nyt on tekoälymallit, jotka on suunniteltu etsimään ja hyökkäämään haavoittuvuuksia itsenäisesti, laajamittaisesti, ilman väsymystä.

Useimmat kehittäjätiimit ovat jättiläisvompatti tässä tarinassa. He ovat eläneet ympäristössä, jossa kyllä oli uhkia, mutta ei mitään tämänkaltaista. He rakensivat järjestelmiä, jotka olivat kohtuullisen turvallisia paineita vastaan, joita he todella kohtasivat. He eivät olleet koskaan kohdanneet mitään vastaavaa, mitä nyt on tulossa.

Se on muuttumassa.

Kolme vaihtoehtoa — ja miksi vain yksi toimii

Kun tämä uusi uhka saapuu, organisaatiot ovat käytännössä kolmen valinnan edessä:

1. Ole vompatti. Älä sopeudu. Hävitä. Tämä tapahtuu monille yrityksille. Jotkut eivät koskaan palaa.
2. Ole kana. Muuudu reaktiiviseksi, kiirehtimään korjaamaan jokaisen uuden haavoittuvuuden, kun se ilmenee. Tämä on “vedä esiin keihäs ja hoita haava” -lähestymistapa. Se on parempi kuin mitään, mutta kun on 45 keihästä tulee joka suunnasta, se yksi taito ei pelasta sinua. Olet edelleen ruokaa; olet vain hitaampi päästä pöytään.
3. Ole kissa. Muuta perustavanlaatuisesti suhdetta uhkaan. Käytä tekoälyä puolustamaan tekoälyä vastaan. Upota turvallisuus insinöörintiin alusta alkaen. Suunnittele järjestelmiä olettaen, että haavoittuvuus on kun, ei jos.

Tavoitteena ei ole palkata enemmän turvallisuusanalytikkoja partioimaan reunaa. Se on yrittää suojella elefantteja savannilla. Se ei skaalaudu tällaisia uhkia vastaan. Tavoitteena on suunnitella uudelleen savanni.

Mikä “kissan kanssa käymisestä” todella tarkoittaa

Tämä ei ole pintapuolista työtä. Se ei ole ajamassa tekoälyturvallisuusskanneria koodipohjassa joka neljäs kuukausi. Se vaatii uudelleenajattelun siitä, miten kehitys tehdään.

Käytännössä se tarkoittaa asioita kuten:

• Yksinkertaisempia koodipohjia, jotka ovat helpompia ymmärtää ja tarkastaa
• Vedä kirjastoista, joilla on tunnettu, tarkastettu turvallisuusasenne
• Rakentaminen infrastruktuuria olettaen, että haavoittuvuus on kun, ei jos — ja tehdä sivusuunnan liikkuminen niin vaikeaksi kuin mahdollista, kun pahantahtoinen on sisällä
• Ystävystyminen pedon kanssa hyödyntämällä sitä samalla tavalla kuin hyökkääjä. Tekoälymallit voivat vahvistaa insinööri- ja turvatiimejä kehittämään puolustuksiaan ja pääsemään kurkun.

Yritykset, jotka perustetaan huomenna, ovat puhdas taulu. Ne voivat rakentaa tällä tavalla alusta alkaen. Yritykset, jotka jo ovat olemassa, joilla on asiakkaat, herkillä tiedoilla, käynnissä olevilla järjestelmillä, eivät voi aloittaa tätä prosessia nyt.

Kutsu toimintaan

Anthropic on sanonut tämän itse: on oleva lasku. On oleva taloudellista ja yhteiskunnallista häiriötä tekoälyvoimaisista hyökkäyksistä. Jotkut yritykset eivät selviä. Ne tullaan murskaamaan niiden käyttäjien toimesta, jotka käyttävät näitä työkaluja, ja ne eivät koskaan toipua täysin. Se on tapahtumassa.

Niin sanoma on: aloita nyt.

Insinöörit ja turvallisuus tiimit tarvitsevat istua samassa huoneessa. Käydä läpi uhkakuvaa yhdessä. Rakentaa yhteinen tiekartta. Yksi, jossa ensisijainen työ tehdään insinööri- ja suunnittelutiimien toimesta, vahvistettuna turvallisuuden toimesta, ei toisinpäin. Turvallisuus ei voi johtaa tätä. Turvallisuus voi tarkastaa työn. Mutta perustavanlaatuisen muutoksen on tultava ihmisiltä, jotka rakentavat järjestelmiä.

Yritykset, jotka aloittavat tämän prosessin tänään, eivät kaikki selviä. Mutta he ovat luoneet edellytykset selviytymiselle. Ja ympäristössä, joka on tulossa, se on paras, mitä me voimme tehdä.

Ole kissa.