Hanah-Marie Darley, Geordie AI:n Chief AI -upseeri – Haastattelusarja

Hanah-Marie Darley, Geordie AI:n Chief AI -upseeri, on kokenut AI- ja turvallisuusjohtaja, joka perusti yhtiön auttamaan yritysten IT-, riski- ja turvallisuustiimejä omaksumaan agenssien avulla tekoälyä selkeyydellä ja hallinnalla. Lähes vuosikymmenen ajan hän on tukenut tiedustelutoimintaa Yhdysvaltain liittovaltion hallinnossa ja myöhemmin johtajana Darktracessa, yhdistäen syvää asiantuntemusta uhkien tiedustelusta, geopolitiikasta ja sovelletusta psykologiasta käytännön kokemukseen tekoälyn strategiasta ja tuotekehityksestä. Hänen työnsä keskittyy autonomisten järjestelmien ja ihmisen tarkoituksen yhdistämiseen, mahdollistaen yritysten toimittaa tekoälyagentteja tapaa, joka tasapainottaa innovaation, valvonnan ja todellisen maailman rajoitukset.

Geordie AI on Lontoon pohjainen yritys, joka on keskittynyt tekoälyagenttien turvallisuuteen ja hallintaan, kun ne upotetaan yritysten ympäristöihin. Sen alusta tarjoaa näkyvyyden agenttien toimintaan, jatkuvaan riskien seurantaan ja hallintamekanismeihin, jotka mahdollistavat yritysten käyttää tekoälyjärjestelmiä luottavaisesti. Toimittamalla havainnollistamisen, tuen noudattamiseen ja operatiivisen valvonnan, joka on räätälöity agenssien aikakaudesta, Geordie pyrkii antamaan yrityksille tarvittavan avoimuuden ja hallinnan, jotta ne voivat integroida yhä enemmän autonomisen teknologian ilman, että uhkaavat turvallisuutta tai vastuuta.

Olet viettänyt lähes vuosikymmenen ajan Yhdysvaltain liittovaltion uhkien tiedustelussa ja geopolitiikassa, johtanut uhkien tutkimusta ja tekoälyn strategiaa Darktracessa, ja nyt johtaat tekoälyn ja tuotekehityksen strategiaa Geordie AI:ssa. Mitkä kokemukset hallituksen ja yritysten turvallisuuden parissa vaikuttivat eniten päätökseesi rakentaa Geordie, ja mikä oli ydinongelma, jonka halusit ratkaista?

Hallituksen ja yritysten turvallisuuden parissa tapasin jatkuvasti saman rakenteellisen jännitteen. Yritykset panostivat voimakkaasti tekoälyyn, mutta luottamus siihen, miten nämä järjestelmät toimivat, jäi odotuksista. Haaste ei ollut kyky, vaan luottamus.

Kun tekoäly siirtyi kokeellisesta työkalusta operatiivisiin työvirtoihin, tämä kuilu tuli näkyvämmäksi. Agentit tuottavat autonomiaa, päätöksentekoa ja jatkuvuutta järjestelmissä tavalla, jota perinteinen ohjelmisto ei tee. Yrityksillä on oltava tapa ymmärtää, miten agentit toimivat, missä ne toimivat ja miten riski syntyy heidän käyttäytymisestään. Geordie on rakennettu tämän selkeän kuilun sulkemiseksi, jotta yritykset voivat omaksua autonomian luottavaisesti eikä epäröiden.

Miten yritykset voivat tasapainottaa tarpeen sellaisen näkyvyyden kanssa, joka liittyy agenssien toimintaan, ja miten “ketjureaktio” kontekstuaalisessa päätöksenteossa eroaa perinteisistä kyberuhka-malleista?

Hiljaiset virheet ovat ymmärrettyjä huonosti. Agenssi voi toimia hyväksyttyjen oikeuksien ja laillisten pääsyoikeuksien rajoissa ja silti tuottaa tuloksia, jotka poikkeavat aikomuksesta.

Tämä heijastaa agenssijärjestelmien luonnetta. Ne tulkkaavat kontekstia ja tekevät päätöksiä reaaliajassa. Toisin kuin deterministinen ohjelmisto, käyttäytyminen muotoutuu dynaamisesti toimintasarjojen yli. Tämä muuttaa turvallisuusmallia. Altistuminen ei riipu enää ainoastaan pääsyoikeuksien loukkauksista. Se ilmenee päätöksien, työkalujen ja kontekstin vuorovaikutuksena ajan saatossa.

Geordien lähestymistapa korostaa agenssien käyttäytymisen havainnollistamista, kontekstuaalista riskiarviointia ja dynaamista valvontaa. Miten yritykset voivat tasapainottaa tarpeen tällaisen reaaliaikaisen näkyvyyden kanssa ja huolenaiheita operatiivisesta monimutkaisuudesta tai järjestelmän suorituskyvystä?

Yrityksillä ei pitäisi olla vaihtoehtoa suorituskyvyn ja valvonnan välillä. Arkkitehtuurimme välttää tarkoituksella inline-välilehtiä ja portteja, jotta yritykset voivat rakentaa ja käyttää agensseja siellä, missä se on operatiivisesti järkevää.

Näkyvyys ja valvonta on oltava skaalautuvia autonomian mukana ilman kitkaa tai viivettä. Jos hallintamekanismit hidastavat työvirtoja, omaksuminen tyrehtyy. Tehokas turvallisuus mahdollistaa ekosysteemien turvallisen laajentamisen, sen sijaan, että se rajoittaa innovaatiota.

Miten yritykset voivat havaita varhaisia merkkejä agenssien siirtymisestä korkeampiin riskiin ja miten ne voivat havaita nämä merkit ennen kuin ne eskaloituvat merkittäviksi tapahtumiksi?

Riski lisääntyy monimutkaisuuden kasvaessa. Mitä enemmän agenssi tekee itsenäisiä valintoja, sitä suurempi on potentiaali käyttäytymisen poikkeamiseen.

Siirtymä ilmenee usein työkalujen ketjutuksessa, kontekstin uudelleenkäytössä ja emergentissä työvirroissa. Varhaiset merkit ovat odottamattomia työkalujen kutsuja, epätavallisia järjestyssääntöjä ja muutoksia datan liikkeessä. Näiden signaalien havaitseminen vaatii käyttäytymisen analyysiä, ei erillisten tapahtumien seurantaa.

Mitä ovat subtiileimmät tai aliarvioiduimmat virheenmuodot, joihin turvallisuustiimit tulisi kiinnittää enemmän huomiota, kun agenssit uudelleenkäyttävät kontekstia ja työkaluja tehtävissä?

Kontekstin uudelleenkäyttö on aliarvioitu. Altistuminen usein johtuu ei niinkään liiallisista oikeuksista, vaan siitä, miten tieto säilyy ja leviää tehtävien yli.

Agenssit voivat laillisten oikeuksien puitteissa päästä tietoon tietyssä kontekstissa ja vahingossa viedä sen toiseen kontekstiin. Yhdistettynä työkalujen ketjutuksen kanssa tämä voi johtaa tahattomaan tietojen paljastamiseen tai muuttamiseen.

Miten perinteiset yritysten turvallisuusratkaisut, kuten Endpoint Detection and Response ja Extended Detection and Response -alustat, eivät riitä agenssien hallitsemiseen, jotka tekevät monivaiheisia toimia?

EDR- ja XDR-alustat ovat edelleen olennaisia, mutta ne on suunniteltu ihmiskeskeisten uhkamallien ympärille. Agenssit toimivat päätöksentekijöiden tasolla, joka ulottuu laajemmin kuin päätepiste- ja identiteettitiedon seuranta.

Agenssien käyttäytymisen ymmärtäminen vaatii syvää ymmärrystä päätöksentekoprosesseista, työkalujen valinnasta ja kontekstuaalisista päätöksenteosta. Ilman tätä kerrosta suuri osa agenssien toiminnasta jää epäselväksi.

Miten IT-, riski- ja turvallisuusjohtajat voivat mahdollistaa innovaation omaksumisen ilman, että se johtaa autonomian menettämiseen? Minkälaista on “hallittu autonomia” käytännössä?

Hallittu autonomia alkaa näkyvyydestä. Yritysten on ymmärrettävä, missä agenssit toimivat, millainen päätöksentekijän valta heillä on ja mitkä riskit heidän kykynsä tuottavat. Hallinta on tehokkainta, kun se on upotettu varhaisessa vaiheessa, jolloin kokeilu voidaan tehdä määritellyn rajojen puitteissa. Tämä tukee innovaatiota ylläpitäen samalla luottamusta lopputuloksiin.

Miten yritykset tulisi ajatella selittämiskelpoisuudesta ja tarkasteltavuudesta, kun todellinen riski voi piillä agenssien toimintasarjoissa ajan saatossa eikä ainoastaan mallin tuloksissa?

Mallin selittämiskelpoisuus on vain osa yhtälöä. Yritysten riski kasvaa yhä enemmän käyttäytymisen sarjoissa eikä ainoastaan erillisten tuloksissa.

Tarkasteltavuus vaatii ymmärtämistä siitä, miten varmistusmekanismit vaikuttivat tulkintaan, mitkä työkalut otettiin käyttöön ja miten konteksti vaikutti päätöksiin. Käyttäytymisen havainnollistaminen muodostaa perustan vastuulle.

Miten yritykset, jotka tunnustavat vahvemman valvonnan tarpeen autonomisille tekoälyjärjestelmille, tulisi toimia konkreettisesti tänään vähentääkseen agenssien riskiä ilman, että hidastavat innovaatiota, ja miten Geordie AI auttaa yrityksiä toteuttamaan tämän tasapainon valvonnan ja kyvyn välillä?

Yritykset hyötyvät aloittamalla varhain eikä odottamalla täydellisiä kehyksiä. Alkuvaiheen keskittyminen tulisi kohdistua inventointiin, käyttäytymisen näkyvyyteen ja ymmärtämiseen siitä, miten agenssit vuorovaikuttavat järjestelmien kanssa.

Hallintamallit, jotka aiheuttavat viivettä, usein hidastavat skaalautuvuutta. Valvonta on oltava operatiivisen nopeuden mukainen. Geordie tarjoaa näkyvyyden agenssien konfiguraatioon, käyttäytymiseen ja riskidynamiikkaan, mahdollistaen korjauksellisia valvontatoimia, jotka on suunniteltu autonomisille järjestelmille.

Miten yritykset, jotka onnistuvat skaalauttamaan agenssien tekoälyä työvirroissa, eroavat niistä, jotka kokevat takaiskuja hallitsemattoman riskin vuoksi, ja miten johtajuus tulisi valmistautua nyt?

Varhaiset erottautujat ovat selkeys ja mittaaminen. Tiimit, jotka ymmärtävät agenssien kyvykkyyttä, vaikutusta ja käyttäytymismalleja, skaalautuvat luottavaisemmin.

Pitkällä aikavälillä kilpailuetu on yrityksillä, jotka kehittävät erikoistuneita, kontekstia tuntevia agenssien ekosysteemejä. Täsmällisyys, ei yleistäminen, muodostuu suorituskyvyn ja kestävyyden ohjaajaksi.

Kiitos haastattelusta, lukijat, jotka haluavat oppia enemmän, voivat vierailla Geordie AI:ssa.