Navrina Singh, Credo AI:n toimitusjohtaja ja perustaja – Haastattelusarja

Navrina Singh on Credo AI:n toimitusjohtaja ja perustaja. Yhtiö suunnittelee ensimmäistä kattavaa tekoälyn hallinnan SaaS-alustaa, joka mahdollistaa yrityksille ja yksilöille paremman ymmärryksen ja luotettavan ja eettisen AI:n luomisen, pysymisen uusien sääntöjen ja käytäntöjen edellä ja luomisen auditoitavissa olevan ja läpinäkyvän tekoälyrekisterin koko organisaatiolle. Yhtiö on toiminut salassa ja rakentanut vaikuttavan asiakasportfolion, johon kuuluu yksi maailman suurimmista hallituksen urakoitsijoista ja rahoituspalveluyrityksistä, sekä muita Fortune 100 -brändejä.

Kasvoit pienessä kaupungissa Intiassa vaatimattomissa olosuhteissa, miten löysit itsesi kiinnostuneeksi insinööritieteestä ja AI-alasta?

Tulen keskiluokkaisesta perheestä; isäni oli sotilas neljä vuosikymmentä ja äitini oli opettaja, josta tuli muotisuunnittelija. Varhaisesta iästä lähtien he aina rohkaisivat uteliaisuuttani, rakkauttani tieteellisiin löytöihin ja tarjosivat minulle turvallisen paikan “mitä jos” -kysymyksiin.

Kun kasvoin Intiassa, naisilla ei ollut yhtä paljon mahdollisuuksia kuin miehillä. Monet päätökset tehtiin jo etukäteen tytölle, sen mukaan mitä yhteiskunta hyväksyi. Ainoa keino murtaa ja tarjota hyvä elämä perheelleen oli kautta koulutuksen.

Lukion jälkeen omistin ensimmäisen tietokoneeni, joka oli ikkuna maailmaan. Olin todella kiinnostunut laitteista ja viettiin tunteja verkossa oppimassa, miten purkaa emolevyjä, rakentaa robotti-sovelluksia, oppia ohjelmointia, uudelleen tehdä sähköasennuksia kotiini (huh!) ja paljon muuta. Insinööritieteestä tuli turvallinen paikka, jossa voin kokeilla, tutkia, rakentaa ja kokea maailmaa, jota halusin olla osana keksintöjeni kautta. Olin innoissani siitä, miten teknologia voisi olla voimakas työkalu muutokseen, erityisesti naisten hyväksi.

Kasvaminen, minun keinoni olivat rajalliset, mutta mahdollisuudet eivät. Aina unelmoin tulevani Yhdysvaltoihin vahvistamaan perustaa teknologiaan ratkaisemalla suurimpia haasteita, joita ihmisille on. Maahanmuutin vuonna 2001 jatkaakseni insinööritieteellistä matkaani Wisconsinin yliopistossa Madisonissa.

Viimeisen lähes kaksi vuosikymmenen ajan olen ollut ylpeä työskentelemään useiden eturintamien teknologioiden parissa, aina mobiililaitteista lisättyyn todellisuuteen.

Vuonna 2011 aloin tutkia tekoälyä luodakseen uusia nousussa olevia liiketoimintoja Qualcommissa (QCOM ). Olen myös viettänyt aikaa rakentamassa liiketoimintoja ja sovelluksia tekoälyssä, kuten puheessa, visiossa ja NLP:ssä Microsoftissa (MSFT ) ja Qualcommissa viimeisen vuosikymmenen ajan. Mitä enemmän opin tekoälystä ja koneoppimisesta, sitä enemmän selvisi, että tämä eturintamien teknologia muuttaa elämämme massiivisesti enemmän kuin mitä voimme kuvitella.

Rakentaminen yrityksen mittakaavan mukaiselle tekoälylle myös teki minulle selväksi, miten teknologia voi tehdä karhunpalveluksen ja vahingoittaa ihmisiä ja yhteisöjä, jos sitä jätetään valvomatta. Meidän, johtajien, on otettava äärimmäinen vastuu teknologioiden kehittämisestä. Meidän on oltava proaktiivisia maksimoimassa sen hyötyjä ihmisille ja minimoida sen riskiä. Kaiken kaikkiaan “mitä me teemme, se tekee meistä” Joten vastuullinen rakentaminen on kriittistä, mikä on innoittanut urani seuraavaa vaihetta rakentamaan tekoälyhallintaa.

Milloin aloitit vakavasti miettimään tekoälyhallintaa?

Ollessani Qualcommin innovaation johtaja, tutkimme mahdollisuuksia, joita tekoäly voisi tuoda uusiin liiketoimintoihin. Alkuvaiheessa työmme keskittyi yhteistyöroboteille, joita käytettiin toimitusketjussa. Tämä oli ensimmäinen kosketukseni “oikeisiin” tekoälyn riskeihin, erityisesti näiden robottijärjestelmien rinnalla työskentelevien ihmisten fyysiseen turvallisuuteen.

Tänä aikana vietimme paljon aikaa startupien, kuten Soul Machinesin, parissa, opiskellen uusia käyttötapauksia ja etsimällä keinoja tehostaa työtämme heidän kanssaan. Soul Machines julkaisi uuden version baby-avataaristaan, “Baby X”:n. Katsellessani tätä hermostoverkkopohjaista vauvaa, joka oppi aktiivisesti maailmasta, se sai minut pysähtymään ja pohtimaan tämän teknologian tahattomia seurauksia. Tyttäreni Ziya syntyi samoihin aikoihin, ja me kutsumme häntä lempeästi “Baby Z”:ksi Soul Machinesin Baby “X”:n mukaan. Olen puhunut tästä aiheesta usein, mukaan lukien Women In Product Keynote -puheessa 2019.

Baby X:n ja Baby Z:n oppimisprosessit olivat hämmästyttävän samanlaiset! Kun Ziya kasvoi, me tarjosimme hänelle aluksi sanastoa ja työkaluja oppimiseen. Ajan myötä hän alkoi ymmärtää maailmaa ja yhdisti asiat itse. Baby X, hermostoverkkopohjainen vauva, oppi myös visiosensoreiden ja puheentunnistuksen kautta ja rakensi nopeasti syvän ymmärryksen ihmisten maailmasta.

Nämä varhaiset tekoälykokemukset tekivät minulle selväksi, että on kriittistä löytää keinoja hallita riskiä ja asettaa tehokkaita suojarajoja tälle voimakkaalle teknologialle, jotta se voidaan käyttää hyvään.

Voitko kertoa Credo AI:n syntytarinan?

Qualcommin jälkeen minut palkattiin johtamaan tekoälytekniikoiden kaupallistamista Microsoftissa liiketoimintakehitysryhmässä ja myöhemmin tuoteryhmässä. Olin tämän ajan saatossa onnekas työskennellä laajalla valikoimalla tekoälyteknologioita, sovelluksineen keskustelevasta tekoälystä sopimusten älykkääseen analysointiin sekä visuaalisista tarkastuksista puheohjattuun tuotehakuun.

Qualcommissa kylvetty tekoälyhallinnan siemen jatkoi kasvuaan, kun näin tekoälyteknologioiden kehittämisen kasvavan valvontavajeen. Tuotejohtajana yhdessä datatieteilijöiden ja insinöörien kanssa halusimme rakentaa hyvin toimivan, koneoppimiseen perustuvan tekoälysovelluksen ja tuoda sen nopeasti markkinoille.

Pidimme vaatimustenmukaisuutta ja hallintaa tarkastusporttina, joka hidasti innovointia. Kasvava huoleni teknisten ammattilaisten sekä riskienhallinnan, vaatimustenmukaisuuden ja auditoinnin valvonta-ammattilaisten välisestä hallintavajeesta sai minut kuitenkin jatkamaan tekoälyhallinnan toteuttamisen haasteiden tutkimista.

Vastausta vaille jääneet kysymykset tekoälyhallinnasta saivat minut etsimään vastauksia. Niinpä aloin perustaa jalansijaa voittoa tavoittelemattomalle yhteisölle nimeltä MERAT (Marketplace for Ethical and Responsible AI tools), jonka tavoitteena on luoda ekosysteemi startup-yrityksille ja Global 2000:lle, jotka keskittyvät vastuulliseen tekoälykehykseen.

Varhaisen kokeilun kautta MERATissa selvisi, ettei ollut startup-yrityksiä, jotka tarjosivat monen sidosryhmän työkaluja kattavaan tekoälyhallintaan ja koneoppimisen sovelluksiin – kunnes Credo AI. Tämä aukko oli minun mahdollisuuteni toteuttaa tekoälyä tarkoituksella ohjaavan tehtävän. Minun hypoteesini vahvistui, että seuraava eturintama tekoälyvallankumouksessa johtuu hallinnasta. Yritykset, jotka omaksuvat hallinnan, nousevat luotettavien brändien johtajiksi.

Minut lähestyi AI Fund, Andrew Ng:n perustama inkubointiyritys. AI Fund oli keskittynyt samoihin aiheisiin, tekoälytarkasteluihin ja -hallintaan, joista olin viime vuosikymmenen ajan ollut kiinnostunut.

Credo AI perustettiin 28. helmikuuta 2020, AI Fundin rahoituksella.

Credo tarkoittaa “arvojen joukkoa, joka ohjaa toimintaa”. Credo AI:lla visiomme on antaa yrityksille mahdollisuus luoda tekoälyä korkeimman eettisen standardin mukaisesti.

Haastattelussa aiemmin, keskustelit siitä, miten brändit tulevaisuudessa tullaan luottamaan ei pelkästään siihen, miten he rakentavat ja käyttävät tekoälyä, vaan siihen, miten he skaalauttavat tekoälyä palvelemaan ihmiskuntaa. Voitko selittää tätä?

Tekoäly on yksi tällä vuosisadalla mullistavaa teknologiaa, joka tarjoaa muuntavan mahdollisuuden taloudelle ja yhteiskunnalle. Se on menossa tuottamaan lähes 16 biljoonaa dollaria maailman taloudelle vuoteen 2030 mennessä.

Viime vuosina on kuitenkin kiinnitetty huomiota merkittäviin tekoälyuhkiin (eikä se ole robotit, jotka hallitsevat maailmaa!) jotka ovat jo täällä. Esimerkiksi oikeudelliset algoritmit, jotka optimoivat vähäistä rikoskertaantumista (rikoksen toistumista), voivat aiheuttaa syrjintää ja evätä ehdonalaisen vapauttamisen niille, jotka ansaitsevat sen.

Sosiaaliset algoritmit, jotka optimoivat osallistumista, voivat jakaa kansakunnan.

Epäoikeudenmukaiset algoritmit voivat olla syy siihen, ettei pääse työhön tai yliopistoon.

Mitä enemmän autonomiaa annamme työkaluille, sitä laajempi on tahattomien seurausten kirjo. Poikkeuksellinen skaala tuottaa poikkeuksellisen vaikutuksen, mutta ei aina sitä vaikutusta, jota aikomme (kirjoitan tästä Credo AI Manifestossa).

Ennustan, että yritykset, jotka investoivat tekoälyhallintaan, jotta ne voisivat rakentaa vastuullista teknologiaa ja sitoutua eettiseen datan käyttöön, pystyvät herättämään luottamusta sidosryhmien keskuudessa – asiakkaiden, kuluttajien, sijoittajien, työntekijöiden ja muiden parissa.

Miten Credo AI auttaa yrityksiä pitämään heidät vastuussa?

Vastuu tarkoittaa velvollisuutta hyväksyä vastuu omista toimista. Tekoälyn kehittämisessä ja käyttämisessä tämä tarkoittaa, että yritysten on oltava yhtä mieltä siitä, mitä “hyvä näyttää heille”, ja ryhdyttävä tarkoituksellisiin toimiin osoittamaan toimintaa näillä yhdenmukaisilla tavoitteilla ja ottamaan vastuu lopputuloksista.

Credo AI pyrkii olemaan sherpa yrityksille heidän eettisissä ja vastuullisissa tekoälytoimissaan, jotta ne voidaan pitää vastuussa monille sidosryhmille: käyttäjille, työntekijöille, sääntelijöille, tilintarkastajille, sijoittajille, johtajille ja muille. Credo AI on kehittänyt uraauurtavan reaaliaikaisen, kontekstipohjaisen, kattavan ja jatkuvan ratkaisun tarjoamaan eettistä ja vastuullista tekoälyä skaalassa.

Rakentamalla vastuullisuutta ja luottamusta tekoälyyn on dynaaminen prosessi. Organisaatioiden on sovittava yrityksen arvoista, koodattava ne organisaation infrastruktuuriin, havainnollistettava vaikutus ja toistettava prosessi moninaisten äänien antaessa panoksensa jokaisessa vaiheessa. Credo AI mahdollistaa tämän vastuun kautta kattavan ja reaaliaikaisen ratkaisun tekoälyn käyttöönoton mukaisen vaatimusten hallinnan ja riskin arvioinnin.

Käyttämällä Credo AI:n hallintaratkaisua, yritykset voivat:

• Sopimaan hallintavaatimukset tekoälysovelluksilleen ja malleilleen, mukautettavilla toimintaperiaatepaketeilla ja päätöksenteon tukityökaluilla valitsemalla mallin arviointimittauksia.
• Arvioida ja tarkastella dataa ja koneoppimismalleja näiden yhdenmukaisten tavoitteiden suhteen
• Analysoida teknisiä määrityksiä toimivaksi riskin vaikutukseksi liiketoiminnalle jokaisessa vaiheessa mallin kehittämistä ja käyttöönottoa, jotta voit pyydystää ja korjata hallintaa koskevia ongelmia ennen kuin ne muuttuvat massiivisiksi ongelmiksi

Näin Credo AI:n avulla yritykset voivat pyydystää päätösten ja toimien alkuperän, joka on todiste siitä, mitä päätöksiä tehtiin mallien luomiseen. Tämä todiste on yritysten sisäisten sidosryhmien ja ulkoisten tilintarkastajien kanssa jaettu, ja se luo luottamusta tekoälyn aikomuksiin.

Tämä todiste auttaa kehitystiimejä ennustamaan ja estämään tahattomia seuraamuksia ja vakiinnuttaa, miten arvioidaan tekoälymallien tehokkuutta ja luotettavuutta.

Olemme vasta aloittamassa tekoälyhallinnan mahdollistamista kattavien arvioiden ja varmistusten kautta, ja olemme innoissamme työskenneltäväksi enemmän yritysten kanssa edistääksemme vastuullisuutta.

Miten Credo AI auttaa yrityksiä siirtymään pois tekoälyhallinnan olemisesta jälkijunassa?

Nykyisessä maailmassa on epäselvyyttä siitä, mitä “vastuullinen”, “eettinen” ja “luotettava” tekoäly todella tarkoittaa, ja miten yritykset voivat toteuttaa sen. Autamme uudelleenmuotoilemaan tämän avainkysymyksen yrityksille käyttämällä Credo AI:n SaaS-alustaa osoittamaan “eettisten taloudellisten” vaikutuksia.

Credo AI:n avulla yritykset voivat tarjota reilua, vaatimustenmukaista ja auditoidua tekoälyä, ja rakentaa asiakasluottamusta. Kuluttajien luottamus voi laajentaa asiakaskuntaa ja avata lisää myyntimahdollisuuksia. Asiakasluottamusta voidaan rakentaa esimerkiksi tarjoamalla parasta mahdollista asiakaskokemusta käyttämällä eettistä tekoälyä asiakaspalveluroboteissa tai vastuullisesti käyttämällä tekoälyä ymmärtääkseen käyttäjien toimintaa ja ehdottaa heille lisää sisältöä tai tuotteita. Erinomaisesti tyytyväiset asiakkaat tarjoavat parhaimman mainonnan jakamalla kokemuksensa ystävien ja perheen kanssa.

Lisäksi yritykset voivat myös nähdä, miten yhteistyö teknisten ja valvontatoimintojen välillä voi auttaa heitä säästämään kustannuksia nopeamman vaatimustenmukaisuuden, tiedostetun riskienhallinnan ja laskemalla brändin ja sääntelyn riskejä. Autamme organisaatioita käyttämään eettistä tekoälyä rakentamalla siltaa teknisten mittareiden ja konkreettisten liiketoimintatuloksien välille. Koska yhä useammat ihmiset ymmärtävät, eettinen tekoäly edellyttää paljon enemmän kuin vain “sääntelyn noudattaminen”. Se voi tarjota jopa enemmän kuin panos oikeudenmukaisempaan maailmaan, mikä olisi itsessään arvokas tulos.

Kun yritys noudattaa korkeita eettisiä standardeja, se voi odottaa todellisia liiketoimintatuloksia, kuten lisääntynyttä liikevaihtoa. Muuttaa näkökulmaa abstraktista “pehmeästä” käsitteestä objektiiviseksi liiketoimintapäätökseksi on ollut tärkeä tapa auttaa meitä asettamaan tekoälyhallinnan kriittiseksi osaksi yrityksen taloudellista ja sosiaalista moottoria.

Viime aikoina Bidenin hallinto perusti Kansallisen tekoälyneuvoston. Miten näet tämän vaikuttavan tekoälyliiketoimintaan?

Valtiovalta käy täysillä sääntelemässä tekoälyä, ja yritysten on valmistauduttava. Bidenin hallinnon perustama Kansallinen tekoälyneuvosto ja sijoitukset Valkoisen talon OSTP:hen ovat hyvä ensimmäinen askel tekoälyjärjestelmien hallitsemiseen liittyvien keskustelujen toimintaan. Kuitenkin paljon työtä on tehtävä, jotta voidaan ymmärtää, mitä vastuullinen tekoäly tarkoittaa maallemme ja taloudellemme.

Uskon, että vuosi 2022 on toiminnan vuosi vastuulliselle tekoälylle. Se on herätys yrityksille, jotka aikovat toteuttaa tai vahvistaa tekoälyeettisen kehyksensä. Nyt on aika yrityksille arvioida olemassa oleva kehys puutteista tai yrityksille, joilla ei ole lähestymistapaa, toteuttaa vankka kehys luotettavalle tekoälylle, jotta ne pystyisivät menestymään tekoälyn aikakaudella.

Odotamme enemmän kovia ja pehmeitä sääntöjä. Lisäksi Valkoisen talon toimiin on paljon liikettä tulevia sääntelijöiden ja virastojen taholta, kuten Senaatin luonnos Algorithmic Accountability Act, Federal Trade Commissionin (FTC) ohjeistus tekoälyharhaisuudesta ja paljon muuta.

Jos nopeutamme tulevaisuuteen, miten tärkeää tekoälyeettisyys ja tekoälyhallinta on viiden vuoden kuluttua?

Olemme vasta aloittamassa tekoälyhallinnan. Korostamaan tekoälyhallinnan kriittisyys, tässä on joitain ennusteitani seuraavien vuosien ajaksi:

• Eettinen tekoälyhallinta tulee olemaan yritysten ensisijainen tavoite

Yritykset jatkavat tekoälyn hyödyntämistä liiketoiminnassaan ja niistä odotetaan runsasta hyötyä. IDC on ennustanut 340 miljardin dollarin sijoitusta tekoälyyn vuonna 2022. Ilman hallintaa yritykset ovat epäröiviä tekoälyyn sijoittamisesta vinoumiin, turvallisuuteen, tarkkuuteen ja vaatimustenmukaisuuteen liittyvien huolten vuoksi. Ilman luottamusta kuluttajatkin epäröivät hyväksyä tekoälytuotteita tai jakaa tietoja näiden järjestelmien rakentamiseen. Seuraavien viiden vuoden aikana eettisestä tekoälyhallinnasta tulee hallitustason prioriteetti ja tärkeä mittari, josta yritysten on annettava tietoa ja raportoitava ansaitakseen sidosryhmiensä luottamuksen.

• Uudet sosio-tekniset työn kategoriat tulevat syntyään yrityksissä

Näemme jo etiikkaa painottavien organisaatioiden investoivan huomattavasti kehitystyönsä tulevaisuudenkestävyyteen, jotta tekoälysovellukset olisivat oikeudenmukaisia, vaatimustenmukaisia ja auditoitavissa.

Tekoälyn johtajiksi pyrkivien yritysten on nopeutettava tekoälysääntelyyn perehtymistä ja laajamittaisten vastuurakenteiden toteuttamista. Eettisen tekoälyn käytännön toteutuksen kehittyessä voi syntyä uusi sosiotekninen ammattiryhmä, joka helpottaa näitä keskusteluja ja ottaa alan vastuulleen. Se voisi toimia välittäjänä teknisten ja valvonta-ammattilaisten välillä sekä auttaa kehittämään yhteisiä standardeja ja tavoitteita.

• Uudet tekoälykokemukset vaativat tiukempaa hallintaa

Tekoälyn tarkoitettujen ja tahattomien seurausten hallitseminen on kriittistä, erityisesti siirryttäessä Metaversumiin ja web3-maailmaan. Tekoälyn riskit ovat olemassa sekä fyysisessä että virtuaalimaailmassa, mutta ne ovat suurempia jälkimmäisessä. Hyppäämällä Metaversumiin ilman tekoälyvalvontaa, yritykset asettavat asiakkaittensa vaaraan haasteita, kuten identiteettivarkauksia ja petoksia. On olennaista ratkaista tekoäly- ja hallintakysymykset nykyisessä maailmassa, jotta kuluttajat voidaan pitää turvassa Metaversumissa.

• Uudet ekosysteemit eettisessä tekoälyhallinnassa tulevat syntyään

Maailma on herännyt siihen, että tekoälyhallinta on perusrakennus vastuullisen tekoälyn toteuttamiseksi. Seuraavien vuosien aikana näemme kilpailukykyisen ja dynaamisen palveluntarjoajien markkinan, joka tarjoaa työkaluja, palveluja, koulutusta ja muita kykyjä tukemaan tätä valtavaa tarvetta.

Lisäksi näemme myös konsolidoinnin ja täydentämisen olemassa olevista MLops- ja GRC-alustoista, jotta voidaan tuoda hallintaa ja arviointikykyjä tekoälyyn.

Onko mitään muuta, mitä haluaisit jakaa Credo AI:sta?

Eettinen tekoälyhallinta on tulevaisuudenkestävä investointi, jota ei ole varaa jättää tekemättä, ja tänään on paras päivä aloittaa.

Kiitos yksityiskohtaisesta haastattelusta ja jaettavista näkemyksistäsi tekoälyhallinnasta ja eettisyydestä, lukijat, jotka haluavat oppia lisää, kannattaa vierailla Credo AI:ssa.