Navrina Singh, CEO û Damezrînerê Credo AI - Rêzeya Hevpeyvînê

Navrina Singh CEO û Damezrînerê ye Credo AI, Pargîdaniyek ku yekem platforma SaaS ya rêveberiya AI-ê ya berfireh dîzayn dike ku rê dide pargîdan û kesan ku AI-ya pêbawer û exlaqî çêtir fam bikin û radest bikin, li pêşiya rêzikname û polîtîkayên nû bimînin û tomarek AI-yê ku li seranserê rêxistinê tê kontrol kirin û zelal e biafirînin. Pargîdanî bi dizî dimeşe û bi bêdengî portfoliyoyek xerîdar a balkêş ava dike ku di nav wan markayên Fortune 100 de, yek ji mezintirîn peymankarên hukûmetê û pargîdaniyên karûbarên darayî li cîhanê vedihewîne.

Hûn li bajarekî piçûk ê Hindistanê bi destpêkek nefsbiçûk mezin bûn, we çawa dît ku bala xwe daye endezyariyê û qada AI?

Ez ji malbateke çîna navîn têm; bavê min çar deh salan leşker bû û diya min mamoste bû û bû sêwiranerê modayê. Ji zarokatiya xwe ve, wan her gav hesta min a meraqê, hezkirina ji vedîtinên zanistî re teşwîq kir, û ji min re cîhek ewle peyda kir ku ez li "çi dibe".

Dema ku ez li Hindistanê mezin bûm, bi qasî mêran derfet ji jinan re nehat dayîn. Jixwe ji bo keçekê gelek biryar dihatin girtin, li gorî tiştê ku ji hêla civakê ve dihat pejirandin. Yekane riya ku meriv ji malbata xwe veqetîne û jiyanek xweş peyda bike perwerdehiyê bû.

Piştî qedandina lîseyê, min xwediyê komputera xwe ya yekem bû ku pencereya min a li dinyayê bû. Ez bi rastî di nav hardware de bûm, û bi demjimêran serhêl fêr bûm ka meriv çawa çawa pêlavên dayikê ji hev veqetîne, sepanên robotîkê çêbike, fêrî kodkirinê, ji nû vekirina elektrîkê li mala xwe (yek!) û hêj bêtir. Endezyarî bû cîhê min ê ewle, ku ez dikarim cîhanek ku min dixwest bi îcadên xwe bibim perçeyek, ceribandin, vekolîn, ava kirin û ezmûn bikim. Ez îlham û heyecan bûm ka teknolojî çawa dikare bibe amûrek hêzdar ku bandorê li guhertinê bike, nemaze ji bo jinan.

Dema mezin bûm, derfetên min kêm bûn, lê îmkan nebûn. Min her gav xeyal dikir ku ez bêm Dewletên Yekbûyî da ku di teknolojiyê de bingehek bihêztir ava bikim da ku pirsgirêkên herî mezin ên ku mirovahî rû bi rû maye çareser bikim. Ez di sala 2001 de koçî vir kirim, da ku rêwîtiya xwe ya endezyariyê li Zanîngeha Wisconsin Madison bidomînim.

Di heyama du dehsalên xwe yên endezyariyê de, min xwediyê îmtiyazê bû ku li seranserê teknolojiyên pir sînor, ji mobîl heya rastiya zêdekirî bixebitim.

Di sala 2011-an de, min dest bi lêkolîna Zehmetiya Hunerî kir ku li Qualcomm karsaziyên nû yên nû ava bikin. Min di deh salên paşîn de li Microsoft û Qualcomm-ê di nav axaftin, dîtin û NLP de di AI-ê de karsazî û serîlêdanan jî ava kir. Gava ku ez di derbarê fêrbûna AI û makîneyê de bêtir fêr bûm, diyar bû ku ev teknolojiya serhedê dê jiyana me ji ya ku em dikarin xeyal bikin bi girseyî têk bibe.

Avakirina pîvana pargîdaniya Zehmetiya Hunerî di heman demê de min fêhm kir ka teknolojî çawa dikare xirabiyê bike û zirarê bide gel û civakên me, heke neyê kontrol kirin. Em, wekî rêber, divê berpirsiyariya giran ji bo teknolojiyên ku em ava dikin bigirin. Divê em di zêdekirina feydeyên wê ji bo mirovahiyê û kêmkirina xetereya wê de çalak bin. Beriya her tiştî "Tiştê ku em çêdikin, me dike" Ji ber vê yekê avakirina bi berpirsiyarî krîtîk e, ku îlhama qonaxa paşîn a kariyera min a avakirina rêveberiya AI-yê kiriye.

We kengê yekem car dest bi ciddî li ser rêveberiya AI-yê kir?

Dema ku ez serokê nûjeniyê li Qualcomm bûm, me îmkanên ku AI dikare ji karsaziyên me yên nûbûyî re bîne vekolîn. Xebata meya destpêkê li ser robotên hevkar ên ku di zincîra peydakirinê de hatine bikar anîn balê dikişîne. Ev yekem rûbirûbûna min bû ji xetereyên "rast" ên AI-ê re, nemaze bi rêzgirtina ewlehiya laşî ya mirovên ku li kêleka van pergalên robotîkî dixebitin.

Di vê demê de, me bi destpêkan re, mîna Makîneyên Soul, demek girîng derbas kir, fêrbûna dozên karanîna nû û dîtina rêyên ku bi wan re hevkariyê bikin da ku xebata xwe zûtir bikin. Soul Machines guhertoyek nû ya avatara pitika xwe, "Baby X" derxistibû. Temaşekirina vê pitikê ku hêza tora neuralî ye, ku bi aktîvî ji cîhana derdora wê fêr dibe, min hişt ku ez rawestim û li ser encamên nedilxwaz ên vê teknolojiyê bifikirim. Keça min Ziya di heman demê de ji dayik bû, û me bi dilxweşî paşnavê zarokê wê "Z" li dû Soul Machines Baby "X" lê kir. Min li ser vê yekê pir zêde axivî, di nav de Jin Di Hilbera Keynota 2019 de.

Rêwîtiyên fêrbûnê yên Baby X û Baby Z pir dişibin hev! Dema Ziya mezin dibû, me ferheng û amûrên destpêkê yên fêrbûnê pêşkêşî wê dikir. Bi demê re, wê dest pê kir ku cîhanê fêm bike û tiştan bi xwe re li hev bike. Baby X, pitika tora neuralî, bi heman rengî bi senzorên dîtinê û naskirina axaftinê fêr dibû, û zû têgihiştinek kûr a cîhana mirovan ava dikir.

Van demên pêşîn ên AI-ê ji min re eşkere kir ku ew krîtîk e ku meriv rêyên birêvebirina xetereyê bibîne û parêzvanên bi bandor li dora vê teknolojiya hêzdar bixe da ku pê ewle bibe ku ew ji bo baş tê bicîh kirin.

Ma hûn dikarin çîroka çêbûna li pişt Credo AI parve bikin?

Piştî Qualcomm, ez hatim peywirdarkirin ku ez pêşengiya bazirganiya teknolojiyên AI-ê li Microsoft-ê di koma pêşkeftina karsaziyê de û, dûv re, di koma hilberê de bikim. Di dema wezîfeya xwe de, ez bextewar bûm ku ez li ser cûrbecûr teknolojiyên AI-yê bi serîlêdanên di dozên karanîna de ji AI-ya Hevpeyvînê bigire heya îstîxbarata peymanê, û ji vekolînên dîtbar heya vedîtina hilbera hêzdar a axaftinê bixebitim.

Lêbelê, tovê rêveberiya AI-ê ya ku li Qualcomm hatî çandin her ku diçe mezin dibe ji ber ku ez berdewam bûm şahidê zêdebûna "kêmasiya çavdêriyê" di pêşkeftina teknolojiyên Zehmetkêşiya Hunerî de. Wekî serek hilberek ku bi tîmê zanyarî û endezyariya daneyê re dixebite, me motîve kir ku em serîlêdanek AI-ya bilind a ku ji hêla fêrbûna makîneyê ve hatî hêzdar kirin ava bikin û wê zû li sûkê bicîh bikin.

Me lihevhatin û rêveberî wekî kontrolkirina dergehê ku leza nûbûnê hêdî dike dît. Lêbelê, fikarên min ên mezin ên di derbarê kêmasiya rêveberiyê de di navbera pisporên teknîkî û çavdêriyê de di xetere, lihevhatin, lênêrînê de, min teşwîq kir ku ez di pêkanîna rêveberiya AI-ê de lêgerîna dijwariyan bidomînim.

Hemî pirsên bêbersiv ên di derbarê rêveberiya AI-ê de min hişt ku ez li bersivan bigerim. Ji ber vê yekê min dest bi danîna bingehek ji bo nefermî ya bi navê MERAT (Bazara Amûrên AI-ya Etîk û Berpirsiyar) kir bi mebesta afirandina ekosîstemek ji bo destpêk û 2000-an Global ku balê dikişîne ser pêşkeftina berpirsiyar a AI.

Bi ceribandinên destpêkê yên li MERAT-ê, eşkere bû ku ne destpêkek hene ku amûrên pir alîgir dihêlin ku rêveberiya berfireh a serîlêdanên AI û ML-ê hêzdar bikin - heya Credo AI. Ev valahî fersenda min bû ku ez mîsyona rêberkirina AI-ê bi mebest fam bikim. Hîpoteza min her dem hate pejirandin ku sînorê paşîn ê şoreşa AI-ê dê ji hêla rêveberiyê ve were rêve kirin. Pargîdaniyên ku desthilatdariyê hembêz dikin dê di marqeyên pêbawer de bibin pêşeng.

Ji hêla Fona AI-ê ve, înkubatorek ku ji hêla Andrew Ng, pisporê navdar ê AI-ê ve hatî damezrandin, hat min. Fona AI-ê li ser heman mijarên kontrolkirina AI-ê û rêveberiya ku ez di deh salên borî de pê re mijûl dibûm bal kişandibû.

Credo AI di 28ê Sibatê de hate saz kirin^th, 2020, bi fonê ji Fona AI.

Credo tê wateya "komek nirxan ku tevgerên we rêber dike." Bi Credo AI-ê re, vîzyona me ev e ku em pargîdaniyan hêz bidin ku AI-ê bi standardên herî bilind ên exlaqî biafirînin.

di hevpeyvîna berê, we nîqaş kir ka dê çawa di pêşerojê de marqeyên pêbawer bibin ne "Tenê" li ser bingeha ka ew çawa AI-yê ava dikin û bicîh dikin, lê li ser ka ew çawa AI-ê çawa pîvan dikin da ku ew di xizmeta mirovahiyê de be. Hûn dikarin li ser vê yekê berfirehtir bikin?

Îstixbarata Hunerî yek ji teknolojiyên guhêrbar ên lîstika vê sedsalê ye û ji bo aborî û civakê fersendên veguherîner pêşkêşî dike. Ew di rê de ye ku heya sala 16-an nêzî 2030 trîlyon dolar beşdarî aboriya gerdûnî bibe.

Lêbelê, çend salên çûyî ronahiyek li ser xetereyên sereke yên AI-yê (û na, ew ne serdestên robotan e!) jixwe li vir e. Mînakî, algorîtmayên dadwerî yên ku ji bo dubarekirina hindiktirîn (vegera tevgera sûcdar) xweşbîn dikin, dikarin alîgiriyê bidin nasîn û serbestberdana wan ên ku wê heq dikin red bikin.

Algorîtmayên civakî ku ji bo tevlêbûnê xweşbîn dikin dikarin neteweyek parçe bikin.

Algorîtmayên neheq dikarin bibin sedem ku hûn karek an pejirandina zanîngehê nebînin.

Em çiqas bêtir xweseriyê bidin amûrên xwe, ew qas encamên nediyar berfirehtir dibin. Pîvana awarte bandorek awarte çêdike, lê ne her gav bandora ku em dixwazin (ez li ser vê yekê dinivîsim Manîfestoya Credo AI).

Ez pêşbînî dikim ku pargîdaniyên ku di rêveberiya AI-yê de veberhênan dikin da ku ji wan re bibin alîkar ku teknolojiyê bi berpirsiyarî ava bikin û bi karanîna exlaqî ya daneyan re pabend bin, dê karibin baweriyê di nav beşdaran de peyda bikin - xerîdar, xerîdar, veberhêner, karmend, û yên din.

Credo AI çawa alîkariya pargîdaniyan dike ku berpirsiyar bimînin?

Berpirsiyarî tê wateya ku berpirsiyariya kiryarên xwe qebûl dike. Di çarçoweya pêşkeftin û bicîhkirina AI-ê de, ev tê vê wateyê ku pargîdanî ne tenê hewce ne ku li gorî tiştê ku "ji wan re xweş xuya dike" li hev bikin, lê gavên bi mebest bavêjin da ku li ser wan armancên lihevhatî çalakiyê nîşan bidin û berpirsiyariya encaman hilgirin.

Credo AI armanc dike ku di însiyatîfa xwe ya AI-ya exlaqî û berpirsiyar de ji pargîdaniyan re bibe sherpa da ku wan ji aliyên cihêreng re berpirsiyar bihêle: bikarhêner, karmend, rêkûpêk, çavdêr, veberhêner, rêveber û yên din. Ji ber vê yekê Credo AI-ê çareseriyek rast-dem, çarçove-rêveber, berfereh û domdar pêşeng kiriye da ku AI-ya exlaqî û berpirsiyar di pîvanê de peyda bike.

Avakirina berpirsiyarî û pêbaweriya di AI-ê de pêvajoyek dînamîkî ye. Divê rêxistin li ser nirxên pargîdaniyê tevbigerin, wan nirxan kod bikin, wan di binesaziya xwe ya rêxistinî de ava bikin, bandorê bişopînin û pêvajoyê bi dengên cihêreng ên ku di her qonaxê de têketinê peyda dikin dubare bikin. Credo AI vê berpirsiyariyê bi navgîniya çareseriyek berfireh û dema rast ji bo birêvebirina lihevhatinê û pîvandina xetereyê ji bo bicîhkirina AI-ê di pîvanê de dihêle.

Bi karanîna çareseriya rêveberiya Credo AI-ê, pargîdanî dikarin:

• Ji bo doz û modelên wan ên karanîna AI-ê, bi pakêtên polîtîkaya xwerû û amûrên piştgirîya biryarê re ji bo hilbijartina metrîkên nirxandina modelê li gorî daxwazên rêveberiyê tevbigerin.
• Dane û modelên ML li hember wan armancên hevgirtî binirxînin û lêpirsîn bikin
• Taybetmendiyên teknîkî di her qonaxên pêşkeftin û bicîhkirina modelê de li ser bandora xetera çalak a ji bo karsaziyê analîz bikin, ji ber vê yekê hûn dikarin pirsgirêkên rêveberiyê bigirin û rast bikin berî ku ew bibin pirsgirêkên mezin

Bi tomarkirina biryar û çalakiyan li her xalê, Credo AI eslê biryarên ku ketine nav afirandina modelan wekî delîl digire. Ev delîl dê bibe tomarek ku di hundurê xwe de bi beşdarên pargîdanî re û ji derve ve bi çavdêran re tête parve kirin ku di niyeta AI-ê de baweriyê ava dike.

Ev delîl dê ji tîmên pêşkeftinê re bibe alîkar ku encamên nedilxwaz pêşbînî bikin û pêşî lê bigirin û dê awayê ku em karîgerî û pêbaweriya modelên AI-ê dinirxînin standard bikin.

Em di destpêka destpêkê de ne ku rêveberiya AI-ê bi navgîniya nirxandin û pêbaweriya berfereh ve kar bikin û bi heyecan in ku bi zêdetir pargîdaniyan re bixebitin da ku berpirsiyariyê pêşve bibin.

Credo AI çawa ji pargîdaniyan re dibe alîkar ku ji rêveberiya AI-ê dûr bibin ku ramanek paşerojê ye?

Di cîhana îroyîn de, ne zelaliyek li ser çi ye ku bi rastî "berpirsiyar", "exlaqî" û "pêbawer" AI-yê ye, û pargîdanî çawa dikarin wê radest bikin. Em bi karanîna platforma Credo AI SaaS re ji nûvekirina vê pirsa sereke ji bo pargîdaniyan re dibin alîkar da ku "aboriya exlaqê" nîşan bidin.

Bi Credo AI-ê re, pargîdanî ne tenê dikarin AI-ya dadperwer, lihevhatî û guhdarîbar radest bikin, lê ew dikarin pêbaweriya xerîdar ava bikin.

Avakirina pêbaweriya xerîdar dikare bingeha xerîdar a pargîdaniyek berfireh bike û bêtir firotanê veke. Mînakî, pargîdan dikarin bi karanîna AI-ya exlaqî di chatbotên karûbarê xerîdar de ezmûna xerîdar a çêtirîn peyda bikin, an jî bi berpirsiyarî AI-ê bikar bînin da ku çalakiya bikarhêner fam bikin û naverok an hilberên zêde ji wan re pêşniyar bikin. Dûv re xerîdarên pir razî bi parvekirina ezmûna xwe bi heval û malbata xwe re reklama çêtirîn pêşkêşî dikin.

Wekî din, pargîdanî di heman demê de dikare bibîne ka hevkarî di nav fonksiyonên teknîkî û çavdêriyê de çawa dikare ji wan re bibe alîkar ku lêçûn xilas bikin ji ber ku demek zûtir a lihevhatinê, rêveberiya xeterê ya agahdar, xetereyên marqe û rêziknameyê kêm dike. Em alîkariya rêxistinan dikin ku AI-ya exlaqî bi avakirina pirek di navbera metrîkên teknîkî û encamên karsaziyê yên berbiçav de bicîh bikin. Gava ku bêtir û bêtir mirov pê dihesin, şampiyoniya AI-ya exlaqî ji kontrolkirina qutiyek "lihevhatina birêkûpêk" pir zêdetir pêk tê. Lê ew xwedî wê hêzê ye ku ji cîhanek bêtir dadmendtir ji beşdariyekê jî zêdetir bide, ku ew bixwe encamek hêja be.

Gava ku pargîdaniyek standardên exlaqî yên bilind diparêze, ew dikare li bendê be ku encamên karsaziya rastîn, wekî zêdebûna dahatê. Veguheztina perspektîfê ji têgehek "nerm" a razber, berbi biryarek karsaziyek objektîf, ji me re rêyek bingehîn e ku em alikariya pozîsyona rêveberiya AI-ê wekî beşek krîtîk a motora aborî û civakî ya pargîdanî bikin.

Di van demên dawî de, Rêveberiya Biden Komîteya Şêwirmendiyê ya Îstixbarata Hunerî ya Neteweyî ava kir. Bi dîtina we, encamên vê ji bo karsaziyên AI-ê çi ne?

Hikûmetên gerdûnî bi tevahî hêza xwe li ser birêkûpêkkirina AI-yê dimeşînin, û pargîdanî hewce ne ku amade bibin. Afirandina ramanî ya rêveberiya Biden a komîteya şêwirmendiya AI-ya Neteweyî û veberhênanên li OSTP ya Qesra Spî gavek yekem baş e ku ji bo nîqaşên li dora pêşnûmeya mafên rêvebirina pergalên AI-ê bikeve tevgerê. Lêbelê, pêdivî ye ku pir kar were kirin da ku fêm bikin ka AI-ya Berpirsyar dê ji bo welat û aboriya me çi be.

Ez bawer dikim ku 2022 ji bo AI-ê berpirsiyar e ku bibe sala çalakiyê. Ew ji bo pargîdaniyên ku dixwazin çarçoweya xwe ya exlaqî ya AI-ê bicîh bikin an xurt bikin banga hişyarbûnê ye. Naha dema wê ye ku pargîdanî çarçoweya xweya heyî ji bo valahiyan binirxînin, an jî, ji bo pargîdaniyên ku nêzîkatiyek wan tune, çarçoveyek zexm ji bo AI-ya pêbawer bicîh bikin da ku wan ji bo serfiraziyê saz bikin da ku di serdema AI-ê de pêşengiyê bikin.

Divê em li bendê bin ku zagonên hişk û nermtir derkevin holê. Digel kiryarên Qesra Spî, ji siyasetvan û ajansên din jî gelek şox heye, wek pêşnûmeya Qanûna Berpirsiyariya Algorîtmîkî ya Senatoyê, rêbernameya Komîsyona Bazirganî ya Federal (FTC) li dor alikariya AI, û hêj bêtir.

Ger em ber bi pêşerojê ve bilezînin, dê di pênc salan de etîka AI û rêveberiya AI-ê çiqas girîng be?

Em di destpêka rêveberiya AI-ê de ne. Ji bo ku ronî bikim ka rêveberiya AI-ê çiqas krîtîk e, li vir çend pêşbîniyên min ji bo çend salên pêş de hene:

• Rêvebiriya AI-ya exlaqî dê bibe pêşengiya rêxistinê ya herî sereke

Pargîdanî veberhênana xwe didomînin û ji karanîna AI-ê di karsaziyên xwe de sûd werdigirin. IDC di sala 340-an de 2022 mîlyar dolar lêçûnek li ser AI-yê pêşbîn kir. Bêyî rêveberî, pargîdanî dê ji ber fikarên li ser alîgiriyê, ewlehî, rastbûn, lihevhatina van pergalan ji veberhênana AI-ê nerazî bin.

Bêyî pêbaweriyê, xerîdar dê di heman demê de nerazî bin ku hilberên bingehîn ên AI-yê qebûl bikin an jî daneyan parve bikin da ku van pergalan ava bikin. Di pênc salên pêş de, rêveberiya AI-ê ya exlaqî dê bibe pêşengek civata panelê û pîvanek girîng a ku pargîdanî neçar in ku eşkere bikin û rapor bikin da ku pêbaweriyê di nav beşdarên xwe de ava bikin.

• Dê kategoriyên karên nû yên sosyo-teknîkî di nav pargîdaniyek de derkevin holê

Em jixwe dibînin ku rêxistinên pêşeroj ên etîk veberhênanên girîng di paşerojê de îspatkirina pêşkeftina xwe dikin da ku serîlêdanên AI-ê yên dadperwer, lihevhatî û veguhezbar piştrast bikin.

Ji bo ku di AI-ê de pêşengiyê bikin, pargîdanî dê hewce bike ku hînbûna li ser perestgeha birêkûpêk a AI-yê û pêkanînên strukturên berpirsiyariyê di pîvanê de bêtir bilezînin. Gava ku qada pêşkeftî ya pêkanîna AI-ya exlaqî pêşve diçe, dibe ku kategoriyek karek sosyoteknîkî ya nû derkeve holê ku van danûstendinan hêsan bike û di vî warî de berpirsiyariyê bigire. Ev pêkhateya nû ya hêza kar dikare wekî navbeynkar di navbera teknîkî û çavdêriyê de bixebite, û bibe alîkar ku standard û armancên hevbeş pêşve bibin.

• Tecrûbeyên nû yên bi hêza AI-ê dê rêveberiya hişktir bixwazin

Birêvebirina mebest û encama nediyar a îstîxbarata sûnî krîtîk e, nemaze ku em têkevin cîhana Metaverse û web3. Xetereyên AI-ê di cîhana rast û cîhana virtual de hene, lê di ya paşîn de bêtir têne zêdekirin.

Bi ketina serê Metaverse re pêşî bi nebûna çavdêriya AI-ê, pargîdanî xerîdarên xwe ji ber pirsgirêkên mîna dizîna nasnameyê û xapandinê dixin xeterê. Pir girîng e ku pirsgirêkên AI û rêveberiyê di cîhana rastîn de naha têne çareser kirin da ku xerîdar li Metaverse ewle bimînin.

• Dê ekosîstemên nû di rêveberiya AI-ya exlaqî de derkevin holê

Cîhan bi vê ramanê şiyar bûye ku rêveberiya AI bloka bingehîn a bingehîn a xebitandina AI-ya berpirsiyar temsîl dike. Di çend salên pêş de, em ê bibînin ku bazarek pêşbaz û dînamîkî ya pêşkêşkerên karûbar derdikeve ku ji bo piştgirîkirina vê hewcedariya girseyî amûr, karûbar, perwerdehî û kapasîteyên din peyda dikin.

Wekî din, em ê di heman demê de yekbûn û zêdekirina Mlopên heyî û platformên GRC jî bibînin, da ku kapasîteyên rêveberî û nirxandinê bînin AI.

Tiştek din heye ku hûn dixwazin di derbarê Credo AI de parve bikin?

Rêvebiriya AI-ya exlaqî veberhênanek paşerojê ye ku hûn nekarin debara xwe bikin ne çêbikin, û îro roja herî baş e ku dest pê bike.

Spas ji bo hevpeyivîna berfireh û ji bo parvekirina hemî têgihiştinên xwe yên di derbarê rêveberiya AI û exlaqê de, xwendevanên ku dixwazin bêtir fêr bibin divê biçin serdana Credo AI.