Yotam Oren, CEO & Cofounder of Mona Labs - Wawancara Series

Yotam Oren, nyaéta CEO & Cofounder of Mona Labs, platform anu ngamungkinkeun perusahaan pikeun ngarobih inisiatif AI tina percobaan lab kana operasi bisnis anu tiasa skala ku leres-leres ngartos kumaha model ML kalakuanana dina prosés sareng aplikasi bisnis nyata.

Mona otomatis nganalisa paripolah model pembelajaran mesin anjeun dina bagéan data anu ditangtayungan sareng dina konteks fungsi bisnis, pikeun ngadeteksi poténsi bias AI. Mona nawiskeun kamampuan pikeun ngahasilkeun laporan kaadilan lengkep anu nyumponan standar sareng peraturan industri, sareng nawiskeun kayakinan yén aplikasi AI patuh sareng bebas tina bias naon waé.

Naon anu mimitina narik anjeun kana élmu komputer?

Élmu komputer mangrupikeun jalur karir anu populer di kulawarga kuring, janten éta salawasna aya dina pikiran salaku pilihan anu lumayan. Tangtu, budaya Israél pisan pro-tech. Kami ngagungkeun téknologi inovatif sareng kuring sok ngagaduhan persepsi yén CS bakal nawiskeun kuring landasan pikeun kamekaran sareng prestasi.

Sanaos kitu, éta ngan ukur janten gairah pribadi nalika kuring ngahontal umur universitas. Abdi sanés salah sahiji murangkalih anu ngamimitian coding di sakola tengah. Dina nonoman kuring, kuring sibuk teuing maén baskét pikeun merhatikeun komputer. Saatos SMA, abdi nyéépkeun ampir 5 taun di militer, dina kalungguhan kapamimpinan operasional / tempur. Janten, dina sababaraha cara, kuring ngan ukur ngamimitian diajar ngeunaan élmu komputer nalika kuring kedah milih jurusan akademik di universitas. Anu narik perhatian kuring langsung nyaéta yén élmu komputer ngagabungkeun ngarengsekeun masalah sareng diajar basa (atanapi basa). Dua hal anu kuring pikahoyong. Ti harita, kuring kakeueum.

Ti 2006 nepi ka 2008 anjeun digawé dina pemetaan jeung navigasi pikeun ngamimitian leutik, naon sababaraha takeaways konci anjeun ti jaman ieu?

Peran abdi di Telmap ngawangun mesin pencari dina luhureun peta sareng data lokasi.

Ieu mangrupikeun dinten awal "data ageung" dina perusahaan. Kami malah henteu nyauran éta, tapi kami kéngingkeun set data anu ageung sareng nyobian ngagambar wawasan anu paling épéktip sareng relevan pikeun dipamerkeun ka pangguna akhir urang.

Salah sahiji realisasi anu luar biasa kuring nyaéta yén perusahaan (kaasup kami) ngagunakeun sakedik datana (henteu nyarios data éksternal anu sayogi pikeun umum). Aya seueur poténsi pikeun wawasan anyar, prosés sareng pangalaman anu langkung saé.

The takeaway séjén éta bisa meunang leuwih data urang relied, tangtosna, dina ngabogaan arsitéktur hadé, infrastruktur hadé jeung saterusna.

Naha anjeun tiasa ngabagi carita genesis balik Mona Labs?

Tilu urang, ko-pendiri, geus sabudeureun produk data sapanjang careers urang.

Nemo, kapala perwira téknologi, nyaéta réréncangan kuliah sareng sakelas kuring, sareng salah sahiji karyawan munggaran Google Tel Aviv. Anjeunna ngamimitian produk di dinya anu disebut Google Trends, anu ngagaduhan seueur analytics canggih sareng pembelajaran mesin dumasar kana data mesin pencari. Itai, ko-pangadeg sarta lulugu perwira produk sejen, éta dina tim Nemo di Google (jeung anjeunna jeung kuring papanggih ngaliwatan Nemo). Duanana sok frustasi yén sistem anu didorong ku AI ditinggalkeun teu diawaskeun saatos pamekaran awal sareng uji. Sanaos kasusah dina nguji sistem ieu sateuacan produksi, tim masih henteu terang kumaha modél prediksina dilakukeun dina waktosna. Salaku tambahan, sigana hiji-hijina waktos aranjeunna nguping eupan balik ngeunaan sistem AI nyaéta nalika hal-hal goréng sareng tim pangembangan ditelepon pikeun "bor seuneu" pikeun ngalereskeun masalah bencana.

Dina waktos anu sami, kuring janten konsultan di McKinsey & Co, sareng salah sahiji halangan pangbadagna anu kuring tingali pikeun AI sareng program Big Data skala di perusahaan ageung nyaéta kurangna kapercayaan anu aya dina pamangku kapentingan bisnis dina program éta.

Utas umum di dieu janten jelas pikeun Nemo, Itai sareng kuring sorangan dina paguneman. Industri peryogi infrastruktur pikeun ngawas sistem AI / ML dina produksi. Kami datang sareng visi pikeun nyayogikeun visibilitas ieu pikeun ningkatkeun kapercayaan para pamangku kapentingan bisnis, sareng ngamungkinkeun tim AI salawasna gaduh cecekelan kumaha sistemna lakukeun sareng langkung éfisién.

Sareng éta nalika Mona diadegkeun.

Naon sababaraha masalah ayeuna kalayan kurangna Transparansi AI?

Dina seueur industri, organisasi parantos nyéépkeun puluhan juta dolar kana program AI na, sareng ningali sababaraha kasuksésan awal dina lab sareng dina panyebaran skala leutik. Tapi scaling up, achieving nyoko lega tur meunangkeun bisnis sabenerna ngandelkeun AI geus tangtangan masif pikeun ampir sarerea.

Naha ieu kajadian? Nya, éta dimimitian ku kanyataan yén panilitian anu hébat henteu otomatis narjamahkeun kana produk anu saé (A customer sakali nyarios ka kami, "Model ML sapertos mobil, nalika aranjeunna kaluar tina lab, aranjeunna kaleungitan 20% tina nilaina"). Produk hébat gaduh sistem pendukung. Aya parabot jeung prosés pikeun mastikeun yén kualitas sustained kana waktu, sarta yén masalah anu bray mimiti na kajawab éfisién. Produk hébat ogé gaduh loop eupan balik kontinyu, aranjeunna gaduh siklus perbaikan sareng peta jalan. Akibatna, produk hébat merlukeun transparansi kinerja jero tur konstan.

Lamun aya kurangna transparansi, anjeun mungkas ku:

• Isu anu tetep disumputkeun pikeun sawatara waktu lajeng peupeus kana beungeut cai ngabalukarkeun "latihan seuneu"
• Panyelidikan sareng mitigasi anu panjang sareng manual
• Program AI anu henteu dipercaya ku pangguna bisnis sareng sponsor sareng pamustunganana gagal skala

Naon sababaraha tangtangan pikeun ngajantenkeun modél prediksi transparan sareng dipercaya?

Transparansi mangrupikeun faktor penting pikeun ngahontal kapercayaan, tangtosna. Transparansi tiasa aya dina sababaraha bentuk. Aya transparansi prediksi tunggal anu tiasa kalebet nunjukkeun tingkat kapercayaan ka pangguna, atanapi masihan panjelasan / alesan pikeun prediksi. Transparansi prediksi tunggal biasana ditujukeun pikeun ngabantosan pangguna janten nyaman sareng prediksi. Teras, aya transparansi sadayana anu tiasa kalebet inpormasi ngeunaan akurasi prediksi, hasil anu teu kaduga, sareng masalah poténsial. Transparansi sadayana diperyogikeun ku tim AI.

Bagian anu paling nangtang tina transparansi sadayana nyaéta ngadeteksi masalah awal, ngageterkeun anggota tim anu relevan supados aranjeunna tiasa nyandak tindakan koréksi sateuacan bencana lumangsung.

Naha éta nangtang pikeun ngadeteksi masalah awal:

• Isu mindeng dimimitian leutik tur simmer, saméméh ahirna bursting kana beungeut cai.
• Masalah sering dimimitian kusabab faktor luar atanapi teu kaampeuh, sapertos sumber data.
• Aya loba cara pikeun "ngabagi dunya" jeung exhaustively pilari masalah dina kantong leutik bisa ngahasilkeun loba noise (geus kacapean), sahenteuna lamun ieu dipigawé dina pendekatan naif.

Aspék nangtang anu sanés pikeun nyayogikeun transparansi nyaéta proliferasi kasus pamakean AI. Ieu nyieun hiji-ukuran fits sagala pendekatan ampir teu mungkin. Unggal kasus pamakéan AI bisa ngawengku struktur data béda, siklus bisnis béda, metrics kasuksésan béda, sarta pendekatan teknis mindeng béda malah tumpukan.

Janten, éta mangrupikeun tugas anu monumental, tapi transparansi penting pisan pikeun kasuksésan program AI, janten anjeun kedah ngalakukeunana.

Naha anjeun tiasa ngabagi sababaraha rinci ngeunaan solusi pikeun NLU / NLP Models & Chatbots?

AI Percakapan mangrupikeun salah sahiji vertikal inti Mona. Kami reueus ngadukung perusahaan inovatif kalayan rupa-rupa kasus panggunaan AI percakapan, kalebet modél basa, chatbot sareng seueur deui.

Faktor umum dina kasus pamakean ieu nyaéta yén modél beroperasi caket (sareng kadang katingali) ka konsumén, janten résiko kinerja anu teu konsisten atanapi kabiasaan goréng langkung luhur. Janten penting pisan pikeun tim AI paguneman ngartos paripolah sistem dina tingkat granular, anu mangrupikeun daérah kaunggulan solusi ngawaskeun Mona.

Anu dilakukeun ku solusi Mona anu cukup unik nyaéta sacara sistematis nyaring grup paguneman sareng mendakan kantong dimana modél (atanapi bot) salah laku. Hal ieu ngamungkinkeun tim AI conversational pikeun ngaidentipikasi masalah mimiti na saméméh konsumén perhatikeun aranjeunna. Kamampuhan ieu mangrupikeun supir kaputusan kritis pikeun tim AI paguneman nalika milih solusi ngawaskeun.

Pikeun nyimpulkeun éta, Mona nyayogikeun solusi tungtung-ka-tungtung pikeun ngawas AI paguneman. Dimimitian ku mastikeun aya hiji sumber inpormasi pikeun paripolah sistem dina waktosna, sareng diteruskeun ku nyukcruk terus-terusan indikator kinerja konci, sareng wawasan proaktif ngeunaan kantong kalakuan anu salah - ngamungkinkeun tim nyandak ukuran koréksi preemptive, efisien.

Naha anjeun tiasa nawiskeun sababaraha detil ngeunaan mesin wawasan Mona?

Mang. Hayu urang mimitian ku motivasi. Tujuan tina mesin wawasan nyaéta pikeun muka anomali ka pangguna, kalayan jumlah inpormasi kontekstual anu pas sareng tanpa nyiptakeun sora atanapi ngageterkeun kacapean.

Mesin wawasan mangrupikeun alur kerja analitik anu unik. Dina alur kerja ieu, mesin milarian anomali dina sadaya bagéan data, ngamungkinkeun deteksi awal masalah nalika aranjeunna masih "leutik", sareng sateuacan aranjeunna mangaruhan sadaya set data sareng KPI bisnis hilir. Éta teras nganggo algoritma proprietary pikeun ngadeteksi akar panyabab anomali sareng mastikeun unggal anomali diwaspadaan ngan sakali supados teu aya sora. Jenis anomali anu dirojong kalebet: Anomali séri waktos, drift, outlier, degradasi modél sareng seueur deui.

Mesin wawasan tiasa disaluyukeun pisan ku konfigurasi intuitif tanpa kode/kode rendah Mona. Konfigurasi mesin ngajadikeun Mona solusi paling fleksibel di pasar, ngawengku rupa-rupa pamakean-kasus (misalna bets jeung streaming, kalawan / tanpa eupan balik bisnis / ground truth, sakuliah versi model atawa antara karéta jeung inferensi, sarta leuwih. ).

Tungtungna, mesin wawasan ieu dirojong ku dasbor visualisasi, dimana wawasan tiasa ditingali, sareng sakumpulan alat investigasi pikeun ngaktifkeun analisa akar sabab sareng éksplorasi salajengna inpormasi kontekstual. Mesin wawasan ogé diintegrasikeun sapinuhna sareng mesin béwara anu ngamungkinkeun nyoco wawasan ka lingkungan kerja pangguna sorangan, kalebet email, platform kolaborasi sareng saterasna.

Dina 31 Januari, Mona dibeberkeun solusi fairness AI anyar na, bisa anjeun babagi kalawan kami rinci ngeunaan naon fitur ieu jeung naha éta penting?

Keadilan AI nyaéta pikeun mastikeun yén algoritma sareng sistem anu didorong ku AI sacara umum ngadamel kaputusan anu teu bias sareng adil. Ngatasi sareng nyegah bias dina sistem AI penting pisan, sabab tiasa nyababkeun akibat anu signifikan dina dunya nyata. Kalayan pinunjulna AI, dampak kana kahirupan sapopoé masarakat bakal katingali di seueur tempat, kalebet ngajadikeun otomatis nyetir urang, ngadeteksi panyakit langkung akurat, ningkatkeun pamahaman urang ngeunaan dunya, bahkan nyiptakeun seni. Upami urang henteu tiasa percanten yén éta adil sareng teu bias, kumaha urang bakal ngantepkeun éta nyebarkeun?

Salah sahiji panyabab utama bias dina AI ngan saukur kamampuan data latihan modél pikeun ngagambarkeun dunya nyata sacara lengkep. Ieu bisa ngabendung tina diskriminasi bersejarah, under-representasi grup tangtu, atawa malah manipulasi ngahaja data. Salaku conto, sistem pangenal raray anu dilatih pikeun jalma anu kulitna terang sigana gaduh tingkat kasalahan anu langkung luhur dina mikawanoh individu anu gaduh warna kulit anu langkung poék. Kitu ogé, modél basa anu dilatih dina data téks tina sakumpulan sumber anu sempit tiasa nyababkeun bias upami datana condong kana pandangan dunya anu tangtu, dina topik sapertos agama, budaya, sareng sajabana.

Solusi kaadilan AI Mona masihan AI sareng tim bisnis kapercayaan yén AI na bébas tina bias. Dina séktor anu diatur, solusi Mona tiasa nyiapkeun tim pikeun kesiapan patuh.

Solusi kaadilan Mona khusus sabab aya dina platform Mona - jembatan antara data sareng modél AI sareng implikasi dunya nyata. Mona ningali sadaya bagian tina prosés bisnis anu dilayanan ku modél AI dina produksi, pikeun ngahubungkeun antara data palatihan, paripolah modél, sareng hasil-hasil dunya nyata pikeun masihan penilaian kaadilan anu paling komprehensif.

Kadua, éta gaduh mesin analitik anu unik anu ngamungkinkeun pikeun ngabagi data anu fleksibel pikeun ngontrol parameter anu relevan. Ieu ngamungkinkeun penilaian korélasi anu akurat dina kontéks anu leres, ngahindarkeun Paradox Simpson sareng nyayogikeun "skor bias" nyata pikeun métrik kinerja naon waé sareng fitur anu ditangtayungan.

Janten, sacara umum kuring nyarios Mona mangrupikeun unsur dasar pikeun tim anu kedah ngawangun sareng skala AI anu tanggung jawab.

Naon visi anjeun pikeun masa depan AI?

Ieu patarosan badag.

Jigana éta lugas pikeun ngaduga yén AI bakal terus tumuwuh dina pamakéan sarta dampak dina rupa-rupa sektor industri jeung facets kahirupan masarakat. Nanging, sesah nyandak sacara serius visi anu lengkep sareng dina waktos anu sami nyobian nutupan sadaya kasus pamakean sareng implikasi AI ka hareup. Kusabab teu aya anu terang pisan pikeun ngalukis gambar éta sacara dipercaya.

Kitu cenah, anu urang terang pasti nyaéta AI bakal aya dina panangan langkung seueur jalma sareng ngalayanan langkung seueur tujuan. Kabutuhan pikeun pamaréntahan sareng transparansi bakal ningkat sacara signifikan.

Visibilitas nyata kana AI sareng cara gawéna bakal maénkeun dua peran utami. Anu mimiti, éta bakal ngabantosan kapercayaan ka jalma sareng ngangkat halangan résistansi pikeun nyoko anu langkung gancang. Kadua, éta bakal ngabantosan saha waé anu ngoperasikeun AI pikeun mastikeun yén éta henteu kaluar tina panangan.

Hatur nuhun pikeun wawancara anu saé, pamiarsa anu hoyong diajar langkung seueur kedah nganjang Mona Labs.