Yotam Oren, uitvoerende hoof en medestigter van Mona Labs – Onderhoudreeks

Yotam Oren, is die uitvoerende hoof en medestigter van Mona Labs, 'n platform wat ondernemings in staat stel om KI-inisiatiewe van laboratoriumeksperimente in skaalbare sakebedrywighede te omskep deur werklik te verstaan ​​hoe ML-modelle in werklike besigheidsprosesse en toepassings optree.

Mona ontleed outomaties die gedrag van jou masjienleermodelle oor beskermde datasegmente en in die konteks van die besigheidsfunksies, om potensiële KI-vooroordeel op te spoor. Mona bied die vermoë om volledige billikheidsverslae te genereer wat aan industriestandaarde en regulasies voldoen, en bied vertroue dat die KI-toepassing voldoen en vry van enige vooroordeel is.

Wat het jou aanvanklik tot rekenaarwetenskap aangetrek?

Rekenaarwetenskap is 'n gewilde loopbaan in my gesin, so dit was altyd in die agterkop as 'n lewensvatbare opsie. Natuurlik is Israeliese kultuur baie pro-tegnologie. Ons vier innoverende tegnoloë en ek het altyd die persepsie gehad dat CS my 'n aanloopbaan vir groei en prestasie sou bied.

Ten spyte daarvan het dit eers ’n persoonlike passie geword toe ek universiteitsouderdom bereik het. Ek was nie een van daardie kinders wat in die middelskool begin kodeer het nie. In my jeug was ek te besig om basketbal te speel om aan rekenaars aandag te gee. Na hoërskool het ek byna 5 jaar in die weermag deurgebring, in operasionele/gevegsleierskaprolle. So, op 'n manier, het ek eintlik eers meer oor rekenaarwetenskap begin leer toe ek 'n akademiese hoofvak op universiteit moes kies. Wat my aandag dadelik getrek het, was dat rekenaarwetenskap die oplossing van probleme en die aanleer van 'n taal (of tale) gekombineer het. Twee dinge waarin ek veral belang gestel het. Van toe af was ek verslaaf.

Van 2006 tot 2008 het jy gewerk aan kartering en navigasie vir 'n klein begin, wat was van jou belangrikste wegneemetes uit hierdie era?

My rol by Telmap was om 'n soekenjin bo-op kaart- en liggingdata te bou.

Dit was die baie vroeë dae van "groot data" in die onderneming. Ons het dit nie eers so genoem nie, maar ons het enorme datastelle bekom en probeer om die mees impakvolle en relevante insigte te verkry om aan ons eindgebruikers ten toon te stel.

Een van die treffende besef wat ek gehad het, was dat maatskappye (insluitend ons) van so min van hul data gebruik gemaak het (om nie eens te praat van publiek beskikbare eksterne data nie). Daar was soveel potensiaal vir nuwe insigte, beter prosesse en ervarings.

Die ander wegneemete was dat om meer van ons data te kry, natuurlik staatgemaak het op beter argitekture, beter infrastruktuur en so meer.

Kan jy die ontstaansverhaal agter Mona Labs deel?

Ons drie, mede-stigters, was regdeur ons loopbane rondom dataprodukte.

Nemo, die hooftegnologiebeampte, is my kollega en klasmaat, en een van die eerste werknemers van Google Tel Aviv. Hy het 'n produk genaamd Google Trends daar begin, wat baie gevorderde ontledings en masjienleer gehad het gebaseer op soekenjindata. Itai, die ander medestigter en hoofprodukbeampte, was op Nemo se span by Google (en ek en hy het mekaar deur Nemo ontmoet). Hulle twee was altyd gefrustreerd dat KI-gedrewe stelsels na aanvanklike ontwikkeling en toetsing ongemonitor gelaat is. Ten spyte van probleme om hierdie stelsels behoorlik te toets voor produksie, het spanne steeds nie geweet hoe goed hul voorspellingsmodelle met verloop van tyd gevaar het nie. Boonop het dit gelyk of die enigste keer dat hulle enige terugvoer oor KI-stelsels hoor, was toe dinge swak gegaan het en die ontwikkelingspan opgeroep is vir 'n "brandoefening" om katastrofiese probleme op te los.

Ongeveer dieselfde tyd was ek 'n konsultant by McKinsey & Co, en een van die grootste struikelblokke wat ek gesien het vir KI- en Big Data-programme om in groot ondernemings te skaal, was die gebrek aan vertroue wat sakebelanghebbendes in daardie programme gehad het.

Die gemeenskaplike draad hier het vir Nemo, Itai en myself duidelik geword in gesprekke. Die bedryf het die infrastruktuur nodig gehad om KI/ML-stelsels in produksie te monitor. Ons het met die visie vorendag gekom om hierdie sigbaarheid te verskaf om die vertroue van sakebelanghebbendes te verhoog, en om KI-spanne in staat te stel om altyd 'n greep te hê op hoe hul stelsels vaar en om meer doeltreffend te herhaal.

En dit is toe dat Mona gestig is.

Wat is sommige van die huidige probleme met 'n gebrek aan KI-deursigtigheid?

In baie industrieë het organisasies reeds tienmiljoene dollars aan hul KI-programme bestee, en het 'n mate van aanvanklike sukses in die laboratorium en in kleinskaalse ontplooiings gesien. Maar om op te skaal, breë aanvaarding te bewerkstellig en die besigheid te laat staatmaak op KI was 'n massiewe uitdaging vir byna almal.

Hoekom gebeur dit? Wel, dit begin met die feit dat goeie navorsing nie outomaties vertaal na wonderlike produkte nie ('n Kliënt het eenkeer vir ons gesê: "ML-modelle is soos motors, die oomblik wat hulle die laboratorium verlaat, verloor hulle 20% van hul waarde"). Groot produkte het ondersteunende stelsels. Daar is gereedskap en prosesse om te verseker dat kwaliteit oor tyd volgehou word, en dat kwessies vroeg opgevang en doeltreffend aangespreek word. Groot produkte het ook 'n deurlopende terugvoerlus, hulle het 'n verbeteringsiklus en 'n padkaart. Gevolglik vereis wonderlike produkte diep en konstante prestasie-deursigtigheid.

Wanneer daar 'n gebrek aan deursigtigheid is, eindig jy met:

• Kwessies wat vir 'n geruime tyd verborge bly en dan in die oppervlak bars en "brandoefeninge" veroorsaak
• Langdurige en handmatige ondersoeke en versagtings
• 'n KI-program wat nie deur die besigheidsgebruikers en borge vertrou word nie en uiteindelik nie skaal nie

Wat is van die uitdagings om voorspellende modelle deursigtig en betroubaar te maak?

Deursigtigheid is natuurlik 'n belangrike faktor in die verkryging van vertroue. Deursigtigheid kan in baie vorme kom. Daar is 'n enkele voorspelling deursigtigheid wat kan insluit die vertoon van die vlak van vertroue aan die gebruiker, of die verskaffing van 'n verduideliking/rasionaal vir die voorspelling. Enkele voorspelling deursigtigheid is meestal daarop gemik om die gebruiker te help om gemaklik te raak met die voorspelling. En dan is daar algehele deursigtigheid wat inligting oor voorspellende akkuraatheid, onverwagte resultate en potensiële probleme kan insluit. Algehele deursigtigheid word deur die KI-span benodig.

Die mees uitdagende deel van algehele deursigtigheid is om probleme vroeg op te spoor, om die betrokke spanlid te waarsku sodat hulle regstellende stappe kan neem voordat rampe plaasvind.

Waarom dit uitdagend is om probleme vroeg op te spoor:

• Kwessies begin dikwels klein en prut, voordat dit uiteindelik in die oppervlak bars.
• Kwessies begin dikwels as gevolg van onbeheerbare of eksterne faktore, soos databronne.
• Daar is baie maniere om “die wêreld te verdeel” en om uitputtend na kwessies in klein sakkies te soek kan baie geraas (waarskuwingsmoegheid) tot gevolg hê, ten minste wanneer dit in 'n naïewe benadering gedoen word.

Nog 'n uitdagende aspek van die verskaffing van deursigtigheid is die blote verspreiding van KI-gebruiksgevalle. Dit maak 'n een-grootte-pas-almal-benadering byna onmoontlik. Elke KI-gebruiksgeval kan verskillende datastrukture, verskillende sakesiklusse, verskillende suksesmetrieke en dikwels verskillende tegniese benaderings en selfs stapels insluit.

So, dit is 'n monumentale taak, maar deursigtigheid is so fundamenteel tot die sukses van KI-programme, so jy moet dit doen.

Kan jy 'n paar besonderhede oor die oplossings vir NLU / NLP-modelle en Chatbots deel?

Gespreks-KI is een van Mona se kernvertikale. Ons is trots daarop om innoverende maatskappye te ondersteun met 'n wye reeks gespreks-KI-gebruiksgevalle, insluitend taalmodelle, chatbots en meer.

'n Algemene faktor oor hierdie gebruiksgevalle is dat die modelle naby (en soms sigbaar) aan kliënte werk, dus is die risiko's van inkonsekwente werkverrigting of slegte gedrag groter. Dit word so belangrik vir gespreks-KI-spanne om stelselgedrag op 'n korrelvlak te verstaan, wat 'n sterkpunte van Mona se moniteringsoplossing is.

Wat Mona se oplossing doen wat nogal uniek is, is om groepe gesprekke stelselmatig te sif en sakke te vind waarin die modelle (of bots) wangedra. Dit laat gesprekke-KI-spanne toe om probleme vroeg te identifiseer en voordat kliënte dit opmerk. Hierdie vermoë is 'n kritieke besluitdrywer vir gespreks-KI-spanne wanneer moniteringsoplossings gekies word.

Om dit op te som, Mona bied 'n end-tot-end-oplossing vir gesprekke-KI-monitering. Dit begin met die versekering dat daar 'n enkele bron van inligting vir die stelsels se gedrag met verloop van tyd is, en gaan voort met deurlopende dop van sleutelprestasie-aanwysers, en proaktiewe insigte oor sakke van wangedrag – wat spanne in staat stel om voorkomende, doeltreffende regstellende maatreëls te tref.

Kan jy 'n paar besonderhede gee oor Mona se insig-enjin?

Sekerlik. Kom ons begin met die motivering. Die doel van die insig-enjin is om onreëlmatighede aan die gebruikers na vore te bring, met net die regte hoeveelheid kontekstuele inligting en sonder om geraas te skep of te lei tot waarskuwingsmoegheid.

Die insig-enjin is 'n unieke analitiese werkvloei. In hierdie werkvloei soek die enjin na afwykings in alle segmente van die data, wat vroeë opsporing van probleme moontlik maak wanneer hulle nog “klein” is en voordat dit die hele datastel en die stroomaf besigheids-KPI's beïnvloed. Dit gebruik dan 'n eie algoritme om die hoofoorsake van die afwykings op te spoor en maak seker dat elke afwyking slegs een keer gewaarsku word sodat geraas vermy word. Tipes afwykings wat ondersteun word, sluit in: Tydreeksafwykings, afwykings, uitskieters, modeldegradasie en meer.

Die insig-enjin is hoogs aanpasbaar via Mona se intuïtiewe geen-kode/laekode-konfigurasie. Die konfigureerbaarheid van die enjin maak Mona die mees buigsame oplossing in die mark, wat 'n wye reeks gebruiksgevalle dek (bv. bondel en stroom, met/sonder besigheidsterugvoer / grondwaarheid, oor modelweergawes of tussen trein en afleiding, en meer ).

Laastens word hierdie insig-enjin ondersteun deur 'n visualiseringspaneelbord, waarin insigte bekyk kan word, en 'n stel ondersoekinstrumente om grondoorsaak-analise en verdere verkenning van die kontekstuele inligting moontlik te maak. Die insig-enjin is ook ten volle geïntegreer met 'n kennisgewing-enjin wat dit moontlik maak om insigte aan gebruikers se eie werksomgewings te voer, insluitend e-pos, samewerkingsplatforms ensovoorts.

Op 31 Januarie, Mona onthul sy nuwe KI-billikheidsoplossing, kan u besonderhede met ons deel oor wat hierdie kenmerk is en hoekom dit saak maak?

KI-billikheid gaan daaroor om te verseker dat algoritmes en KI-gedrewe stelsels in die algemeen onbevooroordeelde en billike besluite neem. Die aanspreek en voorkoming van vooroordele in KI-stelsels is van kardinale belang, aangesien dit beduidende werklike gevolge kan hê. Met KI se toenemende prominensie, sal die impak op mense se daaglikse lewens op meer en meer plekke sigbaar wees, insluitend om ons bestuur te outomatiseer, siektes meer akkuraat op te spoor, ons begrip van die wêreld te verbeter en selfs kuns te skep. As ons nie kan vertrou dat dit regverdig en onbevooroordeeld is nie, hoe sal ons toelaat dat dit voortgaan om te versprei?

Een van die belangrikste oorsake van vooroordele in KI is bloot die vermoë van modelopleidingsdata om die werklike wêreld volledig voor te stel. Dit kan spruit uit historiese diskriminasie, onderverteenwoordiging van sekere groepe, of selfs opsetlike manipulasie van data. Byvoorbeeld, 'n gesigsherkenningstelsel wat opgelei is op individue wat oorwegend ligte vel het, sal waarskynlik 'n hoër foutkoers hê om individue met donkerder velkleure te herken. Net so kan 'n taalmodel wat op teksdata uit 'n nou stel bronne opgelei is, vooroordele ontwikkel as die data skeefgetrek is na sekere wêreldbeskouings, oor onderwerpe soos godsdiens, kultuur ensovoorts.

Mona se KI-billikheidsoplossing gee KI en sakespanne die vertroue dat hul KI vry is van vooroordele. In gereguleerde sektore kan Mona se oplossing spanne voorberei vir voldoeningsgereedheid.

Mona se billikheidsoplossing is spesiaal omdat dit op die Mona-platform sit – 'n brug tussen KI-data en -modelle en hul werklike implikasies. Mona kyk na alle dele van die besigheidsproses wat die KI-model in produksie dien, om te korreleer tussen opleidingsdata, modelgedrag en werklike werklike uitkomste om die mees omvattende beoordeling van regverdigheid te verskaf.

Tweedens het dit 'n unieke analitiese enjin wat voorsiening maak vir buigsame segmentering van die data om relevante parameters te beheer. Dit maak akkurate korrelasie-assesserings in die regte konteks moontlik, vermy Simpson se Paradox en verskaf 'n diep werklike "vooroordeeltelling" vir enige prestasiemaatstaf en op enige beskermde kenmerk.

So, oor die algemeen sou ek sê Mona is 'n fundamentele element vir spanne wat verantwoordelike KI moet bou en skaal.

Wat is jou visie vir die toekoms van KI?

Dit is 'n groot vraag.

Ek dink dit is eenvoudig om te voorspel dat KI sal aanhou groei in gebruik en impak oor 'n verskeidenheid bedryfsektore en fasette van mense se lewens. Dit is egter moeilik om 'n visie ernstig op te neem wat gedetailleerd is en terselfdertyd probeer om al die gebruiksgevalle en implikasies van KI in die toekoms te dek. Want niemand weet regtig genoeg om daardie prentjie geloofwaardig te skilder nie.

Dit gesê, wat ons vir seker weet, is dat KI in die hande van meer mense sal wees en meer doeleindes sal dien. Die behoefte aan bestuur en deursigtigheid sal dus aansienlik toeneem.

Werklike sigbaarheid in AI en hoe dit werk sal twee primêre rolle speel. Eerstens sal dit help om vertroue by mense in te boesem en weerstandsversperrings op te hef vir vinniger aanneming. Tweedens sal dit elkeen wat KI bedryf, help om te verseker dat dit nie handuit ruk nie.

Dankie vir die puik onderhoud, lesers wat meer wil leer moet besoek aflê Mona Labs.