Brian Sathianathan, teknologidirektør og medgründer i Iterate.ai – Intervjuserie

Brian Sathianathan er Chief Technology Officer og medgründer i Iterate.ai, skaperen av Interplay low-code-plattformen for raskt bygging av AI-baserte applikasjoner over flere bransjer. Tidligere arbeidet Sathianathan i Apple (AAPL ) med ulike nye teknologiprojekter som inkluderte Mac-operativsystemet og den første iPhone-en.

Hva var det som først tiltalte deg til å arbeide med AI-teknologier?

Jeg hadde alltid en interesse for algoritme-drevet læring, og jeg startet å arbeide med AI-systemer under min studietid. I tillegg tilbragte jeg en del tid tidlig i min karriere med å bygge kryptografi og andre sikkerhetsteknologier for Apple, og videokomprimeringsteknologier for et tidligere selskap jeg var med å grunnlegge. Begge video- og kryptoteknologier er svært algoritme-intensivt, og det gjorde min læringskurve i AI/ML raskere. Rundt 2016 startet jeg å leke med åpne kildekode AI-rammeverk/GPU-er, og jeg innså hvor langt de hadde kommet i løpet av de siste fem årene – både fra et algoritme-perspektiv og deres evne til å gjøre en bredere rekke klassifiseringer. Da innså jeg et behov for å gjøre dette enklere og enklere for alle å bruke.

Du har noen sterke synspunkter på kognitive bias og data-bias i AI, kunne du dele disse bekymringene?

AI-bias oppstår når ingeniører lar sine egne synspunkter og fordommer forme deres KI-treningsdatasett. Dette undergraver raskt hva de prøver å oppnå med AI. Denne påvirkningen er ofte ubevisst, så de kanskje ikke engang er klar over at bias har sneket seg inn i deres datasett. Uten effektive kontroll- og balansesystemer kan data bli begrenset til bare de fokusområdene eller demografien som ingeniører er tilbøyelige til å vurdere. Selv når ingeniører har en høy kvalitet og mengde data å arbeide med, kan bias i datasett gjøre resultater leverte av AI-applikasjoner feil og, i mange tilfeller, nesten ubrukelige.

En Gartner-rapport estimerte at gjennom 2030, 85% av AI-prosjekter vil gi feil resultater på grunn av bias. Det er et stort gap å overvinne. Bedrifter som investerer i, stoler på og tar strategiske beslutninger basert på AI – bare for å bli misledet av feil konklusjoner med roten i bias – risikerer kostbare feil og skade på deres rykte. Med AI raskt skifter fra en ny teknologi til en allomfattende hjørnestein over både kunde-orienterte applikasjoner og interne prosesser, er fjerning av bias essensielt for å realisere AI-s potensiale fremover.

Hva er noen måter å forhindre disse typene bias fra å dukke opp?

AI-bias må systematisk og proaktivt oppdages og fjernes. Bias kan være hardkodet i algoritmer. Unøyaktigheter kan bli introdusert via kognitive bias som bare utelater nødvendig data. Aggregasjonsbias er en annen risiko her, hvor en rekke små beslutninger summerer seg til skjeve AI-resultater.

Oppdagelse og eliminering av AI-bias i alle dets former krever at organisasjonene bruker rammeverk, verktøy, prosesser og politikker bygget for å effektivt mildne disse problemene. For eksempel kan AI-rammeverk som Aletheia-rammeverket fra Rolls Royce og Deloittes AI-rammeverk – supplert med automatisk håndhevede referansemål – fremme bias-frie praksiser over AI-applikasjonsutvikling og -utbredelse. Verktøy som AI Fairness 360 og IBM Watson OpenScale kan gjenkjenne og fjerne bias og bias-mønster i maskinlæringsmodeller og -pipeline. Til slutt kan prosesser som tester data mot definerte bias-målinger, kombinert med politikker som gir styring for å hindre bias gjennom tvangspraksis, gjøre det mulig for organisasjoner å undersøke blindsonene sine systematisk og begrense KI-skjevheter.

Du er CTO og medgründer i Iterate.ai – hvordan startet det?

Den historien begynner i 2013, da medgründer Jon Nordmark (vår CEO) og jeg begge var styremedlemmer i en østeuropeisk akselerator basert i Ukraina, designet for å hjelpe entreprenører der å bygge og drive Silicon Valley-stil startups. Disse erfaringene med usedvanlig innovative nye selskaper ledet oss til ideen om å pare sammen lovende (men kanskje mindre kjente) oppstartsbedrifter med store bedrifter som trengte innovasjonsstøtte. Vi lanserte deretter hva som da ble kalt Iterate Studio, som tilbød en spesialisert søkemotor for bedrifter å finne startup-partnere basert på de innovative kapasitetene disse større organisasjonene søkte. I 2015 ble selskapet Iterate.ai for å fremheve vår AI-drevne startup-kurering. I dag indekserer vår Signals-database over 15,7 millioner startup-teknologier basert på mange faktorer (og ved hjelp av proprietær AI for å gjøre det mulig på denne skalaen).

Vi utvidet i 2017 og lanserte den første versjonen av vår Interplay-low-code-applikasjonsutviklingsplattform. Interplay gir et KI-drevet programvarelag som moderniserer bedrifters legacy-stacks ved å aktivere drag-and-drop-utnyttelse av innovative teknologier samtidig som det akselerer programvareutvikling med ti-folds. Low-code-plattformen har 475 forhåndsbygde komponenter, så brukerne kan blande og kombinere teknologiene de trenger for å raskt spinne opp applikasjoner. AI-empowerment er i kjernen av plattformen, samt andre low-code-komponenter for IoT, data-integrasjon og selv blockchain.

Iterate er en low-code-plattform for utvikling av AI-drevne applikasjoner; hva er noen av AI-applikasjonene som kan bygges?

Vår low-code-plattform har muliggjort AI-applikasjoner for en virkelig interessant variasjon av brukstilfeller – bredde av utbredelse er noe vi er virkelig stolte av. Ulta Beauty (ULTA ), den milliard-dollar globale skjønnhetsforhandleren, brukte vår plattform til å bygge en smart AI-retail-gjest-chatbot på bare to uker. I kontrast er primitive chatboter nøkkelord-sentriske, og de fleste leverandør-chatbot-applikasjoner kan ikke integrere sammen med legacy-systemer for å få tilgang til kundeinformasjon eller tillate glidende overganger til menneske-assistert støtte. Ulta sin smarte AI-chatbot eliminerte disse problemene med naturlig språkbehandling og evnen til å gjenkjenne kunde-“intensjoner” for å gi svært nøyaktige svar. Vår plattform gjorde det enkelt for Ulta å bygge chatbotens AI-motor på bare noen timer, og å konfigurere, finjustere og forbedre chatbotens trening og svar ekstremt raskt.

I et annet eksempel brukte Jockey plattformen vår til KI-drevne spørsmål og svar som automatisk og vellykket håndterer ganske komplekse og subjektive kundeservicesituasjoner. Plattformen gjorde det også mulig for et globalt nettverk av nærbutikker og bensinstasjoner å tilby berøringsfrie drivstoffpumper som respons på pandemien, ved hjelp av KI-basert bildegjenkjenning av kundenes bilskilt. KI-funksjonene våre brukes også til å styrke kamerabaserte sikkerhetsstrategier i butikker. Med bildegjenkjenning kan trente KI-applikasjoner oppdage trusler og våpen utenfor butikkene, utløse nedstenging for å beskytte kundene og kontakte myndighetene.

Hvor lite programmering kreves egentlig? Hvilke utviklingsferdigheter trenger brukerne?

I min mening gjelder 80/20-regelen. 80% av anvendte AI-brukstilfeller er allerede bygget og har etablerte modeller og treningdata rundt dem. En tradisjonell organisasjon kan enkelt bruke en low-code-plattform (vår, Interplay, er en slik plattform) og implementere disse tilfellene. Her er noen eksempler:

• AI-drevne FAQs
• AI-aktiverede produktfinnere
• Produktanbefalinger og bundling
• OCR
• Visuell produktidentifikasjon
• Tabell-dataanalyse: ting som AOV, kurv-analyse, churn-prediksjoner, osv.
• Objekt-ekstraksjon/deteksjon
• Objekt-permanens

Ovennevnte tilfeller kunne implementeres av en ingeniør med server-side programmeringskunnskaper og en grunnleggende forståelse av maskinlærings-API-er. Dette er svært likt videostrømming, kryptografi og nøkkelhåndteringsteknikker som er vidt brukt via API-er i dag. De fleste ingeniører som bruker disse API-ene kjenner ofte ikke til hvordan de fungerer under overflaten.

Hvorfor er low-code AI viktig for å skalere AI-teknologi?

Bedrifter som søker etter AI-kapasiteter i deres applikasjonsutvikling kan raskt møte store utfordringer når de ikke bruker low-code. I verden i dag er det bare 300 000 AI-ingeniører, og bare 60 000 av disse er data-vitenskapsmenn. På grunn av dette er talentet nødvendig for å utvikle og skalere AI-løsninger dyrt og økende. I kontrast demokratiserer low-code-utvikling tilgangen til AI. Med low-code kan alle verdens 25 millioner programvare-utviklere og selv de uten trening, enkelt implementere AI-motorer, finjustere deres kapasiteter og produsere og skalere effektive løsninger.

Gå tilbake til Iterate.ai sin AI-drevne Signals-plattform, hva er noen av de mer interessante trendene som oppstår?

Vi ser rask vekst over fem krefter for innovasjon: AI, IoT, blockchain, data og nye startup-løsninger. Disse er alle svært store markeder. Vi ser tusenvis av datapunkter på nyheter, patenter og nye startup-produkter hver dag. Interplay er bygget for å utnytte disse kreftene ved å inkludere forhåndsbygde komponenter for å dra nytte av disse voksende kreftene.

Er det noe annet du ville like å dele om Iterate.ai?

Jeg tror det fortsatt er misforståelser rundt low-code og dens rolle i bygging av AI-applikasjoner. Det er ikke uvanlig å se IT-fagfolk som spør om en low-code-strategi kan møte deres krav til bedrifts-skala, utvidbarhet og sikkerhet. Jeg tror at low-code-alternativer som er ment for prototyping – men misbrukt som verktøy for produksjonsapplikasjoner – har bidratt til denne skepsisen. Det sagt, de riktige low-code-plattformene er absolutt opp til oppgaven med å bygge og støtte produksjonsklare AI-applikasjoner. Bedrifter bør utføre deres due diligence i å velge low-code-verktøy, og sikre at disse verktøyene har et transparent og grundig sikkerhetslag, og en bevist rekord av å levere applikasjoner på bedrifts-skala.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Iterate.ai.