Brian Sathianathan, teknikchef och medgrundare av Iterate.ai – Intervjuserie

Brian Sathianathan är Chief Technology Officer och medgrundare till Iterate.ai, skapare av Interplay low-code-plattformen för snabbt byggande av AI-baserade applikationer över olika branscher. Tidigare arbetade Sathianathan på Apple (AAPL ) med olika projekt inom ny teknik, inklusive Mac-operativsystemet och den första iPhone-en.

Vad var det som initialt drog dig till att arbeta med AI-teknologier?

Jag har alltid varit intresserad av algoritmbaserat lärande, och jag började arbeta med AI-system under mina college-dagar. Dessutom tillbringade jag en hel del tid tidigt i min karriär med att bygga kryptografitekniker och andra säkerhetstekniker för Apple, samt videokomprimeringstekniker för ett företag som jag tidigare var med och grundade. Både video- och kryptotekniker är mycket algoritmbaserade, och det gjorde min lärkurva i AI/ML mycket snabbare. Omkring 2016 började jag att arbeta med öppen källkod AI-ramverk/GPU:er och insåg hur långt de hade kommit under de senaste fem åren – både från ett algoritmperspektiv och deras förmåga att göra en bredare klassificering. Sedan insåg jag att det fanns ett behov av att göra detta enklare och enklare för alla att använda.

Du har starka åsikter om kognitiv bias och data-bias i AI, kan du dela dessa bekymmer?

AI-bias uppstår när ingenjörer låter sina egna åsikter och förutfattade meningar forma deras AI-träningsdata. Detta undergräver snabbt vad de försöker uppnå med AI. Oftast är denna påverkan undermedveten, så de kanske inte ens är medvetna om att bias har letat sig in i deras data. Utan effektiva kontroller och balanser kan data begränsas till endast de punkter eller demografiska grupper som ingenjörerna är benägna att överväga. Även när ingenjörerna har en hög kvalitet och volym av data att arbeta med, kan bias i data rendera resultaten som levereras av AI-applikationer felaktiga och, i många fall, i stort sett värdelösa.

En rapport från Gartner uppskattade att fram till 2030 kommer 85% av AI-projekt att ge felaktiga resultat på grund av bias. Det är ett stort gap att övervinna. Företag som investerar i, litar på och fattar strategiska beslut baserat på AI – endast för att bli vilseledda av felaktiga slutsatser som har sitt ursprung i bias – riskerar dyra misslyckanden och skador på deras rykte. Med AI som snabbt förändras från en ny teknik till en allomfattande hörnsten över både kundvända applikationer och interna processer, är det viktigt att avlägsna bias för att förverkliga AI:s verkliga potential framöver.

Vilka är några sätt att förhindra att dessa typer av bias visas?

AI-bias måste systematiskt och proaktivt upptäckas och avlägsnas. Bias kan vara inbyggda i algoritmer. Inexaktheter kan införas via kognitiva bias som enkelt utelämnar nödvändig data. Aggregeringsbias är ännu en risk här, där en serie små beslut summeras till snedvridna AI-resultat.

Att upptäcka och eliminera AI-bias i alla dess former kräver att organisationer använder ramverk, verktyg, processer och policys som är utformade för att effektivt mildra dessa problem. Till exempel kan AI-ramverk som Aletheia Framework från Rolls Royce och Deloittes AI-ramverk – som kompletteras med automatiskt påtvingade benchmark – främja bias-fria metoder över AI-applikationsutveckling och distribution. Verktyg som AI Fairness 360 och IBM Watson OpenScale kan känna igen och avlägsna bias och bias-mönster i maskinlärningsmodeller och pipelines. Slutligen kan processer som testar data mot definierade bias-metrar, i kombination med policys som tillhandahåller styrning för att avskräcka bias genom påtvingade metoder, möjliggöra för organisationer att vara systematiska i att kontrollera sina blinda fläckar och begränsa AI-bias.

Du är CTO och medgrundare till Iterate.ai – hur började det hela?

Den historien börjar 2013 när medgrundare Jon Nordmark (vår VD) och jag båda var styrelseledamöter i en östeuropeisk accelerator med säte i Ukraina, som var utformad för att hjälpa entreprenörer där att bygga och driva startups i Silicon Valley-stil. Dessa erfarenheter med fantastiska nya företag ledde oss till idén att para ihop lovande (men kanske mindre kända) startups med stora företag som behövde innovationsstöd. Vi lanserade sedan vad som då kallades Iterate Studio, som erbjöd en specialiserad sökmotor för företag att hitta startup-partner baserat på de innovativa förmågor som dessa större organisationer sökte. 2015 blev företaget Iterate.ai för att betona vår AI-drivna startup-kurering. Idag indexerar vår Signals-databas mer än 15,7 miljoner startup-teknologier baserat på många faktorer (och med hjälp av proprietär AI för att göra det möjligt i den här skalan).

Vi utvidgade 2017 och lanserade den första versionen av vår Interplay-plattform för lågkodsapplikationsutveckling. Interplay tillhandahåller ett AI-drivet programvarulager som moderniserar företagens äldre tekniker genom att möjliggöra drag-and-drop-användning av innovativa tekniker samtidigt som det accelererar programvaruutvecklingen med tiofaldig hastighet. Lågkodsplattformen har 475 förbyggda komponenter, så användare kan blanda och kombinera de tekniker de behöver för att snabbt skapa applikationer. AI-aktivering är kärnan i plattformen, liksom andra lågkodskomponenter för IoT, dataintegration och till och med blockchain.

Iterate är en lågkodsplattform för utveckling av AI-drivna applikationer; vad är några av de AI-applikationer som kan byggas?

Vår lågkodsplattform har möjliggjort AI-applikationer för en riktigt intressant variation av användningsfall – bredden på distributionen är något vi är riktigt stolta över. Ulta Beauty (ULTA ), den miljarddollar globala skönhetshandlaren, använde vår plattform för att bygga en smart AI-retail-gäst-chattbot på bara två veckor. I kontrast är primitiva chattbotar nyckelordscentrerade, och de flesta leverantörers chattbotapplikationer kan inte integreras sömlöst med äldre system för att komma åt kundinformation eller tillåta smidiga övergångar till mänskligt stöd. Ulta:s smarta AI-chattbot eliminerade dessa problem med naturlig språkbehandling och förmågan att känna igen kund-“avsikter” för att ge riktigt precisa svar. Vår plattform gjorde det enkelt för Ulta att bygga chattbotens AI-motor på bara några timmar, och att konfigurera, förbättra och förbättra chattbotens utbildning och svar extremt snabbt.

I ett annat exempel använde Jockey vår plattform för AI-drivna vanliga frågor som automatiskt och framgångsrikt kan besvara ganska komplexa och subjektiva kundservicesituationer. Plattformen gjorde det också möjligt för ett globalt nätverk av närbutiker och bensinstationer att möta pandemin med beröringsfria bränslepumpar, baserade på AI-bildigenkänning av kundernas registreringsskyltar. Våra AI-funktioner används också för att stärka kamerabaserade säkerhetsstrategier i butiker. Med bildigenkänning kan tränade AI-applikationer upptäcka hot och vapen utanför butiker, utlösa nedlåsning för att skydda kunderna och kontakta myndigheterna.

Hur lite programmering krävs egentligen? Vilka utvecklingskunskaper behöver användarna ha?

Jag tycker att 80/20-regeln gäller. 80% av tillämpade AI-användningsfall är redan byggda och har etablerade modeller och träningsdata runt dem. Ett traditionellt företag kan enkelt använda en lågkodsplattform (vår, Interplay, är en sådan plattform) och implementera dessa fall. Här är några exempel:

• AI-drivna FAQ
• AI-aktiverade produktfyndare
• Produktrekommendationer och paketering
• OCR
• Visuell produktidentifiering
• Tabellanalys: saker som AOV, kundvagnsanalys, avhoppningsprognoser osv
• Objektextraktion/detektion
• Objektbeständighet

Ovanstående fall kunde implementeras av en ingenjör med serversidig programmeringskunskap och någon grundläggande förståelse för maskinlärnings-API:er. Det är mycket likt videoströmning, kryptografi och nyckelhanteringstekniker som används via API:er idag. De flesta ingenjörer som använder dessa API:er vet ofta inte hur de fungerar under ytan.

Varför är lågkods-AI viktigt för skalning av AI-teknik?

Företag som söker AI-förmågor i sin applikationsutveckling kan snabbt möta stora utmaningar när de inte använder lågkod. I världen idag finns det bara 300 000 AI-ingenjörer, och endast 60 000 av dessa är data-vetare. På grund av detta är den talang som behövs för att utveckla och skala AI-lösningar dyr och ökar. I kontrast demokratiserar lågkodsutveckling tillgången till AI. Med lågkod kan vilken av världens 25 miljoner programvaruutvecklare och till och med de som saknar utbildning enkelt implementera AI-motorer, förbättra deras förmågor och producera och skala effektiva lösningar.

Tillbaka till Iterate.ai:s AI-aktiverade Signals-plattform, vad är några av de mer intressanta trenderna som dyker upp?

Vi ser en snabb tillväxt över fem krafter för innovation: AI, IoT, blockchain, data och nya startup-lösningar. Dessa är alla mycket stora marknader. Vi ser tusentals datapunkter om nyheter, patent och nya startup-produkter varje dag. Interplay är byggt för att utnyttja dessa krafter genom att inkludera förbyggda komponenter för att dra nytta av dessa växande krafter.

Finns det något annat du vill dela om Iterate.ai?

Jag tycker att det fortfarande finns missuppfattningar om lågkod och dess roll i att bygga AI-applikationer. Det är inte ovanligt att se IT-proffs ifrågasätta om en lågkodsstrategi kan möta deras krav för företagsklassens skalbarhet, utbyggnad och säkerhet. Jag tycker att lågkodsalternativ som är avsedda för prototypering – men felaktigt används som verktyg för produktionsapplikationer – har bidragit till denna skepsis. Det sagt, de rätta lågkodsplattformarna är absolut kapabla att bygga och stödja produktionsklara AI-applikationer. Företag bör utföra sin due diligence vid val av lågkodsverktyg, säkerställa att dessa verktyg har en transparent och heltäckande säkerhetslager och en bevisad historia av att leverera applikationer i företagsklass.

Tack för det underbara samtalet, läsare som vill lära sig mer kan besöka Iterate.ai.