Brian Sathianathan, teknologidirektør og medstifter af Iterate.ai – Interviewserie

Brian Sathianathan er Chief Technology Officer og medstifter af Iterate.ai, skaberen af Interplay low-code-platformen til hurtig opbygning af AI-baserede applikationer på tværs af brancher. Tidligere arbejdede Sathianathan hos Apple (AAPL ) på forskellige fremvoksende teknologiprojekter, der inkluderede Mac-operativsystemet og den første iPhone.

Hvad var det, der oprindeligt tiltrak dig til at arbejde med AI-teknologier?

Jeg har altid haft en interesse for algoritme-drevet læring, og jeg startede med at arbejde med AI-systemer under min studietid. Derudover tilbragte jeg en del tid tidligt i min karriere med at bygge kryptering og andre sikkerhedsteknologier til Apple, samt video-kompressionsteknologier til et tidligere firma, jeg var medstifter af. Begge video- og kryptoteknologier er meget algoritme-intensive, og det gjorde min læringskurve i AI/ML hurtigere. Omkring 2016 startede jeg med at lege med open source AI-rammer/GPU’er og indså, hvor langt de var kommet i løbet af de sidste fem år – både fra et algoritme-perspektiv og deres evne til at udføre en bred vifte af klassificeringer. Så indså jeg et behov for at gøre dette lettere og simpelt for alle at bruge.

Du har nogle stærke holdninger til kognitiv bias og data-bias i AI, kunne du dele disse bekymringer?

AI-bias opstår, når ingeniører lader deres egne synspunkter og forudindtagelser forme deres AI-træningsdata-sæt. Dette undergraver hurtigt, hvad de forsøger at opnå med AI. Det meste af tiden er denne indflydelse ubevidst, så de måske ikke engang er klar over, at bias har sneget sig ind i deres data-sæt. Uden effektive checks og balances kan data være begrænset til kun de fokusområder eller demografier, som ingeniører er tilbøjelige til at overveje. Selv når ingeniører har en høj kvalitet og mængde af data at arbejde med, kan bias i data-sæt gøre resultaterne, der leveres af AI-applikationer, forkerte og i mange tilfælde stort set værdiløse.

En Gartner-rapport estimerede, at indtil 2030 vil 85% af AI-projekter give forkerte resultater på grund af bias. Det er et stort gap at overvinde. Virksomheder, der investerer i, stoler på og tager strategiske beslutninger baseret på AI – blot for at blive misledt af forkerte konklusioner med rod i bias – risikerer kostbare fejl og skader på deres rygte. Med AI hurtigt skifter fra en fremvoksende teknologi til en alomfattende hjørnesten på tværs af både kunde-orienterede applikationer og interne processer, er fjernelse af bias afgørende for at realisere AI’s sande potentiale fremad.

Hvad er nogle måder at forhindre disse typer af bias fra at dukke op?

AI-bias skal systematisk og proaktivt detekteres og fjernes. Bias kan være hardcoded i algoritmer. Unøjagtigheder kan blive introduceret via kognitive bias, der blot udelader nødvendig data. Aggregationsbias er endnu en risiko her, hvor en række små beslutninger summerer sig til skæve AI-resultater.

Detektion og eliminering af AI-bias i alle dets former kræver, at organisationer anvender rammer, værktøjer, processer og politikker, der er bygget til effektivt at mitigere disse problemer. For eksempel kan AI-rammer som Aletheia-rammen fra Rolls Royce og Deloittes AI-ramme – suppleret med automatisk gennemførte benchmarks – fremme bias-frie praksisser på tværs af AI-applikationsudvikling og -installation. Værktøjer som AI Fairness 360 og IBM Watson OpenScale kan genkende og fjerne bias og bias-mønstre i machine learning-modeller og -rørledninger. Endelig kan processer, der tester data mod definerede bias-metrikker, kombineret med politikker, der giver styring til at afværge bias gennem tvungne praksisser, gøre det muligt for organisationer at være systematiske i at tjekke deres blinde pletter og begrænse AI-bias.

Du er CTO og medstifter af Iterate.ai – hvordan startede det?

Den historie begynder i 2013, da medstifter Jon Nordmark (vores CEO) og jeg begge fungerede som bestyrelsesmedlemmer af en østeuropæisk accelerator beliggende i Ukraine, designet til at hjælpe iværksættere der med at bygge og drive Silicon Valley-stil startups. Disse oplevelser med utroligt innovative nye virksomheder førte os til ideen om at parre lovende (men måske mindre kendte) startups med store virksomheder, der har brug for innovationsstøtte. Vi lancerede herefter, hvad der dengang hed Iterate Studio, og tilbød en specialiseret søgemaskine til virksomheder for at finde startup-partnere baseret på de innovative kapaciteter, de større organisationer søgte. I 2015 ændrede virksomheden navn til Iterate.ai for at fremhæve vores AI-drevne startup-kurering. I dag indekserer vores Signals-database over 15,7 millioner startup-teknologier baseret på mange faktorer (og bruger proprietær AI til at gøre det muligt i den skala).

Vi udvidede i 2017 og lancerede den første version af vores Interplay-low-code-applikationsudviklingsplatform. Interplay tilbyder et AI-drevet softwarelag, der moderniserer virksomheders legacy-stacks ved at aktivere drag-and-drop-brug af innovative teknologier samt accelerere software-udvikling med en faktor ti. Low-code-platformen har 475 forudbyggede komponenter, så brugerne kan blande og matche de teknologier, de har brug for, for at hurtigt opbygge applikationer. AI-aktivering er centralt i platformen samt andre low-code-komponenter til IoT, data-integration og selv blockchain.

Iterate er en low-code-platform til udvikling af AI-drevne applikationer; hvad er nogle af de AI-applikationer, der kan bygges?

Vores low-code-platform har muliggjort AI-applikationer for en rigtig interessant variation af use-cases – bredde af udrulning er noget, vi er rigtig stolte af. Ulta Beauty (ULTA ), den milliard-dollar globale skønhedsdetailhandler, brugte vores platform til at bygge en smart AI-retail-gæst-chatbot på blot to uger. I modsætning hertil er primitive chatbots nøgleords-centrerede, og de fleste vendor-chatbot-applikationer kan ikke integreres sammen med legacy-systemer for at få adgang til kundeinformation eller tillade glatte overgange til menneske-assisteret support. Ulta’s smarte AI-chatbot eliminerede disse problemer med naturlig sprogbehandling og evnen til at genkende kunde-“intentioner” for at give rigtig præcise svar. Vores platform gjorde det nemt for Ulta at bygge chatbotens AI-motor på blot få timer og konfigurere, finjustere og forbedre chatbotens træning og svar ekstremt hurtigt.

I et andet eksempel brugte Jockey vores platform til at aktivere AI-drevne FAQs, der kan svare automatisk (og med held) på ret komplekse og subjektive kunde-service-scenarier. Vores platform gjorde det også muligt for en global detailbutik og benzinstationsnetværk at svare på pandemien med berøringsfrie benzinpumper, der afhænger af AI-baseret billedgenkendelse af kunde-nummerplader. Vores AI-kapaciteter bliver også anvendt til at aktivere kamera-centreret sikkerhedsstrategier i butikslokationer. Gennem billedgenkendelse kan trænet AI-applikationer identificere trusler og tilstedeværelse af våben uden for butikslokationer, udløse butiks-låsninger for at beskytte kunder og kontakte myndigheder.

Hvor lidt programmering kræves der egentlig? Hvilke udviklingsfærdigheder skal brugerne have?

Ifølge min mening gælder 80/20-reglen. 80% af de anvendte AI-brugstilfælde er allerede bygget og har etablerede modeller og træningsdata omkring dem. En traditionel organisation kan let bruge en low-code-platform (vores, Interplay, er en sådan platform) og implementere disse tilfælde. Her er nogle eksempler:

• AI-drevne FAQs
• AI-drevne produktfindere
• Produktanbefalinger og bundling
• OCR
• Visuel produktidentifikation
• Tabular data-analyse: ting som AOV, kurv-analyse, churn-forudsigelser osv.
• Objekt-ekstraktion/detektion
• Objekt-permanens

De ovennævnte tilfælde kunne implementeres af en ingeniør med server-side programmeringskundskaber og en grundlæggende forståelse af machine learning-API’er. Det er meget lig video-streaming, kryptering og nøglestyringsteknikker, der er bredt anvendt via API’er i dag. De fleste ingeniører, der bruger disse API’er, kender ofte ikke, hvordan de fungerer under overfladen.

Hvorfor er low-code AI vigtigt for at skale AI-teknologi?

Virksomheder, der søger AI-kapaciteter i deres applikationsudvikling, kan hurtigt støde på store udfordringer, hvis de ikke anvender low-code. I verden i dag er der kun 300.000 AI-ingeniører, og kun 60.000 af disse er datavidenskabsmænd. På grund af dette er det talent, der er nødvendigt for at udvikle og skale AI-løsninger, dyrt og stiger. I modsætning hertil demokratiserer low-code-udvikling adgangen til AI. Med low-code kan enhver af verdens 25 millioner software-udviklere og selv de uden træning let implementere AI-motorer, finjustere deres kapaciteter og producere og skale effektive løsninger.

Gå tilbage til Iterate.ai’s AI-drevne Signals-platform, hvad er nogle af de mere interessante trends, der opstår?

Vi ser en hurtig vækst på tværs af fem kræfter for innovation: AI, IoT, blockchain, data og fremvoksende startup-løsninger. Disse er alle meget store markeder. Vi ser tusindvis af data-punkter om nyheder, patenter og nye startup-produkter hver dag. Interplay er bygget til at udnytte disse kræfter ved at inkludere forudbyggede komponenter til at udnytte disse voksende kræfter.

Er der noget andet, du gerne vil dele om Iterate.ai?

Jeg tror, der stadig er misforståelser omkring low-code og dets rolle i opbygning af AI-applikationer. Det er ikke usædvanligt at se IT-fagfolk, der spørger, om en low-code-strategi kan opfylde deres krav til virksomheds-grad af skalerbarhed, udvidelighed og sikkerhed. Jeg tror, at low-code-valg, der er beregnet til prototypering – men misbrugt som værktøjer til produktions-applikationer – har bidraget til denne skepsis. Det sagt, de rigtige low-code-platforme er absolut op til opgaven med at bygge og støtte produktionsklare AI-applikationer. Virksomheder bør udføre deres due diligence ved at vælge low-code-værktøjer, sikre, at disse værktøjer har et gennemsigtigt og omfattende sikkerheds-lag og en dokumenteret rekord for at levere applikationer i virksomheds-skala.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Iterate.ai.