Brian Sathianathan, Chief Technology Officer & Co-Founder van Iterate.ai – Interview Serie

Brian Sathianathan is de Chief Technology Officer en mede-oprichter van Iterate.ai, de maker van het Interplay low-code platform voor het snel ontwikkelen van AI-gebaseerde applicaties in verschillende branches. Eerder werkte Sathianathan bij Apple (AAPL ) aan verschillende opkomende technologieprojecten, waaronder het Mac-besturingssysteem en de eerste iPhone.

Wat trok je aanvankelijk aan om met AI-technologieën te werken?

Ik had altijd al interesse in algoritme-gedreven leren en begon tijdens mijn studie te werken met AI-systemen. Bovendien heb ik in het begin van mijn carrière veel tijd besteed aan het ontwikkelen van cryptografie en andere beveiligingstechnologieën voor Apple, en videocompressietechnologieën voor een eerder door mij opgericht bedrijf. Beide video- en cryptotechnologieën zijn zeer algoritme-intensief, en dat heeft mijn leercurve in AI/ML versneld. Rond 2016 begon ik te spelen met open source AI-frameworks/GPUs en realiseerde ik me hoe ver ze in de afgelopen vijf jaar waren gekomen – zowel vanuit een algoritme-perspectief als vanuit hun vermogen om een bredere range van classificaties te doen. Toen realiseerde ik me dat er een behoefte was om dit gemakkelijker en eenvoudiger voor iedereen te maken.

Je hebt enkele sterke meningen over cognitieve bias en gegevensbias in AI, kun je deze zorgen delen?

AI-bias treedt op wanneer ingenieurs hun eigen standpunten en vooroordelen laten meespelen bij het creëren van hun AI-trainingsdatasets. Dit ondermijnt snel wat ze proberen te bereiken met AI. Meestal is deze invloed onderbewust, dus ze zijn zich er misschien niet eens van bewust dat bias in hun datasets is geslopen. Zonder effectieve checks en balances kan de data beperkt zijn tot alleen die punten van focus of demografische gegevens die ingenieurs geneigd zijn te overwegen. Zelfs wanneer ingenieurs een hoge kwaliteit en volume aan data hebben, kunnen biases in datasets de resultaten die door AI-toepassingen worden geleverd onjuist en in veel gevallen grotendeels nutteloos maken.

Een rapport van Gartner schatte dat tot 2030, 85% van de AI-projecten onjuiste resultaten zullen opleveren vanwege bias. Dat is een grote kloof om te overbruggen. Bedrijven die investeren in, vertrouwen op en strategische beslissingen nemen op basis van AI – alleen om te worden misleid door valse conclusies die zijn geworteld in bias – lopen het risico op dure mislukkingen en schade aan hun reputatie. Met AI die snel verschuift van een opkomende technologie naar een alomtegenwoordig fundament in zowel customer-facing applicaties als interne processen, is het verwijderen van bias essentieel om de ware potentie van AI in de toekomst te realiseren.

Wat zijn enkele manieren om deze soorten biases te voorkomen?

AI-bias moet systematisch en proactief worden gedetecteerd en verwijderd. Biases kunnen hardcoded zijn in algoritmes. Onnauwkeurigheden kunnen worden geïntroduceerd via cognitieve biases die noodzakelijke data gewoonweg weglaten. Aggregatiebias is nog een ander risico hier, waarbij een reeks kleine beslissingen oploopt tot scheve AI-resultaten.

Het detecteren en elimineren van AI-bias in alle vormen vereist dat organisaties frameworks, toolkits, processen en beleid gebruiken die zijn ontwikkeld om deze problemen effectief te mitigeren. Bijvoorbeeld, AI-frameworks zoals het Aletheia Framework van Rolls Royce en Deloitte’s AI-framework – aangevuld met automatisch afgedwongen benchmarks – kunnen bias-vrije praktijken bevorderen in de ontwikkeling en implementatie van AI-toepassingen. Toolkits zoals AI Fairness 360 en IBM Watson OpenScale kunnen bias en biaspatronen in machine learning-modellen en -pijplijnen herkennen en verwijderen. Ten slotte kunnen processen die data testen tegen gedefinieerde bias-metrics, in combinatie met beleid dat governance biedt om bias te weren door afgedwongen praktijken, organisaties in staat stellen om systematisch te controleren op hun blinde vlekken en AI-bias te beperken.

Je bent de CTO en mede-oprichter van Iterate.ai – hoe is het bedrijf ontstaan?

Dat verhaal begint in 2013, toen mede-oprichter Jon Nordmark (onze CEO) en ik beiden als bestuursleden van een Oost-Europese accelerator in Oekraïne dienden, dat was ontworpen om ondernemers daar te helpen bij het opbouwen en exploiteren van startups in Silicon Valley-stijl. Die ervaringen met verbazingwekkend innovatieve nieuwe bedrijven leidden ons tot het idee om veelbelovende (maar misschien minder bekende) startups te koppelen aan grote ondernemingen die innovatieondersteuning nodig hadden. We lanceerden vervolgens wat toen Iterate Studio heette, een gespecialiseerde zoekmachine voor ondernemingen om startup-partners te vinden op basis van de innovatieve capaciteiten die deze grotere organisaties zochten. In 2015 werd het bedrijf Iterate.ai om de AI-gedreven startup-curatatie te benadrukken. Vandaag de dag indexeert onze Signals-database meer dan 15,7 miljoen startup-technologieën op basis van verschillende factoren (en met behulp van propriëtaire AI om dit te doen op die schaal).

We breidden uit in 2017 en lanceerden de eerste versie van ons Interplay-low-code applicatie-ontwikkelingsplatform. Interplay biedt een AI-gevoede softwarelaag die de legacy-stacks van ondernemingen moderniseert door innovatieve technologieën te laten gebruiken met drag-and-drop, en versnelt de software-ontwikkeling met een factor tien. Het low-code-platform heeft 475 vooraf gebouwde componenten, zodat gebruikers de technologieën kunnen mengen en matchen die ze nodig hebben om snel applicaties op te zetten. AI-empowerment staat centraal in het platform, evenals andere low-code-componenten voor IoT, data-integratie en zelfs blockchain.

Iterate is een low-code-platform voor het ontwikkelen van AI-gebaseerde applicaties; wat zijn enkele van de AI-toepassingen die kunnen worden gebouwd?

Ons low-code-platform heeft AI-toepassingen mogelijk gemaakt voor een echt interessante variëteit aan use cases – de breedte van de implementatie is iets waar we echt trots op zijn. Ulta Beauty (ULTA ), de miljarden-dollar wereldwijde beautyspecialist, gebruikte ons platform om een slimme AI-retail gastchatbot te bouwen in slechts twee weken. Primitieve chatbots zijn daarentegen op trefwoorden gericht, en de meeste vendor-chatbottoepassingen kunnen niet naadloos integreren met legacy-systemen om klantgegevens te benaderen of soepele overgangen naar menselijke ondersteuning mogelijk te maken. Ulta’s slimme AI-chatbot elimineerde deze problemen met natuurlijke taalverwerking en de mogelijkheid om klant-“intents” te herkennen om echt accurate antwoorden te geven. Ons platform maakte het voor Ulta eenvoudig om de AI-engine van de chatbot in slechts enkele uren te bouwen, en om de training en antwoorden van de chatbot snel te configureren, te verfijnen en te verbeteren.

In een ander voorbeeld gebruikte Jockey ons platform voor AI-gestuurde veelgestelde vragen die automatisch en met succes kunnen reageren op vrij complexe en subjectieve klantenservicesituaties. Ons platform hielp ook een wereldwijd netwerk van buurtwinkels en tankstations om tijdens de pandemie contactloze brandstofpompen aan te bieden, met AI-beeldherkenning van de kentekens van klanten. Onze AI-mogelijkheden ondersteunen bovendien cameragerichte beveiligingsstrategieën in winkels. Met beeldherkenning kunnen getrainde AI-toepassingen bedreigingen en wapens buiten winkels herkennen, de winkels afsluiten om klanten te beschermen en de autoriteiten waarschuwen.

Hoe weinig programmeerwerk is er werkelijk nodig? Welke ontwikkelvaardigheden hebben gebruikers nodig?

In mijn mening geldt de 80/20-regel. 80% van de toegepaste AI-use cases zijn al gebouwd en hebben gevestigde modellen en trainingsdata eromheen. Een traditionele organisatie kan gemakkelijk een low-code-platform (ons, Interplay, is een dergelijk platform) gebruiken en deze cases implementeren. Hier zijn enkele voorbeelden:

• AI-gedreven FAQs
• AI-gepowered productfinders
• Productaanbevelingen en bundeling
• OCR
• Visuele productidentificatie
• Tabulaire gegevensanalyse: dingen zoals AOV, basketanalyse, churnpredicties, enz.
• Objectextractie/detectie
• Objectpermanentie

De bovenstaande gevallen kunnen worden geïmplementeerd door een ingenieur met server-side programmeerkennis en enige basiskennis van machine learning-API’s. Het is heel vergelijkbaar met videostreaming, cryptografie en sleutelbeheertechnieken die algemeen worden gebruikt via API’s vandaag. De meeste ingenieurs die deze API’s gebruiken, weten vaak niet hoe ze werken onder de motorkap.

Waarom is low-code AI belangrijk voor het schalen van AI-technologie?

Bedrijven die AI-mogelijkheden in hun applicatie-ontwikkeling nastreven, kunnen snel voor grote uitdagingen komen te staan wanneer ze geen low-code gebruiken. In de wereld van vandaag zijn er slechts 300.000 AI-ingenieurs, en slechts 60.000 daarvan zijn datawetenschappers. Vanwege dit is de benodigde talenten om AI-oplossingen te ontwikkelen en te schalen duur en stijgend. Low-codeontwikkeling democratiseert daarentegen juist de toegang tot AI. Met low-code kunnen alle 25 miljoen software-ontwikkelaars ter wereld, en zelfs die zonder training, gemakkelijk AI-motoren implementeren, hun mogelijkheden verfijnen en effectieve oplossingen produceren en schalen.

Terugkerend naar Iterate.ai’s AI-gepowered Signals-platform, wat zijn enkele van de interessantere trends die naar voren komen?

We zien een snelle groei in vijf krachten van innovatie: AI, IoT, blockchain, data en opkomende startup-oplossingen. Dit zijn allemaal zeer grote markten. We zien duizenden datapunten over nieuws, octrooien en nieuwe startup-producten elke dag. Interplay is gebouwd om deze krachten te benutten door vooraf gebouwde componenten op te nemen om van deze groeiende krachten te profiteren.

Is er nog iets dat je zou willen delen over Iterate.ai?

Ik denk dat er nog misverstanden zijn over low-code en zijn rol bij het bouwen van AI-toepassingen. Het is niet ongebruikelijk om IT-professionals te zien die twijfelen of een low-code-strategie aan hun eisen voor enterprise-grade schaalbaarheid, uitbreidbaarheid en beveiliging kan voldoen. Ik denk dat low-code-opties die zijn bedoeld voor prototyping – maar verkeerd zijn toegepast als tools voor productie-applicaties – hebben bijgedragen aan deze terughoudendheid. Dat gezegd hebbende, zijn de juiste low-code-platforms absoluut in staat om productieklare AI-toepassingen te bouwen en te ondersteunen. Ondernemingen moeten hun due diligence uitvoeren bij het selecteren van low-code-hulpmiddelen, ervoor zorgen dat deze hulpmiddelen een transparante en grondige beveiligingslaag hebben en een bewezen trackrecord van het leveren van applicaties op enterprise-schaal.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Iterate.ai bezoeken.