Brian Sathianathan, Chief Technology Officer & Co-Founder van Iterate.ai – Interview Series

Brian Sathianathan is de Chief Technology Officer en een van de mede-oprichters van Iterate.ai, de maker van het Interplay low-code platform voor het snel bouwen van AI-gebaseerde applicaties in verschillende branches. Eerder werkte Sathianathan bij Apple aan verschillende opkomende technologieprojecten, waaronder het Mac-besturingssysteem en de eerste iPhone.

Wat trok je aanvankelijk aan om te werken met AI-technologieën?

Ik had altijd al interesse in algoritme-gedreven leren en ik begon te werken met AI-systemen tijdens mijn studie. Bovendien heb ik in het begin van mijn carrière veel tijd besteed aan het bouwen van cryptografie- en andere beveiligingstechnologieën voor Apple, en videocompressietechnologieën voor een eerder bedrijf dat ik mede had opgericht. Beide videotechnologie en cryptotechnologie zijn zeer algoritme-intensief, en dat maakte mijn leercurve in AI/ML sneller. Rond 2016 begon ik te spelen met open source AI-frameworks/GPUs, en ik realiseerde me hoe ver ze in de afgelopen vijf jaar waren gekomen – zowel vanuit een algoritme-perspectief als vanuit hun vermogen om een bredere range van classificaties te doen. Toen realiseerde ik me dat er een behoefte was om dit gemakkelijker en eenvoudiger te maken voor iedereen om te gebruiken.

Je hebt enkele sterke meningen over cognitieve bias en data-bias in AI, kun je deze zorgen delen?

AI-bias treedt op wanneer ingenieurs hun eigen meningen en vooroordelen laten meespelen bij hun AI-trainingsdatasets. Dit ondermijnt snel wat ze proberen te bereiken met AI. Meestal is deze invloed onderbewust, dus ze zijn zich mogelijk niet eens bewust van de bias in hun datasets. Zonder effectieve checks en balances kan de data beperkt worden tot alleen die punten van focus of demografische gegevens die ingenieurs geneigd zijn te overwegen. Zelfs wanneer ingenieurs een hoge kwaliteit en volume aan data hebben om mee te werken, kunnen biases in datasets de resultaten die door AI-toepassingen worden geleverd onjuist en in veel gevallen grotendeels nutteloos maken.

Een rapport van Gartner schatte dat tot 2030, 85% van de AI-projecten verkeerde resultaten zullen opleveren vanwege bias. Dat is een grote kloof om te overbruggen. Bedrijven die investeren in, vertrouwen op en strategische beslissingen nemen op basis van AI – alleen om te worden misleid door valse conclusies die zijn geworteld in bias – lopen het risico op dure mislukkingen en schade aan hun reputatie. Met AI die snel verschuift van een opkomende technologie naar een alomtegenwoordig hoeksteen in zowel klantgerichte applicaties als interne processen, is het verwijderen van bias essentieel om het ware potentieel van AI in de toekomst te realiseren.

Wat zijn enkele manieren om deze soorten biases te voorkomen?

AI-bias moet systematisch en proactief worden gedetecteerd en verwijderd. Biases kunnen hard worden gecodeerd in algoritmes. Onnauwkeurigheden kunnen worden geïntroduceerd via cognitieve biases die eenvoudigweg noodzakelijke data weglaten. Aggregatie-bias is nog een ander risico hier, waar een reeks kleine beslissingen opgeteld kan worden tot scheve AI-resultaten.

Het detecteren en elimineren van AI-bias in alle vormen vereist dat organisaties gebruikmaken van frameworks, toolkits, processen en beleid die zijn ontworpen om deze problemen effectief te mitigeren. Bijvoorbeeld, AI-frameworks zoals het Aletheia Framework van Rolls Royce en Deloitte’s AI-framework – aangevuld met automatisch afgedwongen benchmarks – kunnen bias-vrije praktijken bevorderen bij de ontwikkeling en implementatie van AI-toepassingen. Toolkits zoals AI Fairness 360 en IBM Watson OpenScale kunnen bias en bias-patronen in machine learning-modellen en -pijplijnen herkennen en verwijderen. Ten slotte kunnen processen die data testen tegen gedefinieerde bias-metrics, in combinatie met beleid dat governance biedt om bias te weren door afgedwongen praktijken, organisaties in staat stellen om systematisch hun blinde vlekken te controleren en AI-bias te beperken.

Je bent de CTO en een van de mede-oprichters van Iterate.ai – hoe is het bedrijf ontstaan?

Dat verhaal begint in 2013, toen mede-oprichter Jon Nordmark (onze CEO) en ik beiden als bestuursleden van een Oost-Europees accelerator in Oekraïne dienden, ontworpen om ondernemers daar te helpen Silicon Valley-stijl startups op te bouwen en te exploiteren. Die ervaringen met verbazingwekkend innovatieve nieuwe bedrijven leidden ons tot het idee om veelbelovende (maar misschien minder bekende) startups te koppelen aan grote ondernemingen die innovatieondersteuning nodig hadden. We lanceerden vervolgens wat toen Iterate Studio heette, met een gespecialiseerde zoekmachine voor ondernemingen om startup-partners te vinden op basis van de innovatieve capaciteiten die deze grotere organisaties zochten. In 2015 werd het bedrijf Iterate.ai om onze AI-gedreven startup-curatie te benadrukken. Vandaag de dag indexeert onze Signals-database meer dan 15,7 miljoen startup-technologieën op basis van verschillende factoren (en met behulp van propriëtaire AI om dit te doen op die schaal).

We breidden ons uit in 2017 en lanceerden de eerste versie van onze Interplay-low-code applicatie-ontwikkelingsplatform. Interplay biedt een AI-gevoede softwarelaag die de legacy-stacks van ondernemingen moderniseert door middel van sleep-and-drop-gebruik van innovatieve technologieën en versnelt software-ontwikkeling met een factor tien. Het low-code-platform heeft 475 vooraf gebouwde componenten, zodat gebruikers de technologieën kunnen mixen en matchen die ze nodig hebben om snel applicaties op te zetten. AI-empowerment staat centraal in het platform, evenals andere low-code-componenten voor IoT, data-integratie en zelfs blockchain.

Iterate is een low-code-platform voor het ontwikkelen van AI-gebaseerde applicaties; wat zijn enkele van de AI-toepassingen die kunnen worden gebouwd?

Ons low-code-platform heeft AI-toepassingen mogelijk gemaakt voor een echt interessante variëteit aan use-cases – de breedte van de implementatie is iets waar we echt trots op zijn. Ulta Beauty, de miljarden-dollar wereldwijde beautyspecialist, gebruikte ons platform om een slimme AI-retail gast-chatbot te bouwen in slechts twee weken. In tegenstelling tot primitieve chatbots, die keyword-gecentricerd zijn, en de meeste vendor-chatbot-toepassingen die niet naadloos kunnen integreren met legacy-systemen om klantinformatie te benaderen of een soepele overgang naar door de mens ondersteunde ondersteuning mogelijk te maken, elimineerde Ulta’s slimme AI-chatbot deze problemen met natuurlijke taalverwerking en de mogelijkheid om klant-“intents” te herkennen om echt accurate antwoorden te geven. Ons platform maakte het voor Ulta eenvoudig om de AI-engine van de chatbot in slechts enkele uren te bouwen en om de chatbot-configuratie, -verfijning en -verbetering extreem snel te configureren.

In een ander voorbeeld gebruikte Jockey ons platform om AI-gebaseerde FAQs mogelijk te maken die automatisch (en met succes) konden reageren op vrij complexe en subjectieve klantenservice-scenario’s. Ons platform maakte het ook mogelijk voor een wereldwijd conveniencenetwerk en een benzinebedrijf om een pandemische reactie van aanraakloze benzinepompen te realiseren, afhankelijk van AI-gebaseerde beeldherkenning van klantnummerborden. Onze AI-mogelijkheden worden ook toegepast om camera-gebaseerde beveiligingsstrategieën op winkellocaties te empoweren. Door middel van beeldherkenning kunnen getrainde AI-toepassingen bedreigingen en het voorkomen van wapens buiten winkelpuien identificeren, winkeluitval activeren om klanten te beschermen en autoriteiten contacteren.

Hoe klein zijn de daadwerkelijke coderingsvereisten? Hoeveel ontwikkelvaardigheden moeten gebruikers hebben?

Volgens mij geldt de 80/20-regel. 80% van de toegepaste AI-use-cases zijn al gebouwd en hebben gevestigde modellen en trainingsdata eromheen. Een traditionele onderneming kan gemakkelijk een low-code-platform (ons, Interplay, is een dergelijk platform) gebruiken en deze use-cases implementeren. Hier zijn enkele voorbeelden:

• AI-gedreven FAQs
• AI-gebaseerde productvinders
• Productaanbevelingen en bundeling
• OCR
• Visuele productidentificatie
• Tabulaire data-analyse: dingen zoals AOV, basket-analyse, churn-voorspellingen, enz.
• Object-extractie/detectie
• Object-permanentie

De bovenstaande use-cases kunnen worden geïmplementeerd door een ingenieur met server-side programmeringskennis en enige basiskennis van machine learning-API’s. Het is heel vergelijkbaar met video-streaming, cryptografie en sleutelbeheerstechnieken die vandaag de dag via API’s worden gebruikt. De meeste ingenieurs die deze API’s gebruiken, weten vaak niet hoe ze onder de motorkap werken.

Waarom is low-code AI belangrijk voor het schalen van AI-technologie?

Bedrijven die AI-mogelijkheden in hun applicatie-ontwikkeling nastreven, kunnen snel voor grote uitdagingen komen te staan wanneer ze geen low-code gebruiken. In de wereld van vandaag zijn er slechts 300.000 AI-ingenieurs, en slechts 60.000 daarvan zijn datawetenschappers. Vanwege dit ontbreekt het aan het talent dat nodig is om AI-oplossingen te ontwikkelen en te schalen, en de kosten ervan stijgen. In tegenstelling tot low-code-ontwikkeling, die toegang tot AI democratiseert. Met low-code kunnen alle 25 miljoen software-ontwikkelaars ter wereld, en zelfs die zonder training, gemakkelijk AI-motoren implementeren, hun capaciteiten verfijnen en effectieve oplossingen produceren en schalen.

Terugkerend naar Iterate.ai’s AI-gebaseerde Signals-platform, wat zijn enkele van de interessantere trends die naar voren komen?

We zien een snelle groei over vijf krachten van innovatie: AI, IoT, blockchain, data en opkomende startup-oplossingen. Dit zijn allemaal zeer grote markten. We zien duizenden datapunten over nieuws, octrooien en nieuwe startup-producten elke dag. Interplay is ontworpen om deze krachten te benutten door vooraf gebouwde componenten op te nemen om van deze groeiende krachten te profiteren.

Is er nog iets dat je wilt delen over Iterate.ai?

Ik denk dat er nog misverstanden bestaan over low-code en zijn rol bij het bouwen van AI-toepassingen. Het is niet ongebruikelijk om IT-professionals te zien die twijfelen of een low-code-strategie aan hun eisen voor ondernemingsbrede schaalbaarheid, uitbreidbaarheid en beveiliging kan voldoen. Ik denk dat low-code-opties die zijn ontworpen voor prototyping – maar verkeerd zijn toegepast als tools voor productie-applicaties – hebben bijgedragen tot deze vermoeidheid. Dat gezegd hebbende, zijn de juiste low-code-platforms absoluut in staat om productieklare AI-toepassingen te bouwen en te ondersteunen. Ondernemingen moeten hun due diligence uitvoeren bij het selecteren van low-code-hulpmiddelen, ervoor zorgend dat deze hulpmiddelen een transparante en grondige beveiligingslaag hebben en een bewezen trackrecord van het leveren van applicaties op ondernemingsniveau.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Iterate.ai bezoeken.