Brian Sathianathan, technologický ředitel a spoluzakladatel Iterate.ai – Série rozhovorů

Brian Sathianathan je Chief Technology Officer a spoluzakladatel společnosti Iterate.ai, tvůrce platformy Interplay pro rychlé vytváření aplikací založených na umělé inteligenci napříč odvětvími. Předtím pracoval Sathianathan v Apple (AAPL ) na různých projektech nových technologií, včetně operačního systému Mac a prvního iPhonu.

Co vás původně přitáhlo k práci s technologiemi umělé inteligence?

Vždy jsem měl zájem o algoritmy a strojové učení, a začal jsem pracovat s systémy umělé inteligence během svých studentských dnů. Kromě toho jsem strávil hodně času na počátku své kariéry budováním kryptografických a bezpečnostních technologií pro Apple a technologií komprese videa pro předchozí společnost, kterou jsem spoluzakládal. Oba tyto obory jsou velmi náročné na algoritmy, a to mi opravdu urychlilo můj učební proces v oblasti umělé inteligence a strojového učení. Asi kolem roku 2016 jsem začal pracovat s otevřenými frameworky umělé inteligence a GPU, a uvědomil jsem si, jak daleko se tyto technologie za posledních pět let posunuly – jak z hlediska algoritmů, tak z hlediska jejich schopnosti provádět širší rozsah klasifikací. Poté jsem si uvědomil potřebu učinit tyto technologie jednodušší a dostupnější pro každého.

Máte silné názory na kognitivní bias a bias dat v umělé inteligenci, můžete sdílet své obavy?

Bias v umělé inteligenci nastává, když inženýři dovolí, aby jejich vlastní názory a předsudky ovlivnily jejich soubory dat pro trénování umělé inteligence. To rychle podkopává to, co se snaží dosáhnout s umělou inteligencí. Nejčastěji je tento vliv podvědomý, a tak si inženýři možná ani neuvědomí, že se bias dostal do jejich souborů dat. Bez účinných kontrol a vyvážení mohou data být omezena pouze na ty body zaměření nebo demografické skupiny, které inženýři jsou nakloněni zvažovat. I když inženýři mají kvalitní a dostatečné množství dat k dispozici, bias v datech může způsobit, že výsledky dodané aplikacemi umělé inteligence jsou nesprávné a v mnoha případech z velké části nepoužitelné.

Zpráva Gartneru odhadla, že do roku 2030 bude 85 % projektů umělé inteligence poskytovat falešné výsledky kvůli biasu. To je velká mezera, kterou je třeba překonat. Společnosti, které investují do umělé inteligence, důvěřují jí a činí strategická rozhodnutí na základě ní – pouze aby byly zmátény falešnými závěry zakořeněnými v biasu – riskují drahé neúspěchy a poškození své pověsti. S umělou inteligencí, která se rychle mění z nové technologie na všudypřítomný základní kámen napříč zákaznickými aplikacemi a interními procesy, je odstranění biasu nezbytné pro realizaci skutečného potenciálu umělé inteligence v budoucnu.

Jaké jsou některé způsoby, jak zabránit těmto typům biasu?

Bias v umělé inteligenci musí být systematicky a proaktivně detekován a odstraněn. Bias může být zakódován do algoritmů. Nesprávnosti mohou být zavedeny prostřednictvím kognitivních biasů, které prostě opomenou nezbytná data. Agregační bias je další riziko, kde série malých rozhodnutí se přidává až k pokřiveným výsledkům umělé inteligence.

Detekce a eliminace biasu v umělé inteligenci ve všech jeho formách vyžaduje, aby organizace využívaly frameworky, toolkity, procesy a politiky, které jsou navrženy tak, aby účinně zmírňovaly tyto problémy. Například frameworky umělé inteligence, jako je Aletheia Framework od Rolls Royce a Deloitte’s AI framework – doplněné automaticky vynucenými benchmarky – mohou podporovat praktiky bez biasu napříč vývojem a nasazením aplikací umělé inteligence. Toolkity, jako je AI Fairness 360 a IBM Watson OpenScale, mohou rozpoznat a odstranit bias a bias vzorce v modelech a potrubích strojového učení. Nakonec procesy, které testují data proti definovaným metrikám biasu, v kombinaci s politikami, které poskytují governance, aby odrazovaly bias prostřednictvím vynucených praktik, umožňují organizacím být systematické při kontrole svých slepých míst a omezování biasu v umělé inteligenci.

Jak jste se dostal k založení Iterate.ai?

Tato historie začíná v roce 2013, kdy můj spoluzakladatel Jon Nordmark (našeho CEO) a já jsme oba působili jako členové správní rady východoevropského akcelerátoru se sídlem na Ukrajině, který měl pomoci podnikatelům budovat a provozovat startupy ve stylu Silicon Valley. Tyto zkušenosti s úžasně inovativními novými společnostmi nás vedly k myšlence spojit slibné (ale možná méně známé) startupy s velkými společnostmi, které potřebují inovační podporu. Následně jsme spustili to, co bylo tehdy nazváno Iterate Studio, nabízející specializovaný vyhledávač pro společnosti, aby našly startupové partnery na základě inovačních schopností, které tyto větší organizace hledaly. V roce 2015 se naše společnost stala Iterate.ai, aby zdůraznila naše zaměření na umělou inteligenci. Dnes naše databáze Signals indexuje více než 15,7 milionu startupových technologií na základě mnoha faktorů (a pomocí proprietární umělé inteligence, aby se to stalo v tomto měřítku).

Rozšířili jsme se v roce 2017 a spustili první verzi naší Interplay platformy pro nízký kód pro vývoj aplikací. Interplay poskytuje softwareovou vrstvu poháněnou umělou inteligencí, která modernizuje legacy systémy podniků umožněním táhnout a upouštět inovativní technologie, zatímco urychluje vývoj softwaru desetinásobně. Platforma nízkého kódu má 475 předem připravených komponent, takže uživatelé mohou kombinovat a míchat technologie, které potřebují, aby rychle spustili aplikace. Empowerment umělou inteligencí je v jádru platformy, stejně jako další komponenty nízkého kódu pro IoT, integraci dat a dokonce i blockchain.

Iterate.ai je platforma nízkého kódu pro vývoj aplikací poháněných umělou inteligencí; jaké jsou některé z aplikací umělé inteligence, které lze postavit?

Naše platforma nízkého kódu umožnila aplikace umělé inteligence pro opravdu zajímavou škálu případů použití – šíře nasazení je něco, na co jsme opravdu hrdí. Ulta Beauty (ULTA ), miliardová globální maloobchodní společnost s kosmetickými produkty, použila naší platformu k vytvoření chytrého AI retail chatbota za pouhé dva týdny. Naproti tomu primitivní chatboty vycházejí z klíčových slov a většina chatbotů dodavatelů se neumí hladce integrovat se staršími systémy pro přístup k informacím zákazníků nebo umožnit plynulý přechod na podporu lidské pomoci. Chytrý AI chatbot Ulta Beauty odstranil tyto problémy s funkcí přirozeného jazykového zpracování a schopností rozpoznat “úmysly” zákazníků, aby poskytoval opravdu přesné odpovědi. Naše platforma učinila jednoduchým pro Ulta Beauty postavit AI engine chatbota za pouhé hodiny a nakonfigurovat, vyladit a vylepšit trénink a odpovědi chatbota velmi rychle.

V dalším příkladu využila společnost Jockey naši platformu k vytvoření často kladených otázek poháněných AI, které automaticky a úspěšně reagují i na poměrně složité a subjektivní situace zákaznické podpory. Platforma také umožnila globální síti prodejen smíšeného zboží a čerpacích stanic reagovat na pandemii bezkontaktními palivovými stojany využívajícími rozpoznávání registračních značek zákazníků pomocí AI. Naše možnosti AI rovněž podporují bezpečnostní strategie založené na kamerách v maloobchodě. Trénované aplikace dokážou na snímcích rozpoznat hrozby a zbraně před obchody, spustit jejich uzavření na ochranu zákazníků a kontaktovat úřady.

Jak málo programování je skutečně potřeba? Jaké vývojářské dovednosti uživatelé potřebují?

Podle mého názoru platí pravidlo 80/20. 80 % aplikací umělé inteligence již je postaveno a má zavedené modely a trénovací data kolem nich. Tradiční organizace mohou snadno použít platformu nízkého kódu (naší, Interplay, je jedna z takových platforem) a implementovat tyto případy. Zde jsou některé příklady:

• Aplikace AI poháněné FAQ
• Aplikace AI pro vyhledávání produktů
• Doporučení produktů a jejich seskupování do balíčků
• OCR
• Visuální identifikace produktů
• Analýza tabulkových dat: věci jako AOV, analýza košíku, předpovědi odchodu zákazníků atd.
• Extrakce objektů / detekce
• Stálost objektů

Tyto případy by mohly být implementovány inženýrem s znalostmi server-side programování a základním porozuměním API strojového učení. Je to velmi podobné technikám streamování videa, kryptografii a správě klíčů, které jsou široce používány prostřednictvím API dnes. Většina inženýrů, kteří používají tyto API, často neví, jak fungují pod povrchem.

Proč je nízký kód důležitý pro škálování technologie umělé inteligence?

Společnosti, které se ucházejí o schopnosti umělé inteligence ve svém vývoji aplikací, mohou rychle čelit velkým výzvám, pokud nepoužívají nízký kód. V dnešním světě je pouze 300 000 inženýrů umělé inteligence a pouze 60 000 z nich jsou datoví vědci. Z tohoto důvodu je talent potřebný k vývoji a škálování řešení umělé inteligence drahý a roste. Naopak vývoj nízkého kódu opravdu demokratizuje přístup k umělé inteligenci. S nízkým kódem mohou jakýkoli z 25 milionů softwarových vývojářů a dokonce i ti, kteří nemají žádné školení, snadno implementovat motory umělé inteligence, vyladit jejich schopnosti a produkovat a škálovat efektivní řešení.

Vraťme se k platformě Signals společnosti Iterate.ai využívající umělou inteligenci – co jsou některé z více zajímavých trendů, které se objevují?

Vidíme rychlý růst napříč pěti silami inovací: umělou inteligencí, IoT, blockchainem, daty a řešeními startupů. Tyto jsou všechny velmi velké trhy. Vidíme tisíce bodů dat o novinách, patentech a nových produktech startupů každý den. Interplay je postaven tak, aby využil tyto síly, včetně předem připravených komponent pro využití těchto rostoucích sil.

Je něco jiného, co byste rádi sdíleli o Iterate.ai?

Domnívám se, že stále existují mýty kolem nízkého kódu a jeho role při budování aplikací umělé inteligence. Není neobvyklé vidět IT profesionály, kteří zpochybňují, zda strategie nízkého kódu může splnit jejich požadavky na škálovatelnost, rozšiřitelnost a zabezpečení na úrovni podniku. Domnívám se, že nízký kód, který je určen pro prototypování – ale nesprávně použit jako nástroj pro produkční aplikace – přispěl k těmto pochybnostem. Říkám, že správné platformy nízkého kódu jsou absolutně vhodné pro budování a podporu produkčních aplikací umělé inteligence. Společnosti by měly provést svou due diligence při výběru nástrojů nízkého kódu, aby zajistily, že tyto nástroje mají transparentní a komplexní bezpečnostní vrstvu a prokázanou historii dodávání aplikací na úrovni podniku.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Iterate.ai.