Brian Sathianathan, Chief Technology Officer und Mitbegründer von Iterate.ai – Interviewreihe

Brian Sathianathan ist Chief Technology Officer und Mitbegründer von Iterate.ai, Entwickler der Low-Code-Plattform Interplay für die schnelle Entwicklung KI-basierter Anwendungen in allen Branchen. Zuvor arbeitete Sathianathan bei Apple an verschiedenen neuen Technologieprojekten, darunter dem Mac-Betriebssystem und dem ersten iPhone.

Was hat Sie ursprünglich an der Arbeit mit KI-Technologien gereizt?

Ich hatte schon immer ein Interesse an algorithmischem Lernen und begann während meiner Studienzeit, mit KI-Systemen zu arbeiten. Darüber hinaus habe ich zu Beginn meiner Karriere viel Zeit damit verbracht, Kryptographie und andere Sicherheitstechnologien für Apple sowie Videokomprimierungstechnologien für ein früheres Unternehmen zu entwickeln, das ich mitgegründet hatte. Sowohl Video- als auch Kryptotechnologien sind sehr algorithmenintensiv, und das hat meine Lernkurve in AI/ML wirklich beschleunigt. Etwa im Jahr 2016 begann ich, mit Open-Source-KI-Frameworks/GPUs zu experimentieren, und erkannte, wie weit sie in den letzten fünf Jahren gekommen sind – sowohl aus Algorithmenperspektive als auch hinsichtlich ihrer Fähigkeit, ein breiteres Spektrum an Klassifizierungen durchzuführen. Dann wurde mir klar, dass ich es für jeden einfacher und einfacher machen musste.

Sie haben eine starke Meinung zu kognitiver Verzerrung und Datenverzerrung in der KI. Können Sie diese Bedenken teilen?

KI-Voreingenommenheit entsteht, wenn Ingenieure ihre KI-Trainingsdatensätze von ihren eigenen Standpunkten und Vorurteilen beeinflussen lassen. Ein so schnelles Vorgehen untergräbt das, was sie mit KI erreichen wollen. Meistens ist dieser Einfluss unbewusst, sodass sie sich möglicherweise nicht einmal bewusst sind, dass Voreingenommenheit in ihre Datensätze eingedrungen ist. Ohne wirksame Kontrollen und Gegenmaßnahmen können Daten nur auf die Schwerpunkte oder demografischen Merkmale beschränkt werden, die Ingenieure gerne berücksichtigen. Selbst wenn Ingenieure über eine hohe Datenqualität und -menge verfügen, können Verzerrungen in Datensätzen dazu führen, dass die von KI-Anwendungen gelieferten Ergebnisse falsch und in vielen Fällen weitgehend unbrauchbar sind.

Das schätzte ein Gartner-Bericht Bis 2030 werden 85 % der KI-Projekte aufgrund von Voreingenommenheit falsche Ergebnisse liefern. Das ist eine große Lücke, die es zu überwinden gilt. Unternehmen, die in KI investieren, ihr vertrauen und strategische Entscheidungen auf deren Grundlage treffen – nur um dann durch falsche, auf Voreingenommenheit beruhende Schlussfolgerungen in die Irre geführt zu werden – riskieren kostspielige Misserfolge und Rufschädigung. Da sich KI schnell von einer aufstrebenden Technologie zu einem allgegenwärtigen Eckpfeiler sowohl in kundenorientierten Anwendungen als auch in internen Prozessen entwickelt, ist die Beseitigung von Vorurteilen von entscheidender Bedeutung, um das wahre Potenzial von KI in Zukunft auszuschöpfen.

Welche Möglichkeiten gibt es, um zu verhindern, dass diese Art von Voreingenommenheit auftritt?

KI-Voreingenommenheit muss systematisch und proaktiv erkannt und beseitigt werden. Vorurteile können in Algorithmen fest codiert sein. Ungenauigkeiten können durch kognitive Verzerrungen entstehen, die einfach notwendige Daten weglassen. Ein weiteres Risiko ist hier die Aggregationsverzerrung, bei der eine Reihe kleiner Entscheidungen zu verzerrten KI-Ergebnissen führen.

Um KI-Voreingenommenheit in all ihren Formen zu erkennen und zu beseitigen, müssen Unternehmen Frameworks, Toolkits, Prozesse und Richtlinien nutzen, die darauf ausgelegt sind, diese Probleme wirksam zu entschärfen. Zum Beispiel KI-Frameworks wie das Aletheia Framework von Rolls Royce und KI-Framework von Deloitte – ergänzt durch automatisch erzwungene Benchmarks – können voreingenommene Praktiken bei der Entwicklung und Bereitstellung von KI-Anwendungen fördern. Toolkits wie AI Fairness 360 und IBM Watson OpenScale kann Voreingenommenheit und Voreingenommenheitsmuster in Modellen und Pipelines für maschinelles Lernen erkennen und beseitigen. Schließlich ermöglichen Prozesse, die Daten anhand definierter Voreingenommenheitsmetriken testen, kombiniert mit Richtlinien, die Governance zur Abschreckung von Voreingenommenheit durch erzwungene Praktiken bieten, Organisationen, ihre blinden Flecken systematisch zu überprüfen und KI-Voreingenommenheit einzudämmen.

Sie sind CTO und Mitbegründer von Iterate.ai – wie hat es angefangen?

Diese Geschichte beginnt im Jahr 2013, als Mitbegründer Jon Nordmark (unser CEO) und ich beide Vorstandsmitglieder eines osteuropäischen Accelerators mit Sitz in der Ukraine waren, der Unternehmern dort helfen soll, Startups im Silicon Valley-Stil aufzubauen und zu betreiben. Diese Erfahrungen mit erstaunlich innovativen neuen Unternehmen brachten uns auf die Idee, vielversprechende (aber vielleicht weniger bekannte) Startups mit großen Unternehmen zusammenzubringen, die Innovationsunterstützung benötigen. Anschließend starteten wir das, was sich damals Iterate Studio nannte, und boten eine spezielle Suchmaschine für Unternehmen an, um Startup-Partner auf der Grundlage der innovativen Fähigkeiten zu finden, die diese größeren Organisationen suchten. Im Jahr 2015 wurde das Unternehmen zu Iterate.ai, um unsere KI-gesteuerte Startup-Kuration hervorzuheben. Heute, unser Signale Die Datenbank indiziert mehr als 15.7 Millionen Startup-Technologien auf der Grundlage unzähliger Faktoren (und nutzt proprietäre KI, um dies in dieser Größenordnung zu ermöglichen).

Wir haben 2017 erweitert und die erste Version unseres veröffentlicht Zusammenspiel Low-Code-Anwendungsentwicklungsplattform. Interplay bietet eine KI-gestützte Softwareschicht, die die Legacy-Stacks von Unternehmen modernisiert, indem sie die Nutzung innovativer Technologien per Drag-and-Drop ermöglicht und gleichzeitig die Softwareentwicklung um das Zehnfache beschleunigt. Die Low-Code-Plattform verfügt über 475 vorgefertigte Komponenten, sodass Benutzer die Technologien kombinieren können, die sie benötigen, um Anwendungen schnell zu starten. Die Stärkung der KI ist das Herzstück der Plattform sowie anderer Low-Code-Komponenten für IoT, Datenintegration und sogar Blockchain.

Iterate ist eine Low-Code-Plattform für die Entwicklung KI-gestützter Anwendungen; Welche KI-Anwendungen können erstellt werden?

Unsere Low-Code-Plattform hat KI-Anwendungen für eine wirklich interessante Vielfalt an Anwendungsfällen ermöglicht – auf die Breite der Bereitstellung sind wir wirklich stolz. Ulta Beauty, der milliardenschwere globale Beauty-Einzelhändler, nutzte unsere Plattform zum Aufbau eines Intelligenter KI-Gast-Chatbot für den Einzelhandel in nur zwei Wochen. Im Gegensatz dazu sind primitive Chatbots schlüsselwortzentriert, und die meisten Chatbot-Anwendungen von Anbietern können nicht nahtlos in Legacy-Systeme integriert werden, um auf Kundeninformationen zuzugreifen oder einen reibungslosen Übergang zum von Menschen unterstützten Support zu ermöglichen. Der intelligente KI-Chatbot von Ulta beseitigte diese Probleme durch die Verarbeitung natürlicher Sprache und die Fähigkeit, die „Absichten“ der Kunden zu erkennen, um wirklich genaue Antworten zu geben. Unsere Plattform machte es Ulta einfach, die KI-Engine des Chatbots in nur wenigen Stunden zu erstellen und das Training und die Antworten des Chatbots extrem schnell zu konfigurieren, zu verfeinern und zu verbessern.

In einem anderen Beispiel Jockey nutzte unsere Plattform, um KI-gestützte FAQs zu ermöglichen bereit, automatisch (und erfolgreich) auf recht komplexe und subjektive Kundendienstszenarien zu reagieren. Unsere Plattform ermöglichte auch die Reaktion eines globalen Supermarkts und eines Gasnetzes auf die Pandemie mit berührungslosen Zapfsäulen und stützte sich dabei auf die KI-basierte Bilderkennung der Nummernschilder von Kunden. Unsere KI-Fähigkeiten werden auch zur Stärkung eingesetzt Kamerazentrierte Sicherheitsstrategien an Einzelhandelsstandorten. Durch Bilderkennung können trainierte KI-Anwendungen Bedrohungen und das Vorhandensein von Waffen außerhalb von Ladenfronten erkennen, Ladensperrungen zum Schutz der Kunden auslösen und Behörden kontaktieren.

Wie gering sind die tatsächlichen Codierungsanforderungen? Wie viel Entwicklungskompetenz müssen Benutzer mitbringen?

Meiner Meinung nach gilt die 80/20-Regel. 80 % der angewandten KI-Anwendungsfälle sind bereits erstellt und verfügen über etablierte Modelle und Trainingsdaten. Eine traditionelle Organisation kann problemlos eine Low-Code-Plattform (unsere, Interplay, ist eine solche Plattform) verwenden und diese Fälle implementieren. Hier sind einige Beispiele:

• KI-gesteuerte FAQs
• KI-gestützte Produktfinder
• Produktempfehlungen und Bündelung
• OCR
• Visuelle Produktidentifikation
• Tabellarische Datenanalyse: Dinge wie AOV, Warenkorbanalyse, Abwanderungsvorhersagen usw
• Objektextraktion/-erkennung
• Objektbeständigkeit

Die oben genannten Fälle könnten von einem Ingenieur mit serverseitigen Programmierkenntnissen und einigen grundlegenden Kenntnissen von APIs für maschinelles Lernen implementiert werden. Es ist Videostreaming, Kryptografie und Schlüsselverwaltungstechniken sehr ähnlich, die heute häufig über APIs verwendet werden. Die meisten Ingenieure, die diese APIs verwenden, wissen oft nicht, wie sie darunter funktionieren.

Warum ist Low-Code-KI für die Skalierung der KI-Technologie wichtig?

Unternehmen, die bei ihrer Anwendungsentwicklung auf KI-Fähigkeiten setzen, können schnell vor großen Herausforderungen stehen, wenn sie nicht auf Low-Code zurückgreifen. Auf der Welt gibt es heute nur 300,000 KI-Ingenieure, und nur 60,000 davon sind Datenwissenschaftler. Aus diesem Grund ist der Bedarf an Talenten für die Entwicklung und Skalierung von KI-Lösungen teuer und steigt. Im Gegensatz dazu demokratisiert die Low-Code-Entwicklung den Zugang zu KI wirklich. Mit Low-Code kann jeder der 25 Millionen Softwareentwickler auf der Welt und sogar diejenigen ohne Ausbildung problemlos KI-Engines implementieren, ihre Fähigkeiten verfeinern und effektive Lösungen erstellen und skalieren.

Zurück zur KI-gestützten Signalplattform von Iterate.ai: Welche sind einige der interessanteren Trends, die sich abzeichnen? 

Wir sehen ein schnelles Wachstum bei fünf Innovationskräften: KI, IoT, Blockchain, Daten und neue Startup-Lösungen. Das sind alles sehr große Märkte. Wir sehen täglich Tausende von Datenpunkten zu Neuigkeiten, Patenten und neuen Startup-Produkten. Interplay ist darauf ausgelegt, auch diese Kräfte zu nutzen, indem vorgefertigte Komponenten integriert werden, um diese wachsenden Kräfte zu nutzen.

Gibt es noch etwas, das Sie über Iterate.ai mitteilen möchten?

Ich denke, es gibt immer noch Missverständnisse über Low-Code und seine Rolle bei der Entwicklung von KI-Anwendungen. Es ist nicht ungewöhnlich, dass IT-Experten sich fragen, ob eine Low-Code-Strategie ihren Anforderungen an Skalierbarkeit, Erweiterbarkeit und Sicherheit auf Unternehmensniveau gerecht werden kann. Ich denke, dass Low-Code-Optionen, die für das Prototyping gedacht sind, aber fälschlicherweise als Werkzeuge für Produktionsanwendungen eingesetzt werden, zu dieser Langeweile beigetragen haben. Allerdings sind die richtigen Low-Code-Plattformen der Aufgabe, produktionsreife KI-Anwendungen zu erstellen und zu unterstützen, absolut gewachsen. Unternehmen sollten bei der Auswahl von Low-Code-Tools ihre Sorgfaltspflicht erfüllen und sicherstellen, dass diese Tools über eine transparente und gründliche Sicherheitsschicht verfügen und nachweislich Anwendungen auf Unternehmensebene bereitstellen.

Vielen Dank für das tolle Interview, Leser, die mehr erfahren möchten, sollten vorbeischauen Iterate.ai.