Ricky Costa, CEO von Quantum Stat – Interview-Reihe

Ricky Costa ist der CEO von Quantum Stat, einem Unternehmen, das Geschäftslösungen für NLP und KI-Initiativen anbietet

Was hat Sie ursprünglich für künstliche Intelligenz interessiert?

Zufall. Ich las ein Buch über Wahrscheinlichkeit, als ich auf ein berühmtes Theorem stieß. Zu dieser Zeit fragte ich mich naiv, ob ich dieses Theorem auf ein natürliches Sprachproblem anwenden könnte, das ich bei der Arbeit zu lösen versuchte. Es stellte sich heraus, dass das Algorithmus bereits existierte, ohne dass ich es wusste, es wurde Naiver Bayes genannt, ein sehr berühmtes und einfaches generatives Modell, das in der klassischen maschinellen Lerntheorie verwendet wird. Dieses Theorem war das Bayes-Theorem. Ich fühlte, dass diese Übereinstimmung ein Hinweis war und einen Samen der Neugier pflanzte, um mehr zu lernen.

Sie sind der CEO von Quantum Stat, einem Unternehmen, das Lösungen für die Verarbeitung natürlicher Sprache anbietet. Wie sind Sie in diese Position gelangt?

Wenn es eine Revolution in einer neuen Technologie gibt, sind einige Unternehmen eher zögerlich als andere, wenn sie mit dem Unbekannten konfrontiert werden. Ich habe mein Unternehmen gegründet, weil das Verfolgen des Unbekannten für mich Spaß macht.  Ich fühlte auch, dass es der richtige Zeitpunkt war, in das Feld der NLP zu investieren, angesichts all der fantastischen Forschung, die in den letzten 2 Jahren durchgeführt wurde. Die NLP-Community hat jetzt die Fähigkeit, viel mehr mit weniger zu erreichen, dank der neuen NLP-Techniken, die weniger Daten benötigen, um die Leistung zu skalieren.

Für Leser, die mit diesem Bereich nicht vertraut sind, können Sie uns bitte erklären, was die Verarbeitung natürlicher Sprache bewirkt?

NLP ist ein Teilbereich der KI und Analytik, der versucht, natürliche Sprache in Text, Sprache oder multimodales Lernen (Text und Bild/Video) zu verstehen und zu berechnen, um Erkenntnisse oder wertvolle Dienstleistungen zu liefern. Der Wert kann aus verschiedenen Richtungen kommen, von der Informationsabruf in einem internen Dateisystem eines Unternehmens bis zur Klassifizierung von Stimmungen in den Nachrichten oder einem GPT-2-Twitter-Bot, der bei der sozialen Medienwerbung hilft (wie der, den wir vor ein paar Wochen gebaut haben).

Sie haben einen Bachelor-Abschluss in Experimentalpsychologie am Hunter College. Fühlen Sie, dass das Verständnis des menschlichen Gehirns und der menschlichen Psychologie ein Vermögen ist, wenn es um das Verständnis und die Erweiterung des Bereichs der Verarbeitung natürlicher Sprache geht?

Dies ist konträr, aber leider nein. Die Analogie von Neuronen und tiefen neuronalen Netzen ist einfach zur Illustration und zur Einprägung von Intuition. Man kann wahrscheinlich viel mehr aus der Komplexitätswissenschaft und dem Ingenieurwesen lernen. Die Schwierigkeit beim Verständnis, wie das Gehirn funktioniert, besteht darin, dass wir es mit einem komplexen System zu tun haben. “Intelligenz” ist ein emergentes Phänomen, das aus der Komplexität des Gehirns und seiner Interaktion mit seiner Umgebung entsteht und sehr schwer zu erfassen ist. Psychologie und andere Sozialwissenschaften, die auf “Reduktionismus” (top-down) basieren, funktionieren nicht unter diesem komplexen Paradigma. Hier ist die Intuition: Stellen Sie sich vor, jemand versucht, das Lied “Let it Be” von den Beatles auf die C-Dur-Skala zu reduzieren. Es gibt nichts an dieser Skala, was vorhersagt, dass “Let it Be” daraus entsteht. Gleiches gilt für jemanden, der versucht, Verhalten auf neuronale Aktivität im Gehirn zu reduzieren.

Können Sie uns erklären, warum Big Data so wichtig ist, wenn es um Deep Learning und insbesondere die Verarbeitung natürlicher Sprache geht?

Wie es derzeit steht, weil Deep-Learning-Modelle Daten interpolieren, desto mehr Daten man dem Modell zufüttert, desto weniger Randfälle wird es sehen, wenn es eine Inferenz in der Wildnis trifft. Diese Architektur “ermutigt” große Datensätze, von Modellen berechnet zu werden, um die Genauigkeit der Ausgabe zu erhöhen. Wenn wir jedoch intelligentes Verhalten von KI-Modellen erreichen wollen, müssen wir über die Menge an Daten hinausgehen, die wir haben, und mehr auf die Verbesserung der Fähigkeit des Modells achten, effizienter zu argumentieren, was intuitiv nicht viel Daten erfordern sollte. Aus einer Komplexitätsperspektive zeigen die Experimente mit Zellautomaten, die von Physikern wie John von Neumann und Stephen Wolfram durchgeführt wurden, dass Komplexität aus einfachen Anfangsbedingungen und Regeln entstehen kann. Was diese Bedingungen/Regeln mit Bezug auf KI sind, ist das, wonach jeder sucht.

Sie haben kürzlich die “Big Bad NLP-Datenbank” veröffentlicht. Was ist diese Datenbank und warum ist sie für diejenigen in der KI-Branche wichtig?

Diese Datenbank wurde erstellt, um NLP-Entwicklern einen nahtlosen Zugriff auf alle relevanten Datensätze in der Branche zu ermöglichen. Diese Datenbank hilft bei der Indizierung von Datensätzen, was eine schöne sekundäre Wirkung hat, nämlich dass Benutzer sie abfragen können. Die Vorverarbeitung von Daten nimmt den größten Teil der Zeit in der Bereitstellungsphase ein, und diese Datenbank versucht, dieses Problem so weit wie möglich zu mildern. Darüber hinaus ist es eine kostenlose Plattform für jeden, unabhängig davon, ob Sie ein akademischer Forscher, Praktiker oder unabhängiger KI-Guru sind, der sich mit NLP-Daten vertraut machen möchte. Link

Quantum Stat bietet derzeit End-to-End-Lösungen an. Was sind einige dieser Lösungen?

Wir helfen Unternehmen, ihre NLP-Modellierungspipeline zu erleichtern, indem wir Entwicklung auf jeder Stufe anbieten. Wir können eine breite Palette von Dienstleistungen anbieten, von der Datenreinigung in der Vorverarbeitungsphase bis hin zur Modellserver-Bereitstellung in der Produktion (diese Dienstleistungen sind auch auf unserer Startseite hervorgehoben). Nicht alle KI-Projekte werden aufgrund der unbekannten Natur, wie Ihre spezifischen Daten/Projektarchitektur mit einem State-of-the-Art-Modell funktionieren, verwirklicht. Angesichts dieser Unsicherheit bieten unsere Dienstleistungen Unternehmen die Möglichkeit, an ihrem Projekt zu iterieren, ohne einen vollen ML-Ingenieur einzustellen.

Welche jüngste Entwicklung im Bereich KI finden Sie am interessantesten?

Die wichtigste Entwicklung in letzter Zeit ist das Transformer-Modell, von dem Sie vielleicht gehört haben: BERT, RoBERTa, ALBERT, T5 und so weiter. Diese Transformer-Modelle sind sehr ansprechend, weil sie es dem Forscher ermöglichen, mit einem kleineren Datensatz Spitzenleistungen zu erzielen. Vor den Transformern benötigte ein Entwickler einen sehr großen Datensatz, um ein Modell von Grund auf zu trainieren. Da diese Transformer vorab auf Milliarden von Wörtern trainiert werden, ermöglichen sie eine schnellere Iteration von KI-Projekten und sind es, womit wir uns derzeit hauptsächlich befassen.

Gibt es noch etwas, das Sie über Quantum Stat teilen möchten?

Wir arbeiten an einem neuen Projekt, das sich mit der Analyse der Stimmung auf den Finanzmärkten beschäftigt und bald veröffentlicht wird. Wir haben mehrere Transformer eingesetzt, um einen beispiellosen Einblick in die Art und Weise zu geben, wie Finanznachrichten in Echtzeit ablaufen. Bleiben Sie dran!

Um mehr zu erfahren, besuchen Sie Quantum Stat oder lesen Sie unseren Artikel über die Big Bad NLP-Datenbank.