Alex Ratner, CEO & Co-Founder von Snorkel AI – Interview-Serie

Alex Ratner ist der CEO & Co-Founder von Snorkel AI, einem Unternehmen, das aus dem Stanford AI-Labor entstanden ist.

Snorkel AI macht die AI-Entwicklung schnell und praktisch, indem es manuelle AI-Entwicklungsprozesse in programmatische Lösungen umwandelt. Snorkel AI ermöglicht es Unternehmen, AI zu entwickeln, die für ihre einzigartigen Workloads funktioniert, indem sie ihre eigene Daten und Kenntnisse 10-100-mal schneller nutzen.

Was hat Sie ursprünglich zur Informatik hingezogen?

Es gibt zwei sehr aufregende Aspekte der Informatik, wenn man jung ist. Einerseits kann man so schnell lernen, wie man will, indem man herumexperimentiert und baut, dank der sofortigen Rückmeldung, anstatt auf einen Lehrer warten zu müssen. Andererseits kann man viele Dinge bauen, ohne jemanden um Erlaubnis bitten zu müssen!

Ich habe mit dem Programmieren angefangen, als ich ein junger Junge war, aus diesen Gründen. Ich liebte auch die Präzision, die es erforderte. Ich genoss den Prozess der Abstraktion komplexer Prozesse und Routinen und ihrer Kodifizierung in einer modularen Weise.

Später, als Erwachsener, kehrte ich beruflich in die Informatik zurück, indem ich eine Stelle in einer Unternehmensberatung annahm, in der ich mit der Erstellung von Skripten zur Durchführung einiger grundlegender Analysen des Patentkorpus betraut wurde. Ich war fasziniert davon, wie viel menschliches Wissen – alles, was jemals als patentierbar angesehen wurde – leicht zugänglich war, aber dennoch so unzugänglich, weil es so schwer war, auch nur die einfachsten Analysen über komplexe technische Texte und multimodale Daten durchzuführen.

Dies führte mich zurück in den Kaninchenbau, und schließlich zurück zur Graduiertenschule in Stanford, wo ich mich auf NLP konzentrierte, also die Verwendung von ML/AI auf natürliche Sprache.

Sie haben das Snorkel-Open-Source-Projekt zum ersten Mal während Ihrer Zeit in Stanford gestartet und geleitet. Können Sie uns durch die Anfangstage führen?

Wir waren damals, wie viele in der Branche, auf die Entwicklung neuer Algorithmen und – i.e. all die “fancy” Machine-Learning-Sachen, über die die Leute in der Community forschten und Veröffentlichungen machten – fokussiert.

Wir waren jedoch immer sehr darauf bedacht, dies in realen Problemen zu verankern – hauptsächlich mit Ärzten und Wissenschaftlern in Stanford. Aber jedes Mal, wenn wir ein neues Modell oder einen neuen Algorithmus vorstellten, wurde die Reaktion “Ja, wir würden das ausprobieren, aber wir bräuchten all diese beschrifteten Trainingsdaten, die wir nicht die Zeit haben, zu erstellen!”

Wir sahen, dass das große ungesagte Problem um den Prozess der Beschriftung und Kuratierung dieser Trainingsdaten bestand – also verlagerten wir all unsere Aufmerksamkeit dorthin, und so begann das Snorkel-Projekt und die Idee von “datenzentrierter KI”.

Snorkel hat eine datenzentrierte KI-Ansatz. Können Sie definieren, was dies bedeutet und wie es sich von der modellzentrierten KI-Entwicklung unterscheidet?

Die datenzentrierte KI bedeutet, sich auf den Bau besserer Daten zu konzentrieren, um bessere Modelle zu bauen.

Dies steht im Gegensatz zu, aber arbeitet Hand in Hand mit, der modellzentrierten KI. In der modellzentrierten KI nehmen Datenwissenschaftler oder Forscher an, dass die Daten statisch sind und ihre Energie in die Anpassung von Modellarchitekturen und Parametern stecken, um bessere Ergebnisse zu erzielen.

Forscher tun immer noch großartige Arbeit in der modellzentrierten KI, aber vorgefertigte Modelle und Auto-ML-Techniken haben sich so sehr verbessert, dass die Modellwahl zu einer Kommodität bei der Produktion geworden ist. Wenn das der Fall ist, ist der beste Weg, diese Modelle zu verbessern, ihnen mehr und bessere Daten zur Verfügung zu stellen.

Was sind die Kernprinzipien eines datenzentrierten KI-Ansatzes?

Das Kernprinzip der datenzentrierten KI ist einfach: bessere Daten bauen bessere Modelle.

In unserer akademischen Arbeit haben wir dies “Dataprogrammierung” genannt. Die Idee ist, dass wenn Sie einem robusten Modell genügend Beispiele für Eingaben und erwartete Ausgaben geben, das Modell lernt, diese Muster zu duplizieren.

Dies stellt eine größere Herausforderung dar, als man erwarten könnte. Der größte Teil der Daten hat keine Beschriftungen – oder zumindest keine nützlichen Beschriftungen für Ihre Anwendung. Die manuelle Beschriftung dieser Daten erfordert Langeweile, Zeit und menschliche Anstrengung.

Die Verfügbarkeit eines beschrifteten Datensatzes garantiert auch nicht die Qualität. Menschlicher Fehler schleicht sich überall ein. Jedes falsch beschriftete Beispiel in Ihrem Grundwahrheitsdatensatz verschlechtert die Leistung des endgültigen Modells. Keine Anpassung der Parameter kann diese Realität kaschieren. Forscher haben sogar falsch beschriftete Aufzeichnungen in grundlegenden Open-Source-Datensätzen gefunden.

Können Sie erläutern, was es bedeutet, wenn die datenzentrierte KI programmatisch ist?

Die manuelle Beschriftung von Daten stellt ernsthafte Herausforderungen dar. Dies erfordert viele menschliche Stunden, und manchmal können diese menschlichen Stunden teuer sein. Medizinische Dokumente beispielsweise können nur von Ärzten beschriftet werden.

Zusätzlich führen manuelle Beschriftungssprints oft zu Einmalprojekten. Beschrifteter annotiert die Daten gemäß einem starren Schema. Wenn die Bedürfnisse eines Unternehmens sich ändern und ein anderes Set von Beschriftungen erfordern, müssen die Beschrifteter von vorne beginnen.

Programmatische Ansätze zur datenzentrierten KI minimieren beide dieser Probleme. Snorkel AI’s programmatisches Beschriftungssystem integriert diverse Signale – von Legacy-Modellen bis hin zu bestehenden Beschriftungen und externen Wissensbasen – um wahrscheinliche Beschriftungen im großen Maßstab zu entwickeln. Unsere primäre Signalquelle stammt von Fachexperten, die mit Datenwissenschaftlern zusammenarbeiten, um Beschriftungsfunktionen zu erstellen. Diese kodifizieren ihre Expertenurteile in skalierbare Regeln, sodass die in eine Entscheidung investierte Anstrengung Dutzende oder Hunderte von Datenpunkten beeinflussen kann.

Dieses Framework ist auch flexibel. Anstatt von vorne zu beginnen, wenn die Geschäftsbedürfnisse sich ändern, fügen Benutzer Beschriftungsfunktionen hinzu, entfernen oder passen sie an, um neue Beschriftungen in Stunden statt in Tagen anzuwenden.

Wie ermöglicht dieser datenzentrierte Ansatz die schnelle Skalierung von unbeschrifteten Daten?

Unser programmatischer Ansatz zur datenzentrierten KI ermöglicht die schnelle Skalierung von unbeschrifteten Daten, indem er die Wirkung jeder Wahl verstärkt. Sobald Fachexperten eine anfängliche, kleine Menge an Grundwahrheiten etabliert haben, beginnen sie mit der Zusammenarbeit mit Datenwissenschaftlern für eine schnelle Iteration. Sie definieren einige Beschriftungsfunktionen, trainieren ein schnelles Modell, analysieren die Wirkung ihrer Beschriftungsfunktionen und fügen, entfernen oder passen sie dann an, wie erforderlich.

Jeder Zyklus verbessert die Modellleistung, bis sie die Projektziele erreicht oder übertrifft. Dies kann Monate der Datenbeschriftungsarbeit auf nur Stunden reduzieren. In einem Snorkel-Forschungsprojekt beschrifteten zwei unserer Forscher 20.000 Dokumente an einem Tag – ein Volumen, das manuelle Beschrifteter zehn Wochen oder länger gekostet hätte.

Snorkel bietet mehrere KI-Lösungen an, darunter Snorkel Flow, Snorkel GenGlow und Snorkel Foundry. Was sind die Unterschiede zwischen diesen Angeboten?

Die Snorkel-AI-Suite ermöglicht es Benutzern, Beschriftungsfunktionen zu erstellen (z.B. das Suchen nach Schlüsselwörtern oder Mustern in Dokumenten), um millionen von Datenpunkten in Minuten programmatisch zu beschriften, anstatt manuell ein Datenpunkt nach dem anderen zu beschriften.

Es komprimiert die Zeit, die Unternehmen benötigen, um ihre eigenen Daten in produktionsreife Modelle zu übersetzen und mit der Extraktion von Wert aus ihnen zu beginnen. Snorkel AI ermöglicht es Unternehmen, menschliche Ansätze im großen Maßstab zu skalieren, indem es menschliches Urteil und Fachwissen effizient einbezieht.

Dies führt zu transparenterer und erklärbarerer KI, mit der Unternehmen Vorurteile verwalten und verantwortungsvolle Ergebnisse liefern können.

Wenn man sich die Details ansieht, ermöglicht Snorkel AI es den Fortune-500-Unternehmen,

• Hohe Qualität beschrifteter Daten zu entwickeln, um Modelle zu trainieren oder RAG zu verbessern;
• LLMs mit Feinabstimmung anzupassen;
• LLMs in spezialisierte Modelle zu destillieren, die viel kleiner und billiger zu betreiben sind;
• Domänen- und Aufgaben-spezifische LLMs mit Vorabtrainierung zu erstellen.

Sie haben einige bahnbrechende Arbeiten veröffentlicht. Welche ist Ihrer Meinung nach Ihre wichtigste Veröffentlichung?

Eine der Schlüsselveröffentlichungen war die ursprüngliche Veröffentlichung über datenzentrierte Programmierung (Beschriftung von Trainingsdaten programmatisch) und über Snorkel.

Was ist Ihre Vision für die Zukunft von Snorkel?

Ich sehe Snorkel als vertrauenswürdigen Partner für alle großen Unternehmen, die ernsthaft an KI interessiert sind.

Snorkel Flow sollte zu einem ubiquitären Werkzeug für Data-Science-Teams in großen Unternehmen werden – egal, ob sie benutzerdefinierte große Sprachmodelle für ihre Organisationen feinjustieren, Bildklassifizierungsmodelle erstellen oder einfache, einsetzbare logistische Regressionsmodelle erstellen.

Unabhängig davon, welche Art von Modellen ein Unternehmen benötigt, werden sie hochwertige beschriftete Daten benötigen, um es zu trainieren.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Snorkel AI besuchen, Snorkel AI,