Der Fall für die Dezentralisierung Ihres AI-Technologie-Stapels

So viel von der Konversation über die Entwicklung von KI wird von einer futuristischen und philosophischen Debatte dominiert – sollten wir uns auf allgemeine künstliche Intelligenz konzentrieren, wo KI fortschrittlich genug wird, um jede Aufgabe auf die gleiche Weise wie ein Mensch auszuführen? Ist das überhaupt möglich?

Während die Beschleunigung versus Verzögerungsdiskussion wichtig und aktuell ist, insbesondere mit Fortschritten wie dem Q-Star-Modell, sind auch andere Aspekte wichtig. Vor allem die Bedeutung der Dezentralisierung Ihres Technologie-Stapels und wie man das ohne zu große Kostenbelastung tut. Diese beiden Herausforderungen können sich gegensätzlich anfühlen: Das Erstellen und Bereitstellen von Modellen ist unglaublich teuer, aber die Abhängigkeit von einem einzigen Modell kann langfristig schädlich sein. Ich kenne diese Herausforderung persönlich als KI-Gründer.

Um Intelligenz aufzubauen, benötigen Sie Talent, Daten und skalierbare Rechenleistung. Um die Zeit bis zur Markteinführung zu beschleunigen und mehr mit weniger zu erreichen, werden viele Unternehmen wählen, auf bestehenden Modellen aufzubauen, anstatt von Grund auf zu bauen. Und dieser Ansatz macht Sinn, wenn das, was Sie bauen, so ressourcenintensiv ist. Diese Herausforderung wird dadurch verschärft, dass, im Gegensatz zu Software, die meisten Gewinne bei KI bisher durch die Addition von mehr Skalierbarkeit erzielt wurden, was mehr Rechenleistung und damit Kosten erfordert.

Aber was passiert, wenn das Unternehmen, in dem Sie Ihre Lösung erstellt haben, einen Governance-Fehler oder einen Produkt-Ausfall erleidet? Aus praktischer Sicht bedeutet die Abhängigkeit von einem einzigen Modell, um Ihr Produkt zu erstellen, dass Sie nun Teil eines negativen Welleneffekts für alles, was passiert, sind.

Wir müssen auch daran denken, dass wir mit Systemen arbeiten, die probabilistisch sind. Wir sind nicht daran gewöhnt und die Welt, in der wir bisher gelebt haben, wurde so konzipiert und entworfen, um mit einer definitiven Antwort zu funktionieren. Modelle sind in Bezug auf ihre Ausgabe flüssig und Unternehmen passen die Modelle ständig an, was bedeutet, dass der Code, den Sie geschrieben haben, um diese zu unterstützen, und die Ergebnisse, auf die Ihre Kunden angewiesen sind, ohne Ihre Kenntnis oder Kontrolle geändert werden können.

Zentralisierung schafft auch Sicherheitsbedenken, da sie einen einzelnen Fehlerpunkt einführt. Jedes Unternehmen arbeitet im besten Interesse von sich selbst. Wenn es ein Sicherheits- oder Risikoproblem mit einem Modell gibt, haben Sie viel weniger Kontrolle über die Behebung dieses Problems oder weniger Zugang zu Alternativen.

Wo bleiben wir?

KI wird unbestreitbar verbessern, wie wir leben. Es gibt so viel, was es erreichen und beheben kann, von der Art und Weise, wie wir Informationen sammeln, bis hin zur Art und Weise, wie wir große Mengen an Daten verstehen. Aber mit dieser Chance kommt auch ein Risiko. Wenn wir uns zu sehr auf ein einzelnes Modell verlassen, öffnen sich alle Unternehmen für Sicherheits- und Produkt-Herausforderungen.

Um dies zu beheben, müssen wir die Inferenzkosten senken und es Unternehmen erleichtern, einen multi-modalen Ansatz zu verfolgen. Und natürlich kommt alles auf die Daten an. Daten und Datenbesitz werden wichtig sein. Je einzigartiger, qualitativ hochwertiger und verfügbarer die Daten sind, desto nützlicher werden sie sein.

Für viele Probleme können Sie Modelle für eine bestimmte Anwendung optimieren. Der letzte Meilenstein bei KI ist, dass Unternehmen Routing-Logik, Bewertungen und Orchestrierungsschichten auf verschiedenen Modellen aufbauen, sie für verschiedene vertikale Märkte spezialisieren.

Es gab mehrere substantielle Investitionen in diesem Bereich, die uns diesem Ziel näher bringen. Mistals jüngste (und beeindruckende) Finanzierungsrunde ist eine vielversprechende Entwicklung in Richtung einer OpenAI-Alternative. Es gibt auch Unternehmen, die anderen KI-Anbietern helfen, Cross-Model-Multiplexing zu ermöglichen und Inferenzkosten durch spezielle Hardware, Software und Modell-Destillation zu reduzieren, um nur einige Beispiele zu nennen.

Wir werden auch sehen, wie Open-Source-Modelle an Bedeutung gewinnen, und Regierungsbehörden müssen Open-Source-Modelle ermöglichen, um offen zu bleiben. Mit Open-Source-Modellen ist es einfacher, Kontrolle zu haben. Allerdings sind die Leistungslücken immer noch vorhanden.

Ich nehme an, wir werden in einer Welt enden, in der Sie Junior-Modelle haben, die für weniger komplexe Aufgaben auf Skalenebene optimiert sind, während größere superintelligente Modelle als Orakel für Updates dienen und immer mehr Rechenleistung für die Lösung komplexerer Probleme aufwenden. Sie benötigen kein Modell mit einer Billion Parametern, um auf eine Kundenanfrage zu reagieren. Ich vergleiche es damit, dass man nicht einen leitenden Angestellten damit beauftragt, eine Aufgabe zu erledigen, die ein Praktikant erledigen kann. Ähnlich wie wir bei menschlichen Kollegen verschiedene Rollen haben, werden die meisten Unternehmen auch auf eine Sammlung von Modellen mit verschiedenen Komplexitätsgraden angewiesen sein.

Um dieses Gleichgewicht zu erreichen, benötigen Sie eine klare Aufgabenzerlegung und Benchmarking, unter Berücksichtigung von Zeit, Rechenkomplexität, Kosten und erforderlicher Skalierbarkeit. Je nach Anwendungsfall können Sie entsprechend priorisieren. Bestimmen Sie eine Grundwahrheit, ein ideales Ergebnis für den Vergleich, und ein Beispiel für Eingabe- und Ausgabedaten, damit Sie verschiedene Anfragen ausführen und das Ergebnis optimieren können, um dem Grundwahrheits-Ergebnis so nahe wie möglich zu kommen.

Wenn KI-Unternehmen erfolgreich ihre Technologie-Stacks dezentralisieren und auf mehrere Modelle aufbauen können, können wir die Sicherheit und Zuverlässigkeit dieser Tools verbessern und damit die positive Wirkung von KI maximieren. Wir sind nicht mehr in einer Phase, in der theoretische Debatten wichtig sind – es ist Zeit, sich darauf zu konzentrieren, wie man KI einsetzen kann, um diese Technologien effektiver und widerstandsfähiger zu machen.