Vordenker

Bauen Sie Ihr Unternehmens-KI nicht auf geliehene Zugriffe auf

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen

Alle KI-Anwendungen und Unternehmensbereitstellungen wurden bisher mit der Annahme erstellt, dass der Zugriff auf Frontier-KI-Modelle weiterhin möglich und fast unbegrenzt sein wird. Das war die richtige Einstellung, bis jetzt. Der Trend war, dass die neuen Fähigkeiten von Frontier-Modellen innerhalb von 6 Monaten kommodifiziert oder Open-Source wurden, und daher konzentrierte man sich nur darauf, zukünftige Fähigkeiten so früh wie möglich zu verstehen. Die Unternehmen, Teams oder Personen, die Produkte erstellen konnten, indem sie neue Frontier-Fähigkeiten so früh wie möglich erfassten und anpassten, um Anwendungen zu erstellen, haben gewonnen. Es gibt jedoch mehrere Signale, die darauf hindeuten, dass diese Ära bald enden wird. Die Entscheidung des US-Handelsministeriums, den Zugriff auf Anthropics Fable- und Mythos-Modelle auf US-Staatsbürger zu beschränken, war nur ein erstes Zeichen. Diese Beschränkung wurde jedoch später nach Abstimmung mit Anthropic aufgehoben, was zeigt, wie schnell sich die Zugangsbedingungen ändern können und wie wichtig es ist, dass Unternehmens-KI-Systeme anpassungsfähig sind.

Die vier Gründe, warum der Zugriff auf Frontier-Modelle nicht garantiert ist

Die Einstellung, nur auf Frontier-Modelle zu bauen, kann aufhören, die richtige zu sein, wenn ihre Verfügbarkeit aufhört, garantiert zu sein. Es gibt mindestens vier Gründe, warum das passieren kann. Erstens basieren die Wirtschaftsdaten von Frontier-KI auf subventionierten Preisen, die nicht von Dauer sein werden. Die jüngsten Börsengänge von OpenAI und Anthropic haben sie gezwungen, die Bücher zu öffnen und die tatsächlichen Kosten der derzeitigen gesponserten KI-Dienste offenzulegen, die möglicherweise nicht wirtschaftlich tragbar sind, nachdem sie an die Börse gegangen sind. Es gibt Gerüchte, dass das 200-Dollar-Abonnement, das von Anthropic angeboten wird, dem Unternehmen tatsächlich mehrere Tausend Dollar kostet. Daher werden die Token-Preise voraussichtlich weiter steigen, und die Ära des künstlich billigen Zugriffs auf Frontier-Modelle wird enden.

Zweitens werden Frontier-Modelle nicht billiger im Betrieb. Im Gegensatz zu klassischer Rechenleistung, bei der das Mooresche Gesetz die Kosten jeder gegebenen Operation im Laufe der Zeit stetig reduzierte, scheint KI diesem Trend nicht zu folgen. Die Modelle werden größer, aber auch rechenintensiver. Alle unsere Ingenieure haben ihre Claude-Guthaben innerhalb von 10 Minuten nach der (vorübergehenden) Veröffentlichung von Fable 5 aufgebraucht. Dies könnte darauf hindeuten, dass die nächsten Frontier-Modelle mehr Token, mehr Rechenleistung und mehr Infrastruktur bei jeder Iteration erfordern werden.

Drittens scheint es, dass immer weniger Akteure tatsächlich im Rennen um die wahren Frontier-Modelle bleiben. Mistral, einst Europas Hoffnung, mit den Frontier-Modellen auf dem globalen Spielfeld zu konkurrieren, hat seine Ambitionen auf ein bescheidenes Folgen reduziert. Chinesische Modelle sind schnelle Nachahmer, aber sie bleiben weiterhin hinter den besten Veröffentlichungen der führenden Labore zurück.

Viertens könnten Frontier-Modelle einfach zu gefährlich sein, um in jeder Anwendung verwendet zu werden. Wir verwenden nicht miniaturisierte Kernreaktoren in Autos, teilweise weil dieses Feld stark reguliert ist und es gefährlich ist. Anthropics eigene Experimente zeigen, dass es sehr schwierig ist, ein Frontier-Modell zu kontrollieren, um sicherzustellen, dass es harmlos bleibt, während seine Fähigkeiten erhalten bleiben. Dies könnte eine langfristige Lektion und der zugrunde liegende Grund für die US-Regulierung von Fable 5 sein. In jedem Fall ist es sehr wahrscheinlich, dass Frontier-Modelle als strategische Vermögenswerte von Staaten behandelt werden und daher nicht so frei verfügbar sein werden wie sie es jetzt sind.

Daher können wir in eine Welt eintreten, in der Token-Kosten wichtig sind und in der Frontier-Modelle nicht für alle Anwendungen in allen Ländern verfügbar sind.

Die Anwendungsebene tritt ein

In einer Welt, in der nicht jeder Modellaufruf zum besten verfügbaren Modell geht, wie können wir sicherstellen, dass jede Aufgabe zuverlässig und mit der besten möglichen Leistung gelöst wird? Die Antwort liegt möglicherweise in der sogenannten “Anwendungsebene”.

NVIDIA-CEO Jensen Huang beschrieb KI als eine 5-Schichten-Torte: Energie, Chips, Rechenzentren, Modelle und Anwendungen. Er argumentiert, dass die Anwendungsebene sowohl die wichtigste als auch diejenige ist, die noch weitgehend fehlt.

Für einige Anwendungen, wie Chatbots, ist diese Ebene extrem dünn – im Wesentlichen nur eine Chat-Schnittstelle. Bei anderen, wie fortschrittlichen industriellen und ingenieurtechnischen Anwendungen, ist sie viel wichtiger und kritischer. Sie ist die entscheidende Ebene in der Wertschöpfungskette. Da der Zugriff auf ein bestimmtes Frontier-Modell nicht mehr garantiert ist, besteht die Rolle der Anwendungsebene darin, die Ergebnisse über Modelle hinweg zu vereinheitlichen und die Token-Kosten unter Kontrolle zu halten.

Konkret, wenn ich eine komplexe, mission-kritische Aufgabe wie die Neugestaltung meiner Fertigungskette für ein neues Flugzeugmodell durchführen möchte, werde ich ein leistungsfähiges Frontier-Modell bitten, mir zu helfen. Das Modell könnte in der Lage sein, herauszufinden, wie es das alleine tun kann, ein Planungstool für mich zu erstellen und das Ergebnis allen meinen Teams mitzuteilen. Wenn ich jedoch zu einem leistungsfähigeren Modell wechsele, einem weniger teuren Modell oder einem Modell von einem anderen Anbieter, könnte ich die Leistung oder die Konsistenz in meiner Endausgabe verlieren. In vielen praktischen Fällen in Unternehmensumgebungen ist diese Unvorhersehbarkeit nicht akzeptabel. Hier ist die Rolle der Anwendungsebene kritisch: Anstatt das Modell in einem offenen Raum operieren zu lassen und sich auf seine Rohfähigkeiten zu verlassen, um das Ergebnis zu produzieren, definiert die Anwendungsebene ein klares Canvas, einen eingeschränkten Satz verfügbarer Aktionen und einen definierten Umfang, innerhalb dessen es operieren kann. Das Modell wird nicht mehr aufgefordert, alles von Grund auf zu erstellen, es wird ein gut definiertes Canvas gegeben, das die Wahrscheinlichkeit erhöhen wird, dass jedes Modell gut funktioniert.

Kostenmäßig könnte mein Modell auch entscheiden, sehr niedrige Aktionen auszuführen, um sein Ziel zu erreichen. Es könnte ein Planungsalgorithmus von Grund auf neu schreiben, ein neues Interface für mich erstellen, um seine Arbeit zu visualisieren, oder sogar einen neuen Optimierungslöser entwickeln. Dies könnte jedoch unglaublich token-teuer sein, während gute Richtlinien oder vorgefertigte Tools dem Modell helfen könnten, das gleiche Ergebnis mit weniger Token zu erreichen. Dies ist die Rolle der Anwendungsebene. Die gute Nachricht ist, dass Modelle tendenziell faul sind und nach kürzeren Wegen suchen, sodass wir sie nicht zu sehr einschränken müssen, wenn sie Zugang zu den richtigen Fähigkeiten, Tools und Rechenressourcen haben.

Insgesamt wird eine gute Anwendungsebene dem Modell klare Fähigkeiten, Tools und Richtlinien geben, um zuverlässig und kosteneffektiv zu operieren. Darüber hinaus verbessert dies die Leistung und kontrolliert die Token-Kosten, was auch bedeutet, dass die Abhängigkeit von einem bestimmten Modell abnimmt. Wenn Sie Ihre Intelligenz in die Anwendungsebene einbetten, anstatt in das Modell selbst, wird das zugrunde liegende Modell austauschbar. In vielen Fällen kann dies den Unterschied zwischen experimenteller und skalierbarer Unternehmens-KI ausmachen.

Aufruf zur Aktion für Unternehmensleiter

Über Branchen hinweg treffen wir jeden Tag mit Unternehmensleitern zusammen, die daran arbeiten, ihren KI-Stack zu etablieren. Die meisten Unternehmen beginnen mit einem oder mehreren Frontier-Modell-Anbietern, um ihre notwendige Modell-Ebene in ihrem Stack zu etablieren. Für die Anwendungsebene verlassen sie sich entweder auf selbst erstellte Tools, vollständig gekaufte Fähigkeiten oder eine Kombination aus beidem.

Das Anthropic-Verbot war ein Hinweis darauf, dass dieser Stack über Nacht gestört werden kann. Die Architekturen der Unternehmen müssen bereit sein, wenn dies wieder passiert. Um bereit zu sein, müssen Unternehmen die Geschwindigkeit der Bereitstellung berücksichtigen, aber auch Lösungen aufbauen, die die Auswirkungen von Modelländerungen sowie die steigenden Token-Kosten mildern. Es ist kein einfacher Weg, aber mein Rat wäre:

  • Investieren Sie strategisch und früh in Ihre Anwendung. Unternehmen, die den Zug verpassen, werden immer einen Rückstand gegenüber den frühen Adoptern haben
  • Machen Sie Modell-Agnostizismus zu einem Design-Prinzip, nicht zu einem Workaround
  • Die Kosten für das Wechseln von Modellen sollten keine existenzielle Frage für Ihre Betriebe sein
  • Partner mit spezialisierten Unternehmen, die Modelle benchmarken, die Leistung über mehrere Einrichtungen hinweg validieren und langfristige Leistungsgarantien sicherstellen können.

Die Unternehmen, die das Spiel in der nächsten Unternehmens-KI-Phase gewinnen werden, sind nicht unbedingt diejenigen, die Zugang zu den besten Modellen haben, sondern diejenigen, die die richtige Ebene um sie herum aufgebaut haben.

Pierre ist Chief Executive Officer von Neural Concept, das er 2018 mitgründete. Pierre erhielt einen Ingenieurabschluss in Angewandter Mathematik und einen Master-Abschluss in Operations Research von der École Polytechnique in Frankreich. Nachdem er als Optimierungs- und Machine-Learning-Ingenieur für Credit-Suisse in London gearbeitet hatte, trat er dem Computer-Vision-Laboratorium an der EPFL bei, wo er unter der Aufsicht von Prof. Pascual Fua und Prof. Francois Fleuret promovierte. Seine Forschung konzentrierte sich auf Deep Structured Learning und Variational Inference in der Computer-Vision. Während und nach seiner Promotion arbeitete Pierre als Berater für Machine Learning und Optimierung für mehrere Unternehmen wie Thales, EFCables, Sonalytic (Spotify) und Honywell.