Backboard.io präsentiert AI-Infrastruktur-Stack mit Fokus auf Effizienz, Unternehmenskontrolle und souveräne Bereitstellung

Da Unternehmen um die Einführung künstlicher Intelligenz konkurrieren, hat sich die Diskussion zunehmend von der reinen Modellleistung zu einer praktischeren Frage verschoben: Wie können Unternehmen künstliche Intelligenz zu geringeren Kosten einsetzen und gleichzeitig die Kontrolle über ihre Daten behalten? Das in Ottawa ansässige Unternehmen Backboard.io glaubt, dass die Antwort nicht in immer größeren GPU-Clustern liegt, sondern darin, die bestehende künstliche Intelligenz-Infrastruktur erheblich effizienter zu machen.

Am Kanada-Tag stellte das Unternehmen vier wichtige Technologien vor, die sich auf Modellkomprimierung, künstliche Intelligenz-gestützte Softwareentwicklung, Multi-Modell-KI-Zugriff und langfristige KI-Speicherung erstrecken. Während die Ankündigung die kanadischen Wurzeln des Unternehmens hervorhebt, ist die umfassendere Geschichte die von Infrastrukturen, die für Unternehmen konzipiert sind, die ihre KI-Kosten reduzieren und gleichzeitig sensible Workloads innerhalb ihrer eigenen Umgebungen halten möchten.

Bestehende GPUs weiterentwickeln

Vielleicht die technisch bedeutsamste Ankündigung ist BackboardQuant (BBQ), eine Modellkomprimierungstechnologie, die das Unternehmen behauptet, die Größe von KI-Modellen um bis zu 70% reduzieren kann, während die Ausgabequalität nahezu identisch bleibt.

Modellkomprimierung ist zu einem immer wichtigeren Bereich der KI-Forschung geworden, da Unternehmen mit den steigenden Kosten für Inferenz konfrontiert sind. Kleinere Modelle verbrauchen weniger Speicher, benötigen weniger Hardware-Ressourcen und können oft schneller ausgeführt werden, sodass Unternehmen fortschrittliche Modelle bereitstellen können, ohne ständig die GPU-Kapazität erweitern zu müssen.

Laut Backboard.io zeigt internes Testen, dass BBQ bis zu 2,7-mal schnellere Inferenz liefern kann, was effektiv ermöglicht, dass eine einzelne GPU Arbeiten ausführt, die sonst möglicherweise mehrere Beschleuniger erfordern würden. Anstatt bestehende Grundmodelle zu ersetzen, ist die Technologie darauf ausgelegt, sie für Produktionsbereitstellungen zu optimieren.

Wettbewerb in der künstlichen Intelligenz-gestützten Softwareentwicklung

Das Unternehmen stellte auch Backboard Studio vor, eine KI-Coding-Plattform, die direkt auf einen der heutigen wettbewerbsintensivsten KI-Märkte abzielt.

Statt ein eigenes Frontier-Sprachmodell zu entwickeln, verfolgt Backboard einen anderen architektonischen Ansatz. Die Plattform sitzt auf bestehenden Modellen und versucht, die Effizienz durch Orchestrierung, Kontextverwaltung, rekursive Workflows und Token-Optimierung zu verbessern. Entwickler können aus führenden kommerziellen Modellen oder Open-Source-Alternativen wählen, während die Plattform den Projekt-Kontext, die Workflow-Ausführung und die produktionsspezifische Code-Generierung verwaltet.

Backboard behauptet, dass die Plattform Benchmark-Ergebnisse erzielt, die mit denen führender Coding-Assistenten konkurrieren, während der Token-Verbrauch um bis zu 30% reduziert wird, was für Unternehmen, die ihre KI-Betriebskosten verwalten möchten, immer wichtiger wird.

Das Unternehmen betont auch die Flexibilität der Unternehmensbereitstellung. Backboard Studio kann entweder als Cloud-Service oder innerhalb der Infrastruktur eines Unternehmens betrieben werden, sodass proprietärer Quellcode innerhalb der Unternehmensumgebung bleibt und nicht an Drittanbieter von KI-Diensten übertragen wird.

Nash konsolidiert Tausende von KI-Modellen

Ein dritter Bestandteil der Ankündigung ist Nash, eine einheitliche Chat-Anwendung, die Zugriff auf Tausende von Text- und Bild-KI-Modellen über eine einzige Schnittstelle bietet.

Das Konzept behandelt eine wachsende Unternehmensbesorgnis, die als “Schatten-KI” bekannt ist, bei der Mitarbeiter unabhängig von genehmigten Unternehmenssystemen Consumer-KI-Tools verwenden. Anstatt den Einsatz von KI-Tools zu blockieren, positioniert Backboard Nash als zentrale Plattform, die Unternehmen Zugriff auf eine breite Palette von Modellen bietet, während die Kontrolle über Benutzerdaten und organisatorische Erinnerungen aufrechterhalten wird.

Die zugrunde liegende Infrastruktur unterstützt auch Bring Your Own Key (BYOK), adaptive Kontextverwaltung und Routing über Tausende von verfügbaren Modellen über eine einzige Plattform.

Speicher als KI-Infrastruktur behandeln

Ein definierendes technisches Ziel von Backboard seit seiner Gründung war der persistente KI-Speicher.

Große Sprachmodelle bleiben grundlegend zustandslos, was bedeutet, dass Gespräche, Vorlieben und historischer Kontext normalerweise verschwinden, es sei denn, Entwickler bauen zusätzliche Infrastruktur um sie herum. Backboard hat sich als dedizierte Speicherschicht positioniert, die mit verschiedenen KI-Modellen und Anwendungen zusammenarbeitet, anstatt Benutzer in ein einzelnes Ökosystem zu sperren.

Das Unternehmen behauptet, dass sein Speichersystem derzeit auf den LoCoMo- und LongMemEval-Benchmarks rangiert, zwei weithin anerkannte Bewertungen, die die Leistung von langem Kontext und persistentem Speicher messen. Anfang dieses Jahres beschrieb Backboard den Speicher als grundlegende Infrastruktur und nicht nur als weitere Funktion, die auf bestehende Modelle aufgesetzt wird.

Diese Architektur ermöglicht es Unternehmen, die Benutzerhistorie, Vorlieben und kontextuelles Wissen zu bewahren, auch wenn sie zwischen verschiedenen Sprachmodellen wechseln.

KI, die innerhalb von Unternehmensgrenzen bleibt

Über alle vier Ankündigungen hinweg wird eine konsistente Design-Philosophie deutlich: Unternehmen möchten zunehmend KI-Systeme, die unter ihrer eigenen Kontrolle stehen.

Backboards Plattform kann innerhalb der privaten Cloud eines Kunden bereitgestellt werden, sodass Unternehmen die Kontrolle über ihre Daten behalten können, während sie moderne KI-Fähigkeiten nutzen. Dieser Ansatz ist insbesondere für Branchen relevant, die sensible Informationen verarbeiten, wie Gesundheitswesen, Finanzdienstleistungen, Regierung und kritische Infrastruktur, bei denen regulatorische Anforderungen den Einsatz extern gehosteter KI-Dienste oft einschränken.

Anstatt Souveränität allein als nationale Frage zu betrachten, konzentriert sich die Architektur des Unternehmens auf Unternehmenskontrolle – Modelle, Speicher und Anwendungsdaten innerhalb kundenverwalteter Umgebungen zu halten.

Eine wachsende kanadische KI-Infrastruktur-Geschichte

Obwohl ein Großteil der globalen KI-Konversation immer noch auf die Entwickler von Grundmodellen in Silicon Valley konzentriert ist, repräsentiert Backboard eine andere Kategorie von KI-Unternehmen, die an Fahrt gewinnt: Infrastrukturbauer, die bestehende Modelle für Produktionsumgebungen praktischer machen.

Gegründet von Rob Imbeault, der zuvor Mitgründer des kanadischen Unternehmens Assent für Supply-Chain-Software war, hat sich Backboard auf die Verbesserung der Ökonomie und der operativen Eigenschaften von Unternehmens-KI konzentriert, anstatt zu versuchen, das nächste Frontier-Sprachmodell zu bauen. Anfang dieses Jahres hat das Unternehmen eine Vor-Seed-Finanzierungsrunde aufgenommen, um seine KI-Infrastrukturplattform weiterzuentwickeln.

Da die Unternehmens-KI heranreift, können Technologien, die Inferenzkosten reduzieren, den Speicher verbessern, die Multi-Modell-Bereitstellung vereinfachen und selbst gehostete KI-Umgebungen ermöglichen, immer wichtiger werden, neben Fortschritten in der Modellfähigkeit selbst. Backboards neueste Veröffentlichungen spiegeln diesen umfassenderen Wandel wider – von der Konstruktion immer größerer Modelle zur Konstruktion von Infrastrukturen, die Unternehmen helfen, mehr Wert aus den Modellen zu extrahieren, die sie bereits verwenden.