Modele i platformy AI

Backboard ustanawia nowy globalny standard pamięci AI — skok w kierunku prawdziwej sztucznej inteligencji agencji

mm
Dodaj Unite.AI do preferowanych źródeł w Google

Backboard przekroczył ważną granicę dla systemów sztucznej inteligencji, demonstrując, że pamięć może być traktowana jako podstawowa infrastruktura, a nie kruchy dodatek. Firma ogłosiła, że obecnie prowadzi oba główne benchmarki pamięci AI, LoCoMo i LongMemEval, stając się pierwszą platformą, która to osiągnęła podczas niezależnych i akademickich metod oceny.

W niezależnej ocenie przeprowadzonej przez NewMathData, Backboard osiągnął 93,4 procent dokładności w LongMemEval, co jest najwyższym publicznie zgłoszonym wynikiem do tej pory, przy zachowaniu oryginalnej specyfikacji benchmarku. Ten wynik opiera się na wcześniej opublikowanym wyniku 90,1 procent na LoCoMo, umieszczając Backboard wśród bardzo niewielkiej grupy systemów, które mogą utrzymać zarówno precyzję krótkoterminową, jak i kontekstualną ciągłość długoterminową.

Warto zauważyć, że recenzenci zidentyfikowali wiele przypadków, w których odpowiedzi Backboarda zostały oznaczone jako niepoprawne, pomimo tego, że były one bardziej kontekstualnie dokładne niż oczekiwane odpowiedzi benchmarku. W tych przypadkach system uwzględnił już istniejące informacje faktograficzne w interakcji, zamiast przestrzegać węższej interpretacji podpowiedzi. W rezultacie, zgłoszony wynik reprezentuje konserwatywną granicę, a nie górny limit wydajności.

Dlaczego pamięć stała się czynnikiem ograniczającym w AI

Większość nowoczesnych systemów AI nadal zachowuje się tak, jakby nie miały prawdziwej przeszłości. Chociaż duże modele językowe są doskonałe w generowaniu płynnych odpowiedzi, mają tendencję do zapominania kontekstu, gdy sesja kończy się lub okno podpowiedzi wypełnia. To ograniczenie zmusza deweloperów do odbudowy stanu za pomocą haków odzyskiwania, inżynierii podpowiedzi lub kruchych łańcuchów narzędzi, które często ulegają awariom, gdy systemy stają się bardziej złożone.

Pamięć nie jest tylko sprawą przypomnienia. W praktycznych wdrożeniach pamięć określa, czy system AI może pozostać spójny w czasie, koordynować zadania i budować zaufanie z użytkownikami. Bez trwałej pamięci systemy resetują, halucynują, lub sprzeczają się. Gdy AI przechodzi od interakcji jednorazowych do długotrwałych przepływów pracy, pamięć stała się głównym czynnikiem ograniczającym.

Backboard podejście to problem, traktując pamięć jako pierwszorzędna infrastrukturę. Zamiast montowania pamięci na warstwie aplikacji, integruje trwałość, osadzanie, odzyskiwanie i orchestrację w zjednoczonej platformie dostępnej za pośrednictwem jednego API.

Podejście systemowe, a nie dostosowanie do benchmarku

Backboard nie zaprojektował swojej architektury, aby ścigać wyniki benchmarku. Oceny były albo inicjowane niezależnie, albo wykorzystywane wewnętrznie, aby zrozumieć, jak system porównuje się do badań akademickich. Rezultat ten odzwierciedla zachowanie systemu w warunkach rzeczywistych, a nie optymalizację zadaniami.

Ta różnica jest ważna, ponieważ większość benchmarków mierzy zachowanie modelu w izolacji, podczas gdy rzeczywiste systemy AI składają się z wielu ruchomych części. Wyniki Backboarda sugerują, że wydajność pamięci nie jest wyłącznie funkcją rozmiaru modelu lub siły obliczeniowej, ale tego, jak pamięć jest strukturyzowana, aktualizowana i udostępniana w czasie.

Platforma łączy trwałą pamięć długoterminową, rodzime osadzanie i wektorowanie, wbudowane generowanie z uzupełnieniem odzyskiwania, współdzieloną pamięć między agentami i dostęp do ponad 17 000 dużych modeli językowych, w tym obsługę własnego klucza. Poprzez ujednolicenie tych elementów, Backboard usuwa potrzebę, aby przedsiębiorstwa zszywały składniki open-source, które często zawodzą w produkcji.

Czynienie agencji AI praktycznym

Zainteresowanie agencją AI nadal rośnie, ale większość wdrożeń ma trudności z przeniesieniem poza demonstracje. Powód jest prosty. Agenci bez współdzielonej, trwałej pamięci nie mogą skutecznie koordynować. Rozpadają się, tracą kontekst i zachowują się nieprzewidywalnie, gdy interakcje rozciągają się w czasie.

Backboard umożliwia trwałą, współdzieloną pamięć między agentami, nawet gdy agenci opierają się na różnych modelach podstawowych. Gdy pamięć jest niezawodna, zachowanie agencji pojawia się naturalnie, a nie jest skryptowane. Systemy mogą pamiętać poprzednie decyzje, utrzymywać ciągłość między sesjami i koordynować działania bez ciągłego ponownego podpowiadania.

Podstawowa struktura pamięci platformy jest zaprojektowana, aby zachować spójność czasową, a nie odtwarzać stan przez statyczne grafy lub powtarzane odzyskiwanie. To pozwala systemom AI pozostać spójnymi i audytowalnymi, gdy rosną w złożoności.

Zbudowany dla systemów, które nie mogą sobie pozwolić na zapominanie

Architektura Backboarda opiera się na doświadczeniu jej założyciela i dyrektora generalnego, Roba Imbeaulta, który wcześniej pomagał budować Assent od wczesnego etapu startupu do globalnej platformy przedsiębiorstwa wartej ponad 1,4 miliarda dolarów. W Assent systemy, nad którymi pracował Imbeault, były głęboko osadzone w operacjach klientów, wspierając zgodność regulacyjną i złożone przepływy łańcucha dostaw, gdzie ciągłość, poprawność i zaufanie były niepodważalne.

Doświadczenie to ukształtowało wyraźne przekonanie. Najcenniejsza infrastruktura rzadko jest efektowna. Jest to infrastruktura, która działa cicho, konsekwentnie i przez długi czas. W takich środowiskach systemy nie mogą resetować, gdy kontekst zostaje utracony. Jeśli stan znika lub zaufanie ulega erozji, system zawodzi operacyjnie, a nie tylko technicznie.

Imbeault dostrzegł strukturalną niezgodność w nowoczesnej AI. Podczas gdy duże modele językowe rozwijały się szybko, pozostały one fundamentalnie pozbawione stanu. Kontekst znikał między sesjami, zmuszając deweloperów do odtwarzania pamięci za pomocą kruchych łańcuchów podpowiedzi i warstw odzyskiwania. Takie podejścia mogą działać w demonstracjach, ale zawodzą, gdy systemy AI są oczekiwane, aby działać nieprzerwanie, koordynować między agentami i ewoluować w czasie.

Backboard został zbudowany, aby zamknąć tę lukę. Pamięć jest traktowana jako trwała infrastruktura, a nie logika aplikacji, pozwalając systemom AI na utrzymanie stanu między interakcjami, modelami i agentami. Koncentracja na trwałości, poprawności i długoterminowej niezawodności odzwierciedla przekonanie, które powstało jeszcze przed powstaniem Backboarda: w środowiskach produkcyjnych awarie pamięci nie są drobnymi wadami, ale ryzykiem systemowym.

To podejście leży u podstaw filozofii projektowej Backboarda. Celem nie jest pokazywanie inteligencji w izolowanych momentach, ale umożliwienie systemom AI, które zachowują się jak niezawodne oprogramowanie, nawet gdy złożoność rośnie i horyzonty czasowe się wydłużają.

Co to oznacza dla przyszłości AI

Szersze implikacje wyników Backboarda polegają na tym, że następna faza postępu AI nie będzie napędzana wyłącznie przez większe modele lub dłuższe okna kontekstowe. Będzie napędzana przez systemy, które mogą pamiętać, rozumieć i ewoluować w czasie.

Gdy przedsiębiorstwa wdrażają AI w obszarach takich jak wsparcie klienta, operacje, badania i zgodność, trwała pamięć staje się podstawą zaufania i skalowalności. Platformy, które rozwiązują pamięć na poziomie infrastruktury, zdefiniują, jak agencja AI przechodzi od eksperymentów do codziennego użycia.

Z architekturą pamięci teraz zwalidowaną w obu benchmarkach akademickich i niezależnych, Backboard zwraca uwagę na pomoc zespołom w lepszym zrozumieniu i ocenianiu zachowania systemów AI w warunkach rzeczywistych. Nadchodząca funkcja Switchboard ma na celu uczynienie złożonych konfiguracji AI bardziej przejrzystymi i przewidywalnymi.

Przyszłość AI będzie kształtowana mniej przez sprytne sztuczki podpowiedzi, a bardziej przez systemy, które mogą być ufundowane w czasie. Pamięć jest podstawą tej zmiany, a najnowsze wyniki Backboarda sugerują, że ta podstawa jest w końcu kształtowana.

Antoine jest wizjonerskim liderem i współzałożycielem Unite.AI, który jest zmotywowany niezachwianą pasją do kształtowania i promowania przyszłości sztucznej inteligencji i robotyki. Jako serialowy przedsiębiorca, wierzy, że sztuczna inteligencja będzie tak samo przełomowa dla społeczeństwa, jak elektryczność, i często jest złapany na tym, że zachwala potencjał przełomowych technologii i AGI.

Jako futurysta, jest poświęcony badaniu, jak te innowacje ukształtują nasz świat. Ponadto, jest założycielem Securities.io, platformy skupiającej się na inwestowaniu w najnowocześniejsze technologie, które zmieniają przyszłość i przebudowują całe sektory.