Citeringar: Kan Anthropics nya funktion lösa AI:s tillförlitlighetsproblem?

AI-verifiering har varit ett allvarligt problem under en längre tid. Medan stora språkmodeller (LLM) har utvecklats i en otrolig takt, har utmaningen att bevisa deras noggrannhet förblivit olöst.

Anthropic försöker lösa detta problem, och av alla stora AI-företag tror jag att de har den bästa chansen.

Företaget har släppt Citeringar, en ny API-funktion för sina Claude-modeller som förändrar hur AI-systemen verifierar sina svar. Denna teknik bryter automatiskt ner källhandlingar i smälbara bitar och länkar varje AI-genererad uttalande tillbaka till dess ursprungliga källa – liknande hur akademiska artiklar citerar sina referenser.

Citeringar försöker lösa en av AI:s mest bestående utmaningar: att bevisa att det genererade innehållet är korrekt och tillförlitligt. Istället för att kräva komplexa prompt-tekniker eller manuell verifiering, bearbetar systemet automatiskt handlingar och tillhandahåller meningsnivå-verifiering för varje påstående det gör.

Data visar lovande resultat: en 15-procentig förbättring av citeringsnoggrannhet jämfört med traditionella metoder.

Varför detta är viktigt just nu

AI-tillförlitlighet har blivit den kritiska barriären för företagsanvändning (samt individuell användning). När organisationer flyttar bortom experimentell AI-användning och in i kärnverksamhet, har oförmågan att verifiera AI-utdata effektivt skapat en betydande flaskhals.

De nuvarande verifieringssystemen avslöjar ett tydligt problem: organisationer tvingas välja mellan hastighet och noggrannhet. Manuella verifieringsprocesser skalar inte, medan overifierade AI-utdata bär för stor risk. Denna utmaning är särskilt akut i reglerade branscher där noggrannhet inte bara är önskvärd – den är krävande.

Citeringars timing anländer vid en kritisk punkt i AI-utvecklingen. När språkmodellerna blir mer avancerade, har behovet av inbyggd verifiering ökat proportionellt. Vi behöver bygga system som kan distribueras med tillförsikt i professionella miljöer där noggrannhet är icke-förhandlingsbar.

Teknisk arkitektur

Citeringars magi ligger i dess dokumentbearbetningsmetod. Citeringar är inte som andra traditionella AI-system. Dessa behandlar ofta handlingar som enkla textblock. Med Citeringar bryter verktyget ner källmaterial i vad Anthropic kallar “bitar”. Dessa kan vara enskilda meningar eller användardefinierade sektioner, vilket skapar en granulär grund för verifiering.

Här är den tekniska genomgången:

Dokumentbearbetning och hantering

Citeringar bearbetar handlingar olika beroende på deras format. För textfiler finns det i princip ingen gräns utöver den standardmässiga 200 000 token-gränsen för totala förfrågningar. Detta inkluderar er kontext, prompt och handlingarna själva.

PDF-hantering är mer komplex. Systemet bearbetar PDF:er visuellt, inte bara som text, vilket leder till vissa nyckelbegränsningar:

• 32MB filstorleksgräns
• Maximalt 100 sidor per dokument
• Varje sida förbrukar 1 500-3 000 token

Tokenhantering

Nu till den praktiska sidan av dessa begränsningar. När du arbetar med Citeringar måste du överväga din tokenbudget noggrant. Här är hur det bryter ner:

För standardtext:

• Fullständig förfrågningsgräns: 200 000 token
• Inkluderar: Kontext + prompt + handlingar
• Inga extra avgifter för citeringsutdata

För PDF:er:

• Högre tokenförbrukning per sida
• Visuell bearbetningsöverhuvud
• Mer komplex tokenberäkning behövs

Citeringar vs RAG: Nyckelskillnader

Citeringar är inte ett Retrieval Augmented Generation (RAG)-system – och denna distinktion är viktig. Medan RAG-system fokuserar på att hitta relevant information från en kunskapsbas, fungerar Citeringar med information du redan har valt.

Tänk på det så här: RAG bestämmer vilken information som ska användas, medan Citeringar säkerställer att informationen används korrekt. Detta innebär:

• RAG: Hanterar informationsåtervinning
• Citeringar: Hanterar informationsverifiering
• Kombinerad potential: Båda systemen kan fungera tillsammans

Detta arkitekturval innebär att Citeringar excellerar i noggrannhet inom tillhandahållna sammanhang, medan det lämnar återvinningstrategier till kompletterande system.

Integrationsvägar och prestanda

Inställningen är enkel: Citeringar körs via Anthropics standard-API, vilket innebär att om du redan använder Claude, är du halvvägs där. Systemet integreras direkt med Messages API, vilket eliminerar behovet av separat fil lagring eller komplexa infrastrukturändringar.

Prismodellen följer Anthropics tokenbaserade modell med en viktig fördel: medan du betalar för in-token från källhandlingar, finns det ingen extra avgift för citeringsutdata i sig. Detta skapar en förutsägbar kostnadsstruktur som skalar med användning.

Prestandamått berättar en övertygande historia:

• 15-procentig förbättring av total citeringsnoggrannhet
• Fullständig eliminering av källhallucinationer (från 10-procentig förekomst till noll)
• Meningnivå-verifiering för varje påstående

Organisationer (och individer) som använder overifierade AI-system hittar sig själva i en nackdel, särskilt i reglerade branscher eller högriskmiljöer där noggrannhet är avgörande.

Vi kan förvänta oss att se:

• Integration av Citeringar-liknande funktioner blir standard
• Utveckling av verifieringssystem bortom text till andra medier
• Utveckling av branschspecifika verifieringsstandarder

Hela branschen behöver verkligen omvärdera AI-tillförlitlighet och verifiering. Användare behöver komma till en punkt där de kan verifiera varje påstående med lätthet.