Citeringer: Kan Anthropics nye funktion løse AI’s tillidproblem?

AI-verificering har været et alvorligt problem i lang tid. Mens store sprogmodeller (LLM) har udviklet sig med en fantastisk hastighed, har udfordringen med at bevise deres nøjagtighed forblevet uløst.

Anthropic forsøger at løse dette problem, og af alle de store AI-virksomheder tror jeg, de har den bedste chance.

Virksomheden har udgivet Citeringer, en ny API-funktion til deres Claude-modeller som ændrer, hvordan AI-systemerne verificerer deres svar. Denne teknologi bryder automatisk kilde-dokumenter ned i små, behandlelige stykker og linker hver AI-genereret udsagn tilbage til sin oprindelige kilde – ligesom akademiske artikler citerer deres referencer.

Citeringer forsøger at løse en af AI’s mest vedvarende udfordringer: at bevise, at det genererede indhold er nøjagtigt og troværdigt. I stedet for at kræve kompleks prompt-teknik eller manuel verificering, behandler systemet automatisk dokumenter og giver sætningsniveau-verificering for hver påstand, den gør.

Data viser lovende resultater: en 15% forbedring af citeringsnøjagtighed i forhold til traditionelle metoder.

Hvorfor dette er vigtigt lige nu

AI-tillid er blevet den kritiske barriere for virksomhedsadoption (såvel som individuel adoption). Da organisationer flytter sig fra eksperimentel AI-brug til kerneoperationer, har udløbet af AI-udgangspunkter effektivt skabt en betydelig flaskehals.

De nuværende verificeringssystemer afslører et klart problem: organisationer er tvunget til at vælge mellem hastighed og nøjagtighed. Manuelle verificeringsprocesser kan ikke skaleres, mens uverificerede AI-udgangspunkter medfører for stor risiko. Denne udfordring er særligt akut i regulerede brancher, hvor nøjagtighed ikke blot er foretrukket – det er krævet.

Tidspunktet for Citeringer ankommer i et afgørende øjeblik i AI-udviklingen. Da sprogmodellerne bliver mere avancerede, er behovet for indbygget verificering vokset proportionalt. Vi skal bygge systemer, der kan implementeres med tillid i professionelle miljøer, hvor nøjagtighed er uafvigelig.

Nedbrydning af den tekniske arkitektur

Magien bag Citeringer ligger i dens dokumentbehandlingsmetode. Citeringer er ikke som andre traditionelle AI-systemer. Disse behandler ofte dokumenter som simple tekstblokke. Med Citeringer bryder værktøjet kilde-materialer ned i, hvad Anthropic kalder “stykker”. Disse kan være enkeltstående sætninger eller brugerdefinerede sektioner, som skaber en granuleret grundlag for verificering.

Her er den tekniske gennemgang:

Dokumentbehandling og -håndtering

Citeringer behandler dokumenter forskelligt afhængigt af deres format. For tekstfiler er der næsten ingen begrænsning ud over den standardmæssige 200.000 token-grænse for samle-anmodninger. Dette inkluderer jeres kontekst, prompts og dokumenterne selv.

PDF-håndtering er mere kompleks. Systemet behandler PDF’er visuelt, ikke kun som tekst, hvilket fører til nogle nøgle-begrænsninger:

• 32MB filstørrelsesbegrænsning
• Maksimalt 100 sider pr. dokument
• Hver side forbruger 1.500-3.000 tokens

Tokenhåndtering

Nu til den praktiske side af disse begrænsninger. Når du arbejder med Citeringer, skal du være omhyggelig med din token-budget. Her er, hvordan det bryder ned:

For standard-tekst:

• Full anmodningsgrænse: 200.000 tokens
• Inkluderer: Kontekst + prompts + dokumenter
• Ingen separat betaling for citerings-udgangspunkter

For PDF’er:

• Højere token-forbrug pr. side
• Visuel proces-overhead
• Mere kompleks token-beregning nødvendig

Citeringer vs RAG: Nøgleforskelle

Citeringer er ikke et Retrieval Augmented Generation (RAG)-system – og denne forskel er vigtig. Mens RAG-systemer fokuserer på at finde relevant information fra en videnbase, arbejder Citeringer med information, du allerede har valgt.

Tænk på det på denne måde: RAG beslutter, hvilken information der skal bruges, mens Citeringer sikrer, at informationen bruges nøjagtigt. Dette betyder:

• RAG: Håndterer informationshenting
• Citeringer: Håndterer informationsverificering
• Kombineret potentiale: Begge systemer kan arbejde sammen

Dette arkitekturvalg betyder, at Citeringer excellerer i nøjagtighed inden for givne kontekster, mens det overlader hentingsstrategier til komplementære systemer.

Integrationsveje og -præstation

Opsætningen er ret fremadrettet: Citeringer kører gennem Anthropics standard-API, hvilket betyder, at hvis du allerede bruger Claude, er du halvvejs der. Systemet integrerer direkte med Messages-API, hvilket eliminerer behovet for separat fil-lagring eller komplekse infrastrukturændringer.

Prisstrukturen følger Anthropics token-baserede model med en vigtig fordel: mens du betaler for input-tokens fra kilde-dokumenter, er der ingen ekstra betaling for citerings-udgangspunkterne selv. Dette skaber en forudsigelig omkostningsstruktur, der skalerer med brugen.

Præstationsmetrikkerne fortæller en overbevisende historie:

• 15% forbedring af samlet citeringsnøjagtighed
• Komplet eliminering af kilde-hallucinationer (fra 10% forekomst til nul)
• Sætningsniveau-verificering for hver påstand

Organisationer (og individer) der bruger uverificerede AI-systemer finder sig selv i en ulempe, især i regulerede brancher eller højrisiko-miljøer, hvor nøjagtighed er afgørende.

Settende fremad, er vi sandsynligvis til at se:

• Integration af Citeringer-lignende funktioner bliver standard
• Udvikling af verificeringssystemer ud over tekst til andre medier
• Udvikling af branche-specifikke verificeringsstandarder

Hele branchen har virkelig brug for at genoverveje AI-tillid og -verificering. Brugere har brug for at nå et punkt, hvor de kan verificere hver påstand med lethed.