Citations: Kan Anthropic’s nye funktion løse AI’s tillid problem?

AI-verificering har været et alvorligt problem i lang tid. Mens store sprogmodeller (LLM) har udviklet sig i en fantastisk fart, har udfordringen med at bevise deres nøjagtighed forblevet uløst.

Anthropic forsøger at løse dette problem, og af alle de store AI-virksomheder tror jeg, de har den bedste chance.

Virksomheden har udgivet Citations, en ny API-funktion til deres Claude-modeller der ændrer, hvordan AI-systemerne verificerer deres svar. Denne teknologi bryder automatisk kilde-dokumenter ned i fordøjelige bidder og linker hver AI-genereret udsagn tilbage til dens oprindelige kilde – ligesom akademiske artikler citerer deres referencer.

Citations forsøger at løse en af AI’s mest vedvarende udfordringer: at bevise, at det genererede indhold er nøjagtigt og troværdigt. I stedet for at kræve kompleks prompt-engineering eller manuel verificering, processerer systemet automatisk dokumenter og giver sætningsniveau-kildeverificering for hver påstand, den gør.

Data viser lovende resultater: en 15% forbedring af citationsnøjagtighed i forhold til traditionelle metoder.

Hvorfor dette er vigtigt lige nu

AI-tillid er blevet den kritiske barriere for virksomhedsadoption (såvel som individuel adoption). Da organisationer flytter sig ud over eksperimentel AI-brug til kerneoperationer, har udløbet af evnen til at verificere AI-outputs effektivt skabt en betydelig flaskehals.

De nuværende verificeringssystemer afslører et klart problem: organisationer er tvunget til at vælge mellem hastighed og nøjagtighed. Manuelle verificeringsprocesser skalerer ikke, mens uverificerede AI-outputs medfører for stor risiko. Denne udfordring er særligt akut i regulerede brancher, hvor nøjagtighed ikke blot er foretrukket – det er påkrævet.

Tidspunktet for Citations ankommer i et afgørende øjeblik i AI-udviklingen. Da sprogmodeller bliver mere avancerede, er behovet for indbygget verificering vokset proportionalt. Vi skal bygge systemer, der kan implementeres med tillid i professionelle miljøer, hvor nøjagtighed er uafvendelig.

Nedbrydning af den tekniske arkitektur

Magien bag Citations ligger i dens dokumentbehandlings tilgang. Citations er ikke som andre traditionelle AI-systemer. Disse behandler ofte dokumenter som simple tekstblokke. Med Citations bryder værktøjet kilde-materialer ned i, hvad Anthropic kalder “bidder”. Disse kan være enkeltstående sætninger eller brugerdefinerede sektioner, som skaber en granuleret grundlag for verificering.

Her er den tekniske nedbrydning:

Dokumentbehandling og -håndtering

Citations processerer dokumenter forskelligt afhængigt af deres format. For tekstfiler er der næsten ingen begrænsning ud over den standardmæssige 200.000 token-grænse for samleforespørgsler. Dette inkluderer din kontekst, prompts og dokumenterne selv.

PDF-håndtering er mere kompleks. Systemet processerer PDF’er visuelt, ikke kun som tekst, hvilket fører til nogle nøglebegrænsninger:

• 32MB filstørrelsesbegrænsning
• Maksimalt 100 sider per dokument
• Hver side forbruger 1.500-3.000 tokens

Tokenhåndtering

Nu til den praktiske side af disse begrænsninger. Når du arbejder med Citations, skal du være omhyggelig med din token-budget. Her er, hvordan det bryder ned:

For standardtekst:

• Samlet anmodningsgrænse: 200.000 tokens
• Inkluderer: Kontekst + prompts + dokumenter
• Ingen ekstra gebyr for citations-outputs selv

For PDF’er:

• Højere tokenforbrug per side
• Visuel procesoverhead
• Mere kompleks tokenberegning nødvendig

Citations vs RAG: Nøgleforskelle

Citations er ikke et Retrieval Augmented Generation (RAG) system – og denne forskel er vigtig. Mens RAG-systemer fokuserer på at finde relevant information fra en videnbase, fungerer Citations på information, du allerede har valgt.

Tænk på det på denne måde: RAG beslutter, hvilken information der skal bruges, mens Citations sikrer, at informationen bruges nøjagtigt. Dette betyder:

• RAG: Håndterer informationshenting
• Citations: Håndterer informationsverificering
• Samlet potentiale: Begge systemer kan arbejde sammen

Dette arkitekturvalg betyder, at Citations excellerer i nøjagtighed inden for givne kontekster, mens det overlader hentingsstrategier til komplementære systemer.

Integrationsveje og -præstation

Opsætningen er ret fremadrettet: Citations kører gennem Anthropics standard-API, hvilket betyder, at hvis du allerede bruger Claude, er du halvvejs der. Systemet integrerer direkte med Messages API, hvilket eliminerer behovet for separat filopbevaring eller komplekse infrastrukturændringer.

Prismodellen følger Anthropics tokenbaserede model med en vigtig fordel: mens du betaler for input-tokens fra kilde-dokumenter, er der ingen ekstra gebyr for citations-outputs selv. Dette skaber en forudsigelig omkostningsstruktur, der skalerer med brugen.

Præstationsmetrikkerne fortæller en overbevisende historie:

• 15% forbedring af samlet citationsnøjagtighed
• Komplet eliminering af kilde-hallucinationer (fra 10% forekomst til nul)
• Sætningsniveau-verificering for hver påstand

Organisationer (og individer) bruger uverificerede AI-systemer og finder sig selv i en ulempe, især i regulerede brancher eller højrisiko-miljøer, hvor nøjagtighed er afgørende.

Settende fremad, er vi sandsynligvis nødt til at se:

• Integration af Citations-lignende funktioner bliver standard
• Udvikling af verificeringssystemer ud over tekst til andre medier
• Udvikling af branche-specifikke verificeringsstandarder

Hele branchen har virkelig brug for at genoverveje AI’s tillid og verificering. Brugere skal nå et punkt, hvor de kan verificere hver påstand med lethed.