Citations: Kan Anthropic’s Nieuwe Functie AI’s Vertrouwensprobleem Oplossen?

AI-verificatie is al een tijdje een serieus probleem. Terwijl grote taalmodellen (LLM’s) met een verbazingwekkend tempo zijn geavanceerd, is de uitdaging om hun nauwkeurigheid te bewijzen, onopgelost gebleven.

Anthropic probeert dit probleem op te lossen, en van alle grote AI-bedrijven denk ik dat zij de beste kans hebben.

Het bedrijf heeft Citations uitgebracht, een nieuwe API-functie voor zijn Claude-modellen die de manier verandert waarop de AI-systemen hun antwoorden verifiëren. Deze technologie breekt brondocumenten automatisch af in behapbare brokken en koppelt elke door de AI gegenereerde verklaring terug aan de oorspronkelijke bron – net zoals academische artikelen hun referenties citeren.

Citations probeert een van de meest hardnekkige uitdagingen van AI op te lossen: het bewijzen dat gegenereerde inhoud nauwkeurig en betrouwbaar is. In plaats van complexe prompt-engineering of handmatige verificatie te vereisen, verwerkt het systeem documenten automatisch en biedt het zin-niveau-verificatie voor elke claim die het maakt.

De gegevens laten veelbelovende resultaten zien: een verbetering van 15% in de nauwkeurigheid van citaten in vergelijking met traditionele methoden.

Waarom Dit Nu Relevant Is

AI-vertrouwen is een kritieke barrière geworden voor de adoptie door ondernemingen (evenals individuen). Terwijl organisaties AI-gebruik verder ontwikkelen dan experimenteel gebruik, heeft de onmogelijkheid om AI-uitvoer efficiënt te verifiëren een aanzienlijke bottleneck gecreëerd.

De huidige verificatiesystemen onthullen een duidelijk probleem: organisaties worden gedwongen om te kiezen tussen snelheid en nauwkeurigheid. Handmatige verificatieprocessen schalen niet, terwijl onverifieerde AI-uitvoer te veel risico met zich meebrengt. Deze uitdaging is vooral acuut in gereguleerde industrieën waar nauwkeurigheid niet alleen de voorkeur heeft, maar vereist is.

De timing van Citations komt op een cruciaal moment in de AI-ontwikkeling. Terwijl taalmodellen geavanceerder worden, is de behoefte aan ingebouwde verificatie evenredig toegenomen. We moeten systemen bouwen die met vertrouwen in professionele omgevingen kunnen worden ingezet waar nauwkeurigheid niet onderhandelbaar is.

Technische Architectuur Uiteen Raken

De magie van Citations ligt in de aanpak van documentverwerking. Citations is niet zoals andere traditionele AI-systemen. Deze behandelen documenten vaak als eenvoudige tekstblokken. Met Citations breekt het hulpmiddel bronmateriaal af in wat Anthropic “chunks” noemt. Dit kunnen afzonderlijke zinnen of door de gebruiker gedefinieerde secties zijn, die een granulaire basis voor verificatie creëren.

Hier is de technische uitleg:

Documentverwerking en -beheer

Citations verwerkt documenten op basis van hun formaat. Voor tekstbestanden is er feitelijk geen limiet, behalve de standaardlimiet van 200.000 tokens voor totale aanvragen. Dit omvat uw context, prompts en de documenten zelf.

PDF-beheer is complexer. Het systeem verwerkt PDF’s visueel, niet alleen als tekst, wat leidt tot enkele belangrijke beperkingen:

• Limiet van 32 MB bestandsgrootte
• Maximaal 100 pagina’s per document
• Elke pagina verbruikt 1.500-3.000 tokens

Tokenbeheer

Nu naar de praktische kant van deze limieten. Wanneer u met Citations werkt, moet u uw tokenbudget zorgvuldig overwegen. Hier is hoe het is opgedeeld:

Voor standaardtekst:

• Volledige aanvraaglimiet: 200.000 tokens
• Omvat: Context + prompts + documenten
• Geen aparte kosten voor citatie-uitvoer

Voor PDF’s:

• Hoger tokenverbruik per pagina
• Visuele verwerkingskosten
• Complexere tokenberekening nodig

Citations vs RAG: Belangrijke Verschillen

Citations is geen Retrieval Augmented Generation (RAG)-systeem – en dit onderscheid is belangrijk. Terwijl RAG-systemen zich richten op het vinden van relevante informatie uit een kennisbasis, werkt Citations met informatie die u al heeft geselecteerd.

Denk hier zo over: RAG beslist welke informatie te gebruiken, terwijl Citations ervoor zorgt dat deze informatie nauwkeurig wordt gebruikt. Dit betekent:

• RAG: Beheert informatie-opname
• Citations: Beheert informatie-verificatie
• Gecombineerd potentieel: Beide systemen kunnen samenwerken

Deze architectuurkeuze betekent dat Citations uitblinkt in nauwkeurigheid binnen de verstrekte contexten, terwijl het de strategieën voor opname overlaat aan aanvullende systemen.

Integratiepaden en -prestaties

De instelling is eenvoudig: Citations werkt via Anthropic’s standaard-API, wat betekent dat als u al Claude gebruikt, u al halverwege bent. Het systeem integreert rechtstreeks met de Messages API, waardoor separate bestandsopslag of complexe infrastructuurwijzigingen overbodig zijn.

De prijsstructuur volgt Anthropic’s token-gebaseerde model met een belangrijk voordeel: terwijl u betaalt voor invoertokens van brondocumenten, zijn er geen extra kosten voor de citatie-uitvoer zelf. Dit creëert een voorspelbare kostenstructuur die schaalt met het gebruik.

Prestatiegegevens vertellen een overtuigend verhaal:

• 15% verbetering in de algehele citatie-nauwkeurigheid
• Volledige eliminatie van bron-hallucinaties (van 10% voorkomen tot nul)
• Zin-niveau-verificatie voor elke claim

Organisaties (en individuen) die onverifieerde AI-systemen gebruiken, stellen zichzelf in een nadeel, vooral in gereguleerde industrieën of hoge inzetomgevingen waar nauwkeurigheid cruciaal is.

Als we vooruitkijken, zullen we waarschijnlijk zien:

• Integratie van Citations-achtige functies die standaard worden
• Evolutie van verificatiesystemen voorbij tekst naar andere media
• Ontwikkeling van branche-specifieke verificatiestandaarden

De hele industrie moet echt opnieuw nadenken over AI-betrouwbaarheid en -verificatie. Gebruikers moeten op een punt komen waarop ze elke claim gemakkelijk kunnen verifiëren.