Citations : La nouvelle fonction d’Anthropic peut-elle résoudre le problème de confiance de l’IA ?

La vérification de l’IA a été un problème sérieux depuis un certain temps. Alors que les modèles de langage à grande échelle (LLM) ont évolué à un rythme incroyable, le défi de prouver leur exactitude est resté sans solution.

Anthropic tente de résoudre ce problème, et parmi toutes les grandes entreprises d’IA, je pense qu’ils ont la meilleure chance.

L’entreprise a lancé Citations, une nouvelle fonctionnalité d’API pour ses modèles Claude qui change la façon dont les systèmes d’IA vérifient leurs réponses. Cette technologie divise automatiquement les documents source en morceaux digestibles et relie chaque énoncé généré par l’IA à sa source originale – semblable à la façon dont les articles universitaires citent leurs références.

Citations tente de résoudre l’un des défis les plus persistants de l’IA : prouver que le contenu généré est exact et digne de confiance. Plutôt que d’exiger une ingénierie de prompt complexe ou une vérification manuelle, le système traite automatiquement les documents et fournit une vérification de source au niveau de la phrase pour chaque affirmation qu’il fait.

Les données montrent des résultats prometteurs : une amélioration de 15 % de l’exactitude des citations par rapport aux méthodes traditionnelles.

Pourquoi cela compte maintenant

La confiance en l’IA est devenue la principale barrière à l’adoption des entreprises (ainsi qu’à l’adoption individuelle). Alors que les organisations passent d’une utilisation expérimentale de l’IA à des opérations de base, l’incapacité à vérifier les sorties de l’IA de manière efficiente a créé un goulet d’étranglement important.

Les systèmes de vérification actuels révèlent un problème clair : les organisations sont obligées de choisir entre la vitesse et l’exactitude. Les processus de vérification manuelle ne sont pas évolutifs, tandis que les sorties de l’IA non vérifiées comportent trop de risques. Ce défi est particulièrement aigu dans les industries réglementées où l’exactitude n’est pas seulement préférable – elle est requise.

Le moment de l’arrivée de Citations est crucial dans le développement de l’IA. Alors que les modèles de langage deviennent plus sophistiqués, le besoin de vérification intégrée a augmenté proportionnellement. Nous devons construire des systèmes qui peuvent être déployés avec confiance dans des environnements professionnels où l’exactitude est non négociable.

Décortiquer l’architecture technique

La magie de Citations réside dans son approche de traitement de documents. Citations n’est pas comme les autres systèmes d’IA traditionnels. Ces derniers traitent souvent les documents comme de simples blocs de texte. Avec Citations, l’outil divise les matériaux source en ce que Anthropic appelle des “morceaux”. Ceux-ci peuvent être des phrases individuelles ou des sections définies par l’utilisateur, ce qui crée une fondation granulaire pour la vérification.

Voici la décomposition technique:

Traitement et gestion de documents

Citations traite les documents différemment en fonction de leur format. Pour les fichiers texte, il n’y a essentiellement aucune limite au-delà de la limite standard de 200 000 jetons pour les demandes totales. Cela inclut votre contexte, vos invites et les documents eux-mêmes.

La gestion des PDF est plus complexe. Le système traite les PDF visuellement, et non seulement comme du texte, ce qui conduit à certaines contraintes clés:

• Limite de taille de fichier de 32 Mo
• Maximum 100 pages par document
• Chaque page consomme 1 500 à 3 000 jetons

Gestion des jetons

En passant au côté pratique de ces limites. Lorsque vous travaillez avec Citations, vous devez considérer soigneusement votre budget de jetons. Voici comment cela se décompose:

Pour le texte standard:

• Limite de demande complète: 200 000 jetons
• Inclut: Contexte + invites + documents
• Aucun frais supplémentaire pour les sorties de citation

Pour les PDF:

• Consommation de jetons plus élevée par page
• Surcharge de traitement visuel
• Calcul de jetons plus complexe nécessaire

Citations vs RAG : Les principales différences

Citations n’est pas un système de Génération augmentée de récupération (RAG) – et cette distinction est importante. Alors que les systèmes RAG se concentrent sur la recherche d’informations pertinentes à partir d’une base de connaissances, Citations travaille sur les informations que vous avez déjà sélectionnées.

Pensez-y de cette façon: RAG décide quelles informations utiliser, tandis que Citations s’assure que les informations sont utilisées avec exactitude. Cela signifie:

• RAG: Gère la récupération d’informations
• Citations: Gère la vérification d’informations
• Potentiel combiné: Les deux systèmes peuvent fonctionner ensemble

Ce choix d’architecture signifie que Citations excelle dans l’exactitude dans les contextes fournis, tout en laissant les stratégies de récupération à des systèmes complémentaires.

Parcours d’intégration et performances

La configuration est simple: Citations fonctionne via l’API standard d’Anthropic, ce qui signifie que si vous utilisez déjà Claude, vous êtes à mi-chemin. Le système s’intègre directement à l’API de messages, éliminant ainsi le besoin d’un stockage de fichiers distinct ou de modifications d’infrastructure complexes.

La structure de tarification suit le modèle basé sur les jetons d’Anthropic avec un avantage clé : tandis que vous payez pour les jetons d’entrée à partir des documents source, il n’y a pas de frais supplémentaire pour les sorties de citation elles-mêmes. Cela crée une structure de coûts prévisible qui évolue avec l’utilisation.

Les métriques de performance racontent une histoire convaincante:

• Amélioration de 15 % de l’exactitude globale des citations
• Élimination complète des hallucinations de source (de 10 % d’apparition à zéro)
• Vérification au niveau de la phrase pour chaque affirmation

Les organisations (et les individus) utilisant des systèmes d’IA non vérifiés se trouvent désavantagés, en particulier dans les industries réglementées ou les environnements à hauts enjeux où l’exactitude est cruciale.

En regardant vers l’avenir, nous sommes susceptibles de voir:

• Intégration de fonctionnalités similaires à Citations devenant la norme
• Évolution des systèmes de vérification au-delà du texte pour d’autres médias
• Développement de normes de vérification spécifiques à l’industrie

L’ensemble de l’industrie a vraiment besoin de repenser la fiabilité et la vérification de l’IA. Les utilisateurs doivent arriver à un point où ils peuvent vérifier chaque affirmation avec facilité.