ציטוטים: האם תכונה חדשה של Anthropic יכולה לפתור את בעיית האמינות של AI?

אימות AI היה נושא רציני לזמן מה עכשיו. בעוד מודלי שפה גדולים (LLM) התקדמו בקצב מדהים, אתגר הוכחת דיוקם נותר ללא פתרון.

Anthropic מנסה לפתור את הבעיה, ומבין כל החברות הגדולות של AI, אני חושב שהם היחידים שיכולים לעשות זאת.

החברה הוציאה Citations, תכונה חדשה של API עבור מודלי Claude שמשנה את הדרך בה מערכות AI מאמתות את התגובות שלהן. טכנולוגיה זו מפרקת אוטומטית מסמכי מקור לחלקים קטנים ומחברת כל הצהרה שנוצרה על ידי AI למקור המקורי – דומה לדרך בה מאמרים אקדמיים מצ