פתרון הקוד הפתוח החדש של Vianai מתמודד עם בעיית ההזיות של AI

אין סוד בכך ש-AI, במיוחד Large Language Models (LLMs), יכול להפיק לעיתים קרובות פלטים לא מדויקים או אפילו מסוכנים. מכונים “הזיות AI”, אנומליות אלו היו מחסום משמעותי עבור חברות הבוחנות אינטגרציה של LLM בגלל הסיכונים הכרוכים בכך, כולל השלכות פיננסיות, תדמיתיות ואפילו משפטיות.

בכדי לטפל בנושא הזה, Vianai Systems, חברה מובילה בתחום AI מבוסס האדם, השיקה את ההצעה החדשה שלה: כלי ה-veryLLM. כלי העבודה הפתוח הזה מיועד להבטיח מערכות AI אמינות, שקופות ומהפכניות יותר עבור שימוש עסקי.

אתגר ההזיות של AI

הזיות אלו, הרואות LLMs מייצרות תוכן כוזב או מגונה, היו בעיה נפוצה. חברות רבות, בשל החשש מההשלכות הפוטנציאליות, נמנעו מלשלב LLMs למערכות העסקיות המרכזיות שלהן. עם זאת, עם השקת veryLLM, תחת רישיון הקוד הפתוח Apache 2.0, Vianai מקווה לבנות אמון ולקדם אימוץ AI על ידי סיפוק פתרון לבעיות אלו.

פירוק כלי ה-veryLLM

בליבתו, כלי ה-veryLLM מאפשר הבנה עמוקה יותר של כל משפט שנוצר על ידי LLM. הוא משיג זאת דרך פונקציות שונות המסווגות הצהרות על בסיס בריכות ההקשר ש-LLMs מאומנים עליהן, כגון ויקיפדיה, Common Crawl וספרים. עם השקת veryLLM הראשונית המסתמכת על מבחר מאמרים מוויקיפדיה, שיטה זו מבטיחה בסיס מוצק עבור הליך האימות של כלי העבודה.

כלי העבודה תוכנן להיות אדפטיבי, מודולרי ותואם לכל LLMs, מה שמקל על שימושו בכל יישום המשתמש ב-LLMs. זה ישפר את השקיפות בתגובות AI-נוצרות ויתמוך במודלים הלשוניים הנוכחיים והעתידיים.

ד”ר וישאל סיקה, מייסד ומנכ”ל Vianai Systems וגם יועץ למרכז ל-AI מבוסס האדם באוניברסיטת סטנפורד, הדגיש את חומרת בעיית ההזיות של AI. הוא אמר, “הזיות AI מהוות סיכונים חמורים עבור חברות, מה שמעכב את אימוצן של AI. כתלמיד AI במשך שנים רבות, זה ידוע היטב שאין אנו יכולים לאפשר למערכות החזקות האלו להיות אטומות לגבי הבסיס של הפלטים שלהן, ואנו צריכים לפתור בעיה זו בדחיפות. ספריית veryLLM שלנו היא צעד ראשון קטן להביא שקיפות וביטחון לפלטים של כל LLM – שקיפות שכל מפתח, מדען נתונים או ספק LLM יכול להשתמש בה ביישומי AI. אנו שמחים להביא יכולות אלו, וטכניקות נגד הזיות רבות אחרות, לחברות ברחבי העולם, ואני מאמין שזהו הסיבה שאנו רואים אימוץ בלתי מוכר של הפתרונות שלנו.”

שילוב veryLLM ב-hila™ Enterprise

hila™ Enterprise, מוצר מצטיין נוסף מ-Vianai, מתמקד בפריסה מדויקת ושקופה של פתרונות שפה עסקיים משמעותיים בתחומים כמו פיננסים, חוזים ומשפט. פלטפורמה זו משלבת את קוד veryLLM, בשילוב עם טכניקות AI מתקדמות אחרות, כדי למזער את הסיכונים הקשורים ל-AI, מה שמאפשר לעסקים לנצל במלואם את הכוח המהפכני של מערכות AI אמינות.

מבט מקרוב על Vianai Systems

Vianai Systems עומדת בראש התחום של AI מבוסס האדם. החברה מתגאה בלקוחות הכוללים חלק מהעסקים היוקרתיים ביותר בעולם. כישורים בלתי מושגים של הצוות ביצירת פלטפורמות עסקיות ויישומים חדשניים מבדילים אותם. הם גם זכו לתמיכה של משקיעים חזוניים ברחבי העולם.