Meta’s Llama 3.2: הגדרה מחדש של AI יוצרנית קוד פתוח עם יכולות On-Device ורב-מודאליות

השקת Llama 3.2 האחרונה של Meta, הגרסה האחרונה בסדרת ה- Llama של מודלי שפה גדולים, היא פיתוח משמעותי בהתפתחותה של תשתית AI יוצרנית קוד פתוח. שדרוג זה מרחיב את היכולות של Llama בשני מימדים. מצד אחד, Llama 3.2 מאפשרת עיבוד נתונים רב-מודאליים – הכוללים תמונות, טקסט ועוד – והופכת יכולות AI מתקדמות לנגישות יותר לקהל רחב. מצד שני, היא מרחיבה את הפוטנציאל שלה לפריסה על מכשירי קצה, ויוצרת הזדמנויות מרגשות ליישומים AI בזמן אמת, על המכשיר. במאמר זה, נחקור התפתחות זו והשלכותיה עבור עתיד פריסת ה- AI.

התפתחות ה- Llama

מסעה של Meta עם Llama החל בתחילת 2023, ובאותה עת, הסדרה חוותה צמיחה ואימוץ מואץ. החל מ- Llama 1, שהיה מוגבל לשימוש לא מסחרי ונגיש רק למוסדות מחקר נבחרים, הסדרה עברה לתחום הקוד הפתוח עם הוצאת Llama 2 ב-2023. השקת Llama 3.1 בתחילת השנה, הייתה צעד גדול קדימה בהתפתחות, שכן היא הציגה את המודל הפתוח הגדול ביותר עם 405 מיליארד פרמטרים, שהוא תואם או עוקף את המתחרים הפרופריטריים. הגרסה האחרונה, Llama 3.2, מוסיפה צעד נוסף על ידי הצגת מודלים קלים ומודלים ממוקדי ראייה, הופכת AI על המכשיר ו- רב-מודאלי לנגישים יותר. התחייבותה של Meta לפתיחות וניתנות לשינוי אפשרה ל- Llama להפוך למודל מוביל בקהילת הקוד הפתוח. החברה סבורה כי בכך שנשארים מחויבים לשקיפות ונגישות, אנו יכולים לנהוג חדשנות AI בצורה יותר יעילה – לא רק עבור מפתחים ועסקים, אלא עבור כולם ברחבי העולם.

הצגת Llama 3.2

Llama 3.2 היא הגרסה האחרונה של סדרת Llama של Meta, כוללת מגוון מודלי שפה שתוכננו לפגוש דרישות שונות. המודלים הגדולים ובינוניים, כולל 90 ו- 11 מיליארד פרמטרים, תוכננו לטפל בנתונים רב-מודאליים, כולל טקסט ותמונות. מודלים אלה יכולים לפרש בצורה יעילה תרשימים, גרפים וצורות אחרות של נתונים חזותיים, מה שהופך אותם למתאימים לבניית יישומים בתחומים כמו ראייה ממוחשבת, ניתוח מסמכים וכלים של מציאות מורחבת. המודלים הקלים, עם 1 מיליארד ו- 3 מיליארד פרמטרים, מיועדים במיוחד למכשירים ניידים. מודלים אלו, המיועדים רק לטקסט, מצטיינים ביכולות ייצור טקסט רב-לשוני וקריאת כלים, מה שהופך אותם ליעילים מאוד עבור משימות כמו ייצור משופר, סיכום ויצירת יישומים מותאמים אישית על מכשירי קצה.

המשמעות של Llama 3.2

שחרור Llama 3.2 יכול להיכר בשני תחומים מרכזיים.

עידן חדש של AI רב-מודאלי

Llama 3.2 היא המודל הפתוח הראשון של Meta שמחזיק יכולות עיבוד טקסט ותמונות. זוהי התפתחות משמעותית בהתפתחותה של AI יוצרנית קוד פתוח, שמאפשרת למודל לנתח ולהגיב לקלטים חזותיים לצד נתונים טקסטואליים. למשל, משתמשים יכולים עכשיו להעלות תמונות ולקבל ניתוחים מפורטים או שינויים על בסיס פקודות שפה טבעית, כגון זיהוי אובייקטים או יצירת כותרות. מארק צוקרברג הדגיש את היכולת הזו במהלך השקת Llama 3.2, ואמר כי היא “מאפשרת הרבה יישומים מעניינים הדורשים הבנה חזותית” . האינטגרציה הזו מרחיבה את הטווח של Llama עבור תעשיות התלויות במידע רב-מודאלי, כולל מסחר, בריאות, חינוך ובידור.

תכונות On-Device לנגישות

אחד המאפיינים הבולטים של Llama 3.2 הוא אופטימיזציה לפריסה על מכשירי קצה, במיוחד בסביבות ניידות. גרסאות המודל הקלות, עם 1 מיליארד ו- 3 מיליארד פרמטרים, תוכננו במיוחד לרוץ על טלפונים חכמים ומכשירי קצה אחרים, המופעלים על ידי Qualcomm ו- MediaTek. יכולת זו מאפשרת למפתחים ליצור יישומים ללא צורך במשאבים חישוביים נרחבים. יתר על כן, גרסאות המודל האלה מצטיינות בעיבוד טקסט רב-לשוני ותומכות באורך הקשר ארוך יותר של 128K טוקנים, מה שמאפשר למשתמשים לפתח יישומים של עיבוד שפה טבעית בשפתם. בנוסף, מודלים אלו כוללים יכולות קריאת כלים, המאפשרות למשתמשים להשתתף ביישומים אינטראקטיביים, כגון ניהול הזמנות ליום ותכנון נסיעות ישירות על המכשיר.

היכולת לפרוס מודלי AI מקומית מאפשרת ל- AI קוד פתוח להתגבר על אתגרים הקשורים לחישוב ענן, כולל בעיות עיכוב, סיכונים ביטחוניים, עלות הפעלה גבוהה ותלות בחיבור לאינטרנט. התקדמות זו יכולה להפוך את התעשיות כמו בריאות, חינוך ולוגיסטיקה, לאפשר להן להשתמש ב- AI ללא הגבלות תשתית ענן או חששות פרטיות, ובמצבים בזמן אמת. זה גם פותח את הדלת ל- AI להגיע לאזורים עם חיבוריות מוגבלת, ומדמוקרטיזציה של גישה לטכנולוגיה מתקדמת.

יתרון תחרותי

Meta דיווחה כי Llama 3.2 ביצעה ביצועים תחרותיים נגד מודלים מובילים מ- OpenAI ו- Anthropic במונחי ביצועים. הם טוענים כי Llama 3.2 עוקפת יריבים כמו Claude 3-Haiku ו- GPT-4o-mini במגוון בדיקות, כולל משימות עקיבה הוראות וסיכום תוכן. יתרון תחרותי זה הוא חיוני עבור Meta, שמטרתה לוודא כי AI קוד פתוח נותרת בשוויון עם מודלים פרופריטריים בתחום המהיר של AI יוצרנית.

Llama Stack: פשטות בפריסת AI

אחד ההיבטים המרכזיים של שחרור Llama 3.2 הוא הצגת Llama Stack. חבילת כלים זו הופכת את העבודה עם מודלי Llama בסביבות שונות, כולל קבוצות יחיד, ב- premise, ענן והתקנים, לקלה יותר עבור מפתחים. Llama Stack כוללת תמיכה ב- RAG ויישומים המאפשרים כלים, ומספקת מסגרת גמישה ומקיפה לפריסת מודלי AI יוצרני. על ידי פשטות בתהליך הפריסה, Meta מאפשרת למפתחים לש