Stability AI Launches StableLM: Open Source ChatGPT Alternatives

Stability AI, היוצרת של תוכנת ייצור תמונות המפורסמת Stable Diffusion, השיקה אוסף של כלים פתוחים למודלי שפה, שתורמים להרחבת תעשיית המודלים הלשוניים הגדולים (LLM). התוספת החדשה הזו מציעה חלופה תקפה ל-ChatGPT של OpenAI, שעשויה להיטיב עם תעשייה שהולכת ונעשית מודאגת מ-OpenAI וממשקיע העיקרי שלה, Microsoft, שהופכים למונופוליסטים מדי.

גרסאות האלפא של חבילת StableLM, הכוללות מודלים עם 3 מיליארד ו-7 מיליארד פרמטרים, כעת זמינות לציבור. מודלים עם 15 מיליארד, 30 מיליארד ו-65 מיליארד פרמטרים נמצאים כעת בפיתוח, בעוד שמודל עם 175 מיליארד פרמטרים מתוכנן לעתיד.

לעומת זאת, GPT-4 של OpenAI בולט בכ-1 טריליון פרמטרים, שהוא שש פעמים יותר מ-GPT-3. עם זאת, Stability AI הדגישה כי כמות הפרמטרים אינה בהכרח מדד מדויק ליעילות של LLM.

“StableLM מאומנת על מאגר ניסיוני חדש, המבוסס על The Pile, אך גדול פי שלוש, המכיל 1.5 טריליון טוקנים של תוכן. עושרו של מאגר זה מאפשר ל-StableLM להציג ביצועים גבוהים במידה מפתיעה במשימות שיחה וקידוד, אפילו עם 3-7 מיליארד הפרמטרים הקטנים יותר.”

החוסניות של מודלי StableLM עדיין צריכה להיבדק. צוות Stability AI התחייב לפרסם יותר מידע על יכולות ה-LLM בדף ה-GitHub שלהם, כולל הגדרות מודל ופרמטרי אימון. הופעתו של מתחרה חזק ופתוח ל-ChatGPT של OpenAI מוחמדת על ידי רוב בכירי התעשייה.

גישה מתוחכמת ומתקדמת לכלים של צד שלישי, כגון BabyAGI ו-AutoGPT, כפי שדווח לאחרונה reported הם מש