אולגה מגורסקאיה, מייסדת ומנכ"לית טולוקה – סדרת ראיונות

אולגה מגורסקיה, מייסדת ומנכ"לית Toloka, מובילה את החברה מאז 2020, והובילה אותה משורשיה המקוריים בתחום תיוג המונים לשחקנית מרכזית בתחום שירותי נתונים מבוססי בינה מלאכותית. לפני שייסדה והובילה את Toloka, היא בילתה יותר מעשור ב-Yandex, שהגיעה לשיאה בתפקיד כראש מחלקת מיקור המונים ופלטפורמות, שם בנתה והרחיבה תשתית תיוג נתונים מבוססת מיקור המונים עבור מוצרי למידת מכונה, כולל חיפוש, קול, דיבור, נהיגה עצמית, ניהול תוכן ועוד. תחת הנהגתה ב-Toloka, החברה מיצבה את עצמה כשותפה גלובלית לנתונים עבור בינה מלאכותית - שילוב של טכנולוגיית למידת מכונה עם מומחיות אנושית לתמיכה בהכשרה, הערכה ובטיחות עבור מודלים וסוכנים גדולים של בינה מלאכותית.

טולוקה היא חברה הולנדית שבסיסה באמסטרדם, המספקת נתונים איכותיים ואורגנים בקפידה לפיתוח בינה מלאכותית, החל מביאורים ותיוג ועד מערכי נתונים מותאמים אישית לכוונון עדין בפיקוח (SFT) ולמידה מחוזקת ממשוב אנושי (RLHF). החברה תומכת במגוון רחב של שיטות - טקסט, תמונה, אודיו, וידאו - ומעסיקה מומחים בתחום לצד קהל עולמי כדי לספק מערכי נתונים מדויקים וניתנים להרחבה להכשרה והערכת סוכני בינה מלאכותית מתקדמים ומודלים של שפה גדולים. השירותים שלהם מסייעים בשיפור יכולות כגון חשיבה, הבנה רב-לשונית, יצירת תמונה/אודיו ובטיחות בינה מלאכותית בתעשיות וביישומים שונים.

בילית שנים בבניית מערכות אנוש בלולאה ב-Yandex לפני שהיית שותף להקמת Toloka בשנת 2020. מה היה הרגע ששכנע אותך שהחברה הזו צריכה להפוך לחברה עצמאית, וכיצד חוויה זו עיצבה את החזון שלך לתפקידה של Toloka בפיתוח בינה מלאכותית?

בשלב מסוים הבנו שטולוקה גדלה מעל ומעבר לחברה המקורית שלה. חוקרי בינה מלאכותית מכל העולם השתמשו בפלטפורמה, והבנו שהחברה יכולה להשיג יותר כישות עצמאית. כתוצאה מכך, טולוקה יכלה להסתמך על הניסיון המצטבר של מאות צוותי בינה מלאכותית שאספו נתוני הדרכה עבור מגוון רחב של פתרונות בינה מלאכותית - החל מחיפוש באינטרנט ועוזרי קול ועד צ'אטבוטים וסוכני בינה מלאכותית של GenAI. מאז שילבנו את המומחיות שלנו בניהול מאמץ אנושי עם בנייה והכשרה של סוכני בינה מלאכותית כדי ליצור את המוצר החדש שלנו, Tendem.

אמרת שהשיבוש האמיתי שלפניך לא יגיע מסוכנים אוטונומיים לחלוטין. מה הוביל אותך למסקנה שסוכנים היברידיים - המשלבים אוטומציה של בינה מלאכותית עם שיקול דעת אנושי - הם המודל שינצח בסופו של דבר?

בעוד שאני מאמין שפתרונות מבוססי בינה מלאכותית בלבד בתחומים רבים יגיעו בקרוב לרמת איכות מדהימה שתספק את צרכי הלקוחות במלואם, תמיד יהיה זנב ארוך של מקרי שימוש שמודלים בסיסיים לעולם לא יותאמו להם. כאן הגישה ההיברידית תעלה על פתרונות מבוססי בינה מלאכותית בלבד וגם על פתרונות מבוססי אדם בלבד בעתיד הנראה לעין. ראינו את אותו דפוס חוזר על עצמו שוב ושוב בעשור האחרון: בינה מלאכותית יכולה להרחיב משימות בצורה יפהפייה, אך היא מתקשה עם ניואנסים, הקשר וסוגי שיקולי השיפוט שחשובים במסגרות עסקיות אמיתיות. אנשי מקצוע רוצים מהירות, אך הם גם זקוקים לאמינות - סוכנים אוטונומיים לחלוטין פשוט לא יכולים להבטיח זאת כיום. מערכות היברידיות מנצחות משום שהן פותרות את שני צידי המשוואה. בינה מלאכותית מטפלת במה שהיא הכי טובה בו: מהירות, מבנה וחזרתיות. מומחיות אנושית ממלאת את הפערים: עמימות, מקרי קצה ופרשנות. כאשר משלבים את השניים באופן טבעי, מקבלים זרימת עבודה שהיא גם מהירה וגם אמינה. זהו המודל שעליו אנשי מקצוע יסתמכו בסופו של דבר.

שמתם לב שבינה מלאכותית מתעלמת מעמימות וחשיבה מרובת מסמכים. אילו סוגי משימות חושפות את המגבלות הללו בצורה הברורה ביותר?

משימות ארוכות טווח – אלו הדורשות סינתזה של מקורות מרובים, יישוב מידע סותר או פירוש הקשר, ושייקח לבני אדם שעות או אפילו ימים להשלמתן – נוטות לחשוף את המגבלות הנוכחיות של הבינה המלאכותית. דוגמאות לכך כוללות מחקרי שוק, ניתוח תחרותי, סיכום מסמכים ארוכים, ניסוח תוכן מקורי משילובים של קלטים או הפקת תובנות התלויות בניואנסים אנושיים לעומת זיהוי תבניות. בינה מלאכותית מצוינת ביצירת מעבר ראשון. אבל ברגע שמשימה דורשת קביעת סדרי עדיפויות, שיקול דעת או יישוב עמימות, האמינות יורדת בחדות. כאן מומחים אנושיים חיוניים.

אנשי מקצוע רבים משתמשים בבינה מלאכותית אך עדיין אינם סומכים עליה לחלוטין. כיצד הגישה שלך בונה מחדש את הביטחון בהאצלת עבודה אמיתית למערכות המסייעות בבינה מלאכותית?

אמון משתפר כאשר אנשים מפסיקים לתקן את פלט הבינה המלאכותית. הגישה שלנו בונה מחדש את הביטחון על ידי שילוב בני אדם בתהליך העבודה מההתחלה, ולא כנתיב הסלמה כאשר הבינה המלאכותית נכשלת. כל משימה ב-Tendem עוברת דרך מנהל פרויקטים של בינה מלאכותית שמחליט מה צריך להיות אוטומטי ומה דורש מומחיות אנושית. לאחר מכן, גם בדיקות אוטומטיות וגם אבטחת איכות אנושית מבטיחות שהפלט הסופי מדויק, שלם ומוכן לעסקים. עבור אנשי מקצוע, משמעות הדבר היא שהם יכולים להאציל עבודה ולצפות בפועל לתוצאה מאומתת, לא לטיוטה שהם צריכים לתקן.

אילו מנגנונים מבטיחים שמומחים אנושיים בלולאה ישמרו על פלט באיכות גבוהה מבלי להאט את זרימת העבודה?

שני דברים מאפשרים זאת:

• התמחות בקנה מידה גדול. המומחים ברשת של טנדם עוברים סינון, הכשרה ומותאמים מראש על סמך מומחיות בתחום. הם אינם פרילנסרים כלליים שמנסים להסתגל תוך כדי תנועה - הם כבר מוסמכים לסוגים ספציפיים של משימות.
• אבטחת איכות שכבתית וניתוב חכם. בינה מלאכותית מטפלת בשלבים הבסיסיים, כך שמומחים אנושיים מתמקדים רק בחלקים הדורשים שיקול דעת. לאחר מכן, ישנה שכבה שנייה של אבטחת איכות אוטומטית ואימות אנושי במידת הצורך. זה שומר על מעורבות בני האדם במקום בו הם מוסיפים את הערך הרב ביותר, ולא במקום בו הם יוצרים צווארי בקבוק.

התוצאה היא מהירות שמתחרה באוטומציה, עם דיוק שמתחרה בביקורות מומחים.

בתעשיות הדורשות דיוק ועמידה בתקנים, כיצד מערכות היברידיות יכולות להציע יכולת אימות וביקורת שעסקים יכולים לסמוך עליהן?

מערכות היברידיות מאפשרות באופן טבעי יכולת ביקורת מכיוון שכל שלב בתהליך העבודה עובר מעקב, ייחוס ונבדק איכות. אתם יודעים אילו חלקים עברו אוטומציה, אילו בוצעו על ידי מומחים מאומתים, ואילו שלבי אבטחת איכות אימתו את הפלט. בתעשיות מוסדרות מאוד, תהליך זה הופך לחיוני. אתם כבר לא מסתמכים על החלטה של ​​בינה מלאכותית בקופסה שחורה; יש לכם שרשרת ניתנת לאימות של שיפוט, תיקונים ואישורים. זה מה שהופך מערכות היברידיות למתאימות לתחומים שבהם דיוק ותאימות אינם יכולים להיות אופציונליים.

אילו קטגוריות של עבודת ידע אתה צופה שיעברו תחילה לסוכנים היברידיים, ואילו יהיו האיטיות ביותר לאמץ מודל זה?

בסך הכל, אני חושב שהגישה ההיברידית קלה הרבה יותר לאימוץ מאשר גישה המבוססת על בינה מלאכותית בלבד, ולכן אנו צופים שכמעט כל תחום יכול להיות מכוסה עם מודל זה - ההבדל יהיה רק ​​ביחס בין מעורבות בינה מלאכותית לבין מעורבות אנושית. המאמצים הראשונים הם תפקידים שבהם מהירות ודיוק חשובים כאחד, אך העבודה עדיין חוזרת על עצמה מאוד. אנו כבר רואים משיכה חזקה מייעוץ, שיווק, תפעול מכירות, מחקר ויצירת תוכן. התחומים המורכבים ביותר (וכנראה המעניינים ביותר) לפתרון הם אלו הקרובים יותר לעולם הפיזי, כמו אדריכלות ובנייה. אבל אני רואה גם דרך טכנולוגית ברורה שתביא אותנו לשם.

מנקודת מבט תפעולית, כיצד ארגונים מרוויחים ממעבר מעבודה המנוהלת על ידי פרילנסרים לסוכנים היברידיים?

סוכנים היברידיים מבטלים שניים מחוסר היעילות הגדולים ביותר בעבודה המנוהלת על ידי פרילנסרים: תקורות ניהול ואיכות לא עקבית. ארגונים ואנשי מקצוע אינם צריכים עוד לגייס, לבדוק, לתדרך, לנהל או לתקן פרילנסרים. הסוכן ההיברידי מטפל בתזמור זרימת עבודה באופן אוטומטי, ומקצה את השילוב הנכון של בינה מלאכותית ומומחיות אנושית לכל שלב. זה מקצר את זמן התגובה, מתקן את איכות הפלט ומגדיל את העבודה מבלי להגדיל את מספר העובדים. בקיצור: אתם מקבלים את מהירות האוטומציה עם האמינות של צוות מומחים, אבל בלי לנהל אף אחד מהם.

ככל שמערכות היברידיות צוברות תאוצה במיינסטרים, איזו השפעה אתה צופה שתהיה לשינוי הזה על כלכלת הפרילנסרים וההופעות הרחבה יותר?

אנחנו חושבים שזה יעצב מחדש את כלכלת הפרילנסרים, לא יחליף אותה. במקום שפרילנסרים יבזבזו זמן על משימות ברמה נמוכה וחוזרות על עצמן, הם יכולים להתחבר למערכות היברידיות כמומחים בתחומים ספציפיים. העבודה הופכת מובנית יותר: בעלת ערך גבוה יותר, צפויה יותר ויציבה יותר. במקום לרדוף אחר פרויקטים לא עקביים, מומחים יכולים לתרום בקנה מידה גדול באמצעות פלטפורמות כמו Tendem, שבהן הכישורים שלהם מותאמים למשימות הנכונות ונתמכים על ידי מערכות בינה מלאכותית שמסירות עבודה עמוסה.

במבט קדימה, כיצד תיראה "האצלת סמכויות לבינה מלאכותית" ברגע שסוכנים היברידיים יהפכו לסטנדרט בעבודה דיגיטלית?

האצלת סמכויות תרגיש פחות כמו "שימוש בכלי" ויותר כמו העברת עבודה לצוות מוכשר. אתם תתארו את התוצאה הרצויה, והסוכן ההיברידי יפרק אותה, ינתב משימות משנה, יפעיל את השילוב הנכון של בינה מלאכותית ומומחיות אנושית, יאמת את התוצאות ויספק מוצר מוגמר - הכל תוך שעות. המעבר יהיה משימוש בבינה מלאכותית כעוזר שרטוט, לאמון בבינה מלאכותית כמנהל פרויקטים שמפקח על זרימת עבודה שלמה. זה הזמן שבו מתרחשת האצלת סמכויות אמיתית: כאשר אנשי מקצוע יכולים לסמוך על המערכת שתספק את התפוקה הסופית, לא רק נקודת התחלה.

תודה על הראיון הנהדר, קוראים שרוצים ללמוד עוד צריכים לבקר טולוקה.