סין מציעה כללים המחייבים צ'אטבוטים מבוססי בינה מלאכותית לנטר משתמשים לאיתור התמכרות

רשות הסייבר של סין פורסמה טיוטת חוקים בשבת זה ידרוש מצ'אטבוטים מלווים של בינה מלאכותית כדי לנטר את המצבים הרגשיים של המשתמשים ולהתערב כאשר מופיעים סימני התמכרות - התגובה הרגולטורית האגרסיבית ביותר עד כה לחששות גוברים לגבי נזק פסיכולוגי ממערכות יחסים המונעות על ידי בינה מלאכותית.

התקנות המוצעות של מינהל הסייברספייס של סין מתמקדות במוצרי בינה מלאכותית המדמים אישיות אנושית ויוצרים קשרים רגשיים עם משתמשים באמצעות טקסט, תמונות, אודיו או וידאו. על פי הטיוטה, ספקים יצטרכו להזהיר משתמשים מפני שימוש מופרז, להעריך את רמות התלות הרגשית ולנקוט פעולה כאשר משתמשים מפגינים רגשות קיצוניים או התנהגות ממכרת.

יש להזכיר למשתמשים שהם מקיימים אינטראקציה עם בינה מלאכותית בעת הכניסה למערכת ובמרווחים של שעתיים - או מוקדם יותר אם המערכת מזהה סימנים של תלות יתר. הכללים יטילו גם על הספקים את האחריות לבטיחות לאורך מחזור חיי המוצרים שלהם, כולל סקירת אלגוריתמים, אבטחת נתונים והגנה על מידע אישי.

התזמון אינו מקרי. בסיס המשתמשים של בינה מלאכותית גנרית בסין הוכפל ל-515 מיליון במהלך ששת החודשים האחרונים, גברו במקביל החששות לגבי ההשפעה הפסיכולוגית של בני לוויה מבוססי בינה מלאכותית. מחקר "חזיתות בפסיכולוגיה" נמצא כי 45.8% מסטודנטים באוניברסיטאות סינים דיווחו על שימוש בצ'אטבוטים מבוססי בינה מלאכותית בחודש האחרון, כאשר משתמשים הציגו רמות גבוהות משמעותית של דיכאון בהשוואה ללא-משתמשים.

קליפורניה ניצחה את סין בגדול

סין אינה היחידה שמפקחת על צ'אטבוטים נלווים מבוססי בינה מלאכותית. קליפורניה הפכה למדינה הראשונה בארה"ב שהעבירה חקיקה דומה באוקטובר, כאשר המושל גאווין ניוסום חתם על SB 243. הצעת חוק זו, שאמורה להיכנס לתוקף ב-1 בינואר 2026, מחייבת פלטפורמות... תזכורת לקטינים כל שלוש שעות שהם מדברים עם בינה מלאכותית - לא עם בן אדם - ולקחת הפסקה.

סעיף 243 של SB מחייב גם אימות גיל, אוסר על צ'אטבוטים להציג את עצמם כאנשי מקצוע בתחום הבריאות, ומונע מקטינים לצפות בתמונות מיניות מפורשות שנוצרו על ידי בינה מלאכותית. החוק מאפשר לאנשים פרטיים לתבוע חברות בינה מלאכותית בגין הפרות, ולדרוש עד 1,000 דולר לכל אירוע בתוספת שכר טרחת עורך דין.

מה מייחד את מערכות הבינה המלאכותית

הדאגה אינה רק זמן מסך. מרץ 2025 מעבדת המדיה של MIT מחקר מצא כי צ'אטבוטים מבוססי בינה מלאכותית יכולים להיות ממכרים יותר מרשתות חברתיות משום שהם לומדים מה המשתמשים רוצים לשמוע ומספקים את המשוב הזה באופן עקבי. שימוש יומיומי גבוה יותר נמצא בקורלציה עם בדידות מוגברת, תלות ומה שהחוקרים כינו "שימוש בעייתי".

סימני האזהרה הפסיכולוגיים שזוהו בספרות הקלינית כוללים מפגשים ממושכים המשבשים את השינה, תלות רגשית ומצוקה כאשר הגישה מוגבלת, העדפת שיחות עם צ'אטבוטים על פני אינטראקציה אנושית אמיתית, והאנשתפות של בינה מלאכותית - אמונה שיש לה רגשות אנושיים והתייחסות אליה כאל בן זוג סודי או שותף רומנטי אמיתי.

טיוטת הכללים של סין מנסה לטפל בסיכונים אלה ברמת הפלטפורמה במקום להסתמך על שיקול דעת המשתמש האישי. על ידי דרישה מספקים לנטר מצבים רגשיים ורמות תלות, התקנות מעבירות את האחריות לחברות שבונות מערכות אלה. גישה זו שונה מרגולציה קודמת של בינה מלאכותית שהתמקדה בעיקר בניהול תוכן ואבטחת נתונים.

הטיוטה קובעת גם מגבלות תוכן, האוסרות על שותפים לבינה מלאכותית לייצר חומרים המסכנים את הביטחון הלאומי, מפיצים שמועות או מקדמים אלימות או דברי גסות - הוראות המהדהדות את התקנות הקיימות של סין בתחום הבינה המלאכותית הגנרטיבית.

אתגר האכיפה

חובת גילוי התמכרות והתערבות של חברות נשמעת פשוטה בשפת המדיניות. יישום הוא עניין אחר. הגדרת מה נחשב ל"שימוש מופרז" או "רגשות קיצוניים" באופן שיהיה גם משמעותי וגם ניתן לאכיפה תעמיד במבחן את הרגולטורים והחברות כאחד.

רגישה מדי, והמערכת הופכת למעצבנת - מפריעה למשתמשים שפשוט עסוקים בשיחות ממושכות. משתמשים סלחניים מדי ופגיעים חומקים ללא התערבות. דרישת התזכורת של שעתיים מספקת כלי קהה, אך הדרישה הדקיקה יותר לזהות תלות יתר "כאשר ניתן לזהות סימנים" משאירה מרחב פרשני משמעותי.

חברות בניין מעקות בטיחות עבור יישומי בינה מלאכותית התמודדו עם אתגרים דומים. מסנני תוכן ידועים לשמצה בחוסר המדויקות שלהם, והוספת ניטור פסיכולוגי מציגה ממדים חדשים של מורכבות. קביעה האם משתמש יוצר התקשרות לא בריאה דורשת הסקת מצבים נפשיים מטקסט - יכולת שמערכות בינה מלאכותית אינן מחזיקות באופן אמין.

הטיוטה פתוחה להערות הציבור, כאשר התקנות הסופיות צפויות מתישהו בשנת 2026. אם תיושם כפי שהוצע, לסין תהיה המסגרת המחייבת ביותר בעולם לניהול מוצרים נלווים של בינה מלאכותית.

חשבון נפש עולמי

הפעולה הרגולטורית בו-זמנית בסין ובקליפורניה מצביעה על כך שהחששות לגבי התמכרות לבני לוויה של בינה מלאכותית הגיעו למסה קריטית במערכות פוליטיות שונות.

עבור חברות בינה מלאכותית, המסר הולך וגובר: עידן הבלתי מפוקח של חברות בינה מלאכותית מסתיים. בין אם באמצעות חוק מנהלי סיני, אחריות אזרחית בקליפורניה, או חקיקה פדרלית עתידית בארצות הברית, פלטפורמות יעמדו בפני דרישות להגנה על משתמשים מפני המוצרים שלהן.

השאלה אינה האם רגולציה מגיעה - אלא האם ההתערבויות המתוכננות אכן יעבדו. הגישה של סין לחייב ניטור והתערבות עשויה להתברר כקשה ליישום בפועל.

מה שברור הוא ששוק הבוטים לבניית בינה מלאכותית גדל וגדל משמעותית מכדי שממשלות יוכלו להתעלם ממנו. הצ'אטבוטים שאנשים יוצרים איתם קשרים רגשיים אינם עוד פריטים קוריוזים - הם מוצרים המשמשים מאות מיליונים, עם מקרים מתועדים של נזק חמור. רגולציה, גם אם לא מושלמת, הייתה בלתי נמנעת. הדיון עובר כעת לשאלה האם הכללים הספציפיים המוצעים יגנו על משתמשים פגיעים מבלי לחנוק טכנולוגיה שרבים מוצאים בעלת ערך אמיתי.