OpenAI מדווחת שזיהתה ושיבשה קמפיין מתואם שנועד לחלץ reasoning מוגן מהמודלים שלה. לפי ההודעה הרשמית מ־30 בספטמבר 2026, הפעילות המוקדמת ביותר שנצפתה הייתה בשבוע הראשון של יולי. OpenAI מתארת את זה כ־adversarial distillation: שימוש שיטתי ולא מורשה בפלטי מודל או ב־reasoning שלו כדי לעזור לאמן, לשחזר או לשפר מודל אחר.
חשוב להבהיר מה זה לא היה: לפי OpenAI, המפעילים לא פרצו הצפנה, לא פרצו למסד נתונים, ולא קיבלו גישה ישירה לשיחות משתמשים שמורות. במקום זאת, הם תמרנו אינטראקציות עם המודל כך ש־reasoning מוגן יופיע בצורות גלויות למבקש, בקנה מידה מתואם שהפר את תנאי השימוש.
מה נצפה
OpenAI מתארת ניסיונות לחלץ reasoning בדרכים חדשות, כולל העתקת reasoning מוצפן משיחה אחת ובקשה ממודל בשיחה אחרת לפענח ולתמלל את התוכן הנסתר. חוקרים עצמאיים דיווחו גם על פגיעויות קשורות בין מודלים ובין דחיסות שיחה (conversation compaction); OpenAI אומרת שאישרה שהמסלולים שזוהו היו אמיתיים, ושהדיווח עזר להאיץ הקשחות.
הפעילות החלה ב־1 ביולי בנפח נמוך. ב־24–25 ביולי נרשמו קפיצות של כ־16,000 בקשות בתבנית חילוץ רלוונטית מיותר מ־4,000 משתמשים. חקירה נוספת זיהתה פעילות תבניות פרומפט קשורה באשכול של יותר מ־15,000 משתמשים, ששובשה במלואה עד 28 ביולי. המספרים מתארים ניסיונות, לא בהכרח חילוצים מוצלחים.
ייחוס לפי הערכת OpenAI
OpenAI כותבת שאינה בטוחה שכל המפעילים בתקופה הרלוונטית הגיעו משחקן אחד. עם זאת, היא מייחסת אשכול ליבה של הפעילות לאנשים הקשורים ל־Moonshot AI, מפתחת Kimi. זו הערכת OpenAI כפי שפורסמה בהודעה; אין לנו מקור עצמאי שמאשר או סותר אותה כאן.
למה זה חשוב ומה נעשה
לפי OpenAI, distillation עוינת מעלה סיכוני בטיחות וביטחון לאומי: reasoning מחולץ עלול לשמש לאימון מודל בלי אותן הגנות שחלות על הפלט שמוצג למשתמש, ובקנה מידה גדול יכול להאיץ העברת יכולות מתקדמות בלי אותה השקעה בבטיחות. OpenAI מדגישה שהסיכון אינו ייחודי לה, ושתמרה מידע עם שותפים דרך ה־Frontier Model Forum.
- חסימה או הגבלה של חשבונות הונאה
- הקשחת בקרות הרשמה ותשתית, והרחבת ניטור לרשתות קשורות
- חיזוק הגנות על reasoning נסתר בין משתמשים, workspaces וארגונים
- סגירת מסלול שאפשר למי שכבר החזיק reasoning מוצפן של משתמש אחר להריץ אותו מחדש ולשחזר תוכן
- תיאום עם ספקי צד שלישי ועם ערוצי שיתוף מידע ממשלתיים
איך לקרוא את זה
זו הודעת אבטחה על קמפיין ששובש, לא על פריצה למסד נתונים. OpenAI אומרת שהעבודה נמשכת, כולל הגנות בפריסות אצל שותפים ותקיפות דרך פלט כלים. לצד זה אפשר לקרוא את השקת GPT-6.1 Sol, לחזור לכתבה על Dots של OpenAI, ולעקוב אחרי עוד עדכונים ב־חדשות AI.
מקורות
- OpenAI, Disrupting a coordinated model-distillation campaign: openai.com/index/disrupting-a-coordinated-model-distillation-campaign/
