מקודד הטקסט היה אופציונלי כל הזמן: Halcyon מנצח T2I מאומנים מראש בפי 275 פחות חישוב
סטנפורד ו-Radical Numerics מאמנים מודלי text-to-image מאפס על 100 מיליון זוגות תמונה-טקסט בלי אימון שפה מוקדם, מנצחים קווי בסיס של LlamaGen ו-JiT-T2I שאומנו מחדש, ומראים בשלושה ניסויים מבוקרים שאימון שפה מוקדם לא עוזר. עשרה מודלים להורדה מ-Hugging Face, אבל בלי קובץ רישיון.
כל מערכת מודרנית ליצירת תמונה מטקסט מתחילה ממודל שפה שמישהו אחר אימן מראש על האינטרנט. צוות של סטנפורד ו-Radical Numerics שאל מה מקודד הטקסט ההוא באמת נותן, אימן משפחה של מחוללי תמונה מאפס בלי שום אימון שפה מוקדם בכלל, וקיבל תמונות טובות יותר בחלק קטן מהחישוב. המספר המעניין יותר הוא איך הם ספרו.
בקצרה
Halcyon היא משפחה של מודלים אוטו-רגרסיביים ליצירת תמונה מטקסט (0.1B עד 4B פרמטרים) שאומנו כולם מאפס על 100 מיליון זוגות תמונה-טקסט: בלי FLAN-T5, בלי Qwen, בלי אימון שפה מוקדם בשום מקום בצינור. Halcyon-0.52B מנצח את LlamaGen-XL/8 שאומן מחדש (48.0 מול 63.3 gFD, נמוך יותר טוב יותר) עם פי 18.2 פחות חישוב אימון מקדים כולל; Halcyon-1.6B מנצח את JiT-T2I-XXL/8++ (35.3 מול 41.0) עם פי 275 פחות. בשלושה ניסויים מבוקרים, החזרת אימון השפה המוקדם נתנה תוצאות זהות או גרועות יותר. המשקולות של עשרה מודלים זמינות להורדה מ-Hugging Face, אם כי לא מצורף אליהן קובץ רישיון. קראתי את פוסט הבלוג של הצוות מ-15 באוקטובר ואת כרטיסי המודלים; לא הרצתי את המודלים, וכל התוצאות הן מדידות של המחברים עצמם על מערך המדדים שלהם.
מה הם באמת עשו
המאמר, של Keshigeyan Chandrasegaran, Yue Zhao, Armin W. Thomas, Ehsan Adeli, Jiajun Wu, Juan Carlos Niebles, Li Fei-Fei ו-Michael Poli, פורסם ב-15 באוקטובר 2026, והמשקולות עלו ל-Hugging Face באותו יום. ההקמה פשוטה בכוונה: טרנספורמר אחד מסוג decoder-only (ארכיטקטורת Qwen3, אתחול אקראי) שקורא טוקני טקסט וטוקני תמונה כרצף אחד ומתאמן על חיזוי הטוקן הבא. כל רכיב נבנה מאפס על GPIC, מערך נתונים של 100 מיליון זוגות תמונה-טקסט ב-256x256: מפצל התמונות (מקודד-מפענח בסגנון Cosmos עם קוונטיזציה סקלרית סופית, הממפה כל תמונה ל-1,024 טוקנים מתוך ספר קודים של 64,000), מפצל הטקסט (BPE ברמת בתים עם 16,384 טוקנים, שאומן על כיתובי GPIC ו-OpenWebText), והמחולל עצמו. אוצר מילים משותף אחד של 80,640 ערכים, אפוק אחד, 97,632 צעדים בגודל אצווה 1,024.
עיצוב ההשוואה הוא מה שהופך את התוצאה לקריאה. מערכות T2I מושוות בדרך כלל זו לזו למרות שאומנו מראש על נתונים שונים, כך שאף אחד לא יכול לדעת אם ניצחון בא מהארכיטקטורה או ממערך הנתונים. הצוות במקום זאת אימן מחדש את שני קווי הבסיס המייצגים של late-fusion - LlamaGen (אוטו-רגרסיבי, מקודד FLAN-T5-XL) ו-JiT-T2I (דיפוזיה פיקסלית, מקודד Qwen3-1.7B) - על אותם 100 מיליון זוגות עם הקוד הרשמי של המחברים, בכיסוי של 256 ו-1,024 טוקני תמונה, עם ובלי פונקציית הפסד תפישתית. וכשהם סופרים חישוב, הם סופרים הכול: מודל שפה, מפצל תמונות ומחולל תמונות. בחירת הספירה הזאת היא הליבה השקטה של המאמר. מחולל "0.9B" מותנה במקודד FLAN-T5-XL של 1.22B שצרך טריליון טוקני טקסט אינו מערכת של 0.9B; הרגל התחום לדווח על גודל המחולל ולהתעלם מעלות אימון המקודד הוא מה שאיפשר להסתיר פערים של פי 18 ופי 275.
שלוש האבלציות הן התוצאה
מספרי הכותרת עדיין יכלו להיות ממצא של נתונים או כיוונון, לכן החלק המשכנע הוא שלישיית הניסויים המבוקרים השואלים ישירות: האם אימון שפה מוקדם עוזר? ראשית, החלפת המקודד הקפוא מ-FLAN-T5-Base ל-FLAN-T5-XL בתוך אותה הקמת LlamaGen - פי 13.5 יותר חישוב אימון שפה - משפרת את gFD רק מ-66.7 ל-63.3. שנית, מתן שלב אימון טקסט-בלבד ל-Halcyon-0.52B לפני אימון T2I, ב-10, 20 או 50 אחוז מתקציב קבוע, מחמיר את gFD באופן מונוטוני מ-48.0 ל-51.6, 52.8 ו-65.1; הרצת אימון טקסט קודם מעל אפוק T2I מלא בפי 1.5 חישוב כולל גם לא עוזרת (49.2 מול 48.0). שלישית, אתחול מ-Qwen3-0.6B-Base - מודל שפה מאומן אמיתי עם 36 טריליון טוקני טקסט מאחוריו - לא נותן יתרון על אותה ארכיטקטורה שאומנה מאפס (47.8 מול 46.6). מה שלא מלמד טקסט האינטרנט את המודל, מעט ממנו עובר למיפוי כיתובים לפיקסלים במשטר הזה, ובתקציב קבוע הוא דוחק באופן פעיל את הזוגות שכן עוברים.
יש גם תוצאת לוואי אלגנטית באמת. הנחיה חופשית מסיווג זקוקה לדוגמאות תמונה לא מותנות, והמתכון הסטנדרטי משיג אותן בהשמטת כיתובים מ-10 אחוז מדוגמאות האימון - זריקת פיקוח הטקסט. Halcyon במקום זאת מעביר את הכיתובים האלה לאחר טוקני התמונה, והופך כל דוגמה מושמטת לדוגמת תמונה-לטקסט. המודל לומד כיתוב תמונות בעלות אימון מקדים נוספת אפסית (NLL טקסט מותנה בתמונה ב-0.52B יורד מ-18.41 ל-1.10) בזמן שאיכות T2I נשארת ללא שינוי סטטיסטי בכל חמשת הגדלים. כיתוב חינם כתוצר לוואי של שינוי ספר-חשבונות הוא מסוג הטריקים שמסתיימים בכל מקום.
מה אני מסיק מזה
ההיקף הכן: זה 256x256, אפוק אחד, מודלים עד 4B, נמדד בעיקר על פיצול המבחן של GPIC עצמו. אף אחד לא צריך לקרוא בזה "מודלי תמונה חזיתיים לא צריכים שפה" - השאלה שנסגרת כאן צרה יותר, ולדעתי שימושית יותר: בתקציב אימון מקדים קבוע, אימון שפה מוקדם אינו ארוחת חינם שהתחום הניח, וההנחה הוגנה בעיקר על ידי ספירה שמעולם לא חייבה עליה. הדפוס הזה - רכיב שכולם כוללים כברירת מחדל מתגלה כאופציונלי ברגע שסופרים את מחירו - מופיע הרבה מעבר ליצירת תמונות. זה אותו מהלך שתיקן איך משווים עלויות הסקה של מודלי reasoning. ואני גם מציין שהמניע אינו אקדמי טהור: Radical Numerics בונה מודלים ביולוגיים מולטי-מודליים (קו ה-Omnii שלה משתרע על עשרים ויותר מודליות), ו"איך לחלק חישוב אימון מקדים בין מודליות" היא שאלת הייצור שלה, ו-T2I נבחר כי יש לו נתונים ומדדים ציבוריים. זה לא מבטל את התוצאה - קווי הבסיס אומנו מחדש על נתונים משותפים, יותר ממה שרוב טענות מסוג זה מציעות - אבל כדאי לדעת למה השאלה הספציפית הזאת קיבלה מענה כה טוב.
מקורות וגבולות
כל מה שלמעלה מחומרי הצוות עצמם, נקרא ב-20 באוקטובר 2026: פוסט הבלוג של Radical Numerics מ-15 באוקטובר 2026, הרישום ב-arXiv (2610.26863), וכרטיס המודל Halcyon-4B ב-Hugging Face. כל המדדים הם מדידות המחברים על ההקמה המבוקרת שלהם; לא הרצתי אף מודל. הבלוג אומר "we release ten Halcyon models", והמשקולות אכן ניתנות להורדה (Halcyon-4B הראה 31 הורדות כשבדקתי ב-20 באוקטובר), אבל לא קיים קובץ LICENSE במאגר המודל, כך שתנאי השימוש בפועל לא מוצהרים - קראו "open" כ"ניתן להורדה פומבית", לא כרישיון מוענק. מספרי GenEval ו-DPG-Bench מדווחים לקונפיגורציות שבטבלאות שלהם; כרטיס ה-4B עצמו מציין שענף main שלו הוא חליטה חלקית מעבר לנקודת הסיום של המאמר, כך שמדדי הכרטיס ומדדי המאמר אינם אותה נקודת ביקורת.