كان المشفّر النصي اختيارياً طوال الوقت: Halcyon يتفوق على T2I المدربة مسبقاً بحوسبة أقل 275 مرة

ما الذي فعلوه فعلاً

نُشر البحث في 15 أكتوبر 2026 بأقلام Keshigeyan Chandrasegaran وYue Zhao وArmin W. Thomas وEhsan Adeli وJiajun Wu وJuan Carlos Niebles وLi Fei-Fei وMichael Poli، وأُتيحت الأوزان على Hugging Face في اليوم نفسه. الإعداد بسيط عن قصد: محوّل واحد من نوع decoder-only (معمارية Qwen3، بتهيئة عشوائية) يقرأ رموز النص ورموز الصورة كتسلسل واحد ويتدرب على التنبؤ بالرمز التالي. كل مكوّن مبني من الصفر على GPIC، وهو مجموعة بيانات من 100 مليون زوج صورة-نص بدقة 256x256: مجزئ الصور (تصميم ترميز-فك ترميز بأسلوب Cosmos مع تكميم عددي محدود، يحوّل كل صورة إلى 1,024 رمز من قاموس 64,000 شفرة)، ومجزئ النص (BPE على مستوى البايت بـ16,384 رمزاً، مدرب على تسميات GPIC وOpenWebText)، والمولّد نفسه. مفردات مشتركة واحدة من 80,640 مدخلاً، وحقبة تدريب واحدة، 97,632 خطوة بحزمة 1,024.

تصميم المقارنة هو ما يجعل النتيجة مقروءة. تُقارن أنظمة T2I عادة رغم تدريبها المسبق على بيانات مختلفة، فلا أحد يستطيع الجزم إن كان الفوز من المعمارية أم من البيانات. أعاد الفريق بدلاً من ذلك تدريب خطي الأساس الممثلين للاندماج المتأخر - LlamaGen (ذاتي الارتداد، بمشفّر FLAN-T5-XL) وJiT-T2I (انتشار بكسلي، بمشفّر Qwen3-1.7B) - على أزواج الملايين المئة نفسها بالشيفرة الرسمية لمؤلفيها، مغطين 256 و1,024 رمز صورة، مع دالة خسارة إدراكية وبدونها. وحين يحسبون الحوسبة، يحسبونها كلها: النموذج اللغوي ومجزئ الصور والمولّد. هذا القرار المحاسبي هو جوهر البحث الصامت. مولّد "0.9B" مشروط بمشفّر FLAN-T5-XL حجم 1.22B التهم تريليون رمز نصي ليس نظاماً بحجم 0.9B؛ وعادة المجال في إعلان حجم المولّد وتجاهل كلفة تدريب المشفّر هي ما كان يسمح بإخفاء فجوات 18 و275 مرة.

التجارب الثلاث هي النتيجة

قد تكون أرقام العناوين مصنوعة من البيانات أو الضبط، لذا فالجزء المقنع هو ثلاثية التجارب المضبوطة التي تسأل مباشرة: هل يفيد التدريب اللغوي المسبق؟ أولاً، استبدال المشفّر المجمد من FLAN-T5-Base إلى FLAN-T5-XL داخل إعداد LlamaGen نفسه - بحوسبة تدريب لغوي أكبر 13.5 مرة - يحسّن gFD من 66.7 إلى 63.3 فحسب. ثانياً، منح Halcyon-0.52B مرحلة تدريب نصي فقط قبل تدريب T2I بنسبة 10 أو 20 أو 50 بالمئة من ميزانية ثابتة يزيد gFD سوءاً باستمرار من 48.0 إلى 51.6 و52.8 و65.1؛ وتشغيل التدريب النصي أولاً فوق حقبة T2I كاملة بميزانية ونصف لا يفيد أيضاً (49.2 مقابل 48.0). ثالثاً، التهيئة من Qwen3-0.6B-Base - نموذج لغوي مدرب حقيقي وراءه 36 تريليون رمز نصي - لا تمنح مكسباً على المعمارية نفسها المدربة من الصفر (47.8 مقابل 46.6). مهما علّم نص الإنترنت النموذجَ، قليل منه ينتقل إلى تحويل التسميات إلى بكسلات في هذا النظام، وعند ميزانية ثابتة فهو يزيح بنشاط الأزواج التي تنتقل فعلاً.

وهناك أيضاً نتيجة جانبية أنيقة حقاً. يتطلب التوجيه الخالي من المصنف أمثلة صور غير مشروطة، ويحصل عليها الأسلوب القياسي بحذف التسميات من 10 بالمئة من أمثلة التدريب - أي برمي الإشراف النصي. ينقل Halcyon بدلاً من ذلك تلك التسميات إلى ما بعد رموز الصورة، محوّلاً كل مثال محذوف إلى مثال صورة-إلى-نص. يتعلم النموذج تسمية الصور بكلفة تدريب إضافية صفرية (يهبط NLL النص المشروط بالصورة عند 0.52B من 18.41 إلى 1.10) بينما تبقى جودة T2I ثابتة إحصائياً في الأحجام الخمسة كلها. تسمية مجانية كمنتج ثانوي لتغيير في القيود هي من نوع الحيل التي ينتهي بها المطاف في كل مكان.

خلاصة رأيي

النطاق الصادق: هذه دقة 256x256، وحقبة واحدة، ونماذج حتى 4B، مقاسة غالباً على القسم الاختباري الخاص بـGPIC. لا ينبغي لأحد أن يقرأها كأن "نماذج الصور المتقدمة لا تحتاج اللغة": السؤال الذي حُسم هنا أضيق، وأظنه أنفع. عند ميزانية تدريب مسبق ثابتة، التدريب اللغوي المسبق ليس الغداء المجاني الذي افترضه المجال، وكان الافتراض محمياً في الغالب بمحاسبة لم تُصدر فاتورة عنه قط. هذا النمط - مكوّن يدرجه الجميع افتراضياً يتبين أنه اختياري حين تحسب كلفته - يظهر أبعد بكثير من توليد الصور. إنه التحرك نفسه الذي صحح طريقة مقارنة كلف الاستدلال لدى نماذج الاستدلال. ولاحظ أيضاً أن الدافع ليس أكاديمياً خالصاً: Radical Numerics تبني نماذج بيولوجية متعددة الوسائط (خط Omnii لديها يمتد لأكثر من عشرين وسيطاً)، و"كيف توزّع حوسبة التدريب المسبق بين الوسائط" هو سؤال إنتاجها، واختير T2I لأن له بيانات ومعايير عامة. هذا لا يبطل النتيجة - أُعيد تدريب خطوط الأساس على بيانات مشتركة، وهو أكثر مما يقدمه معظم ادعاءات هذا النوع - لكن من المفيد معرفة لماذا حصل هذا السؤال بالذات على إجابة بهذه الجودة.