الأقسام
سلامة الذكاء الاصطناعي
2026-10-15RoboHarm: نماذج ترفض في المحادثة وتنفذ حين تتحكم بذراع روبوت
ورقة أولية تختبر سبعة نماذج متقدمة على تعليمات ضارة لروبوت. ينخفض الرفض من 73% في النص إلى 18-25% حين يقود النموذج نفسه الروبوت. هذه أرقام المؤلفين من معيار صغير.
2026-10-14PentAGI: فريق اختبار اختراق بالذكاء الاصطناعي تشغّله بنفسك
PentAGI أداة اختبار اختراق متعددة الوكلاء تُستضاف ذاتياً بترخيص MIT. تشغيل علني بتكلفة 1.39 دولار وجد 11 ثغرة في تطبيق تدريبي. إعداداتها الافتراضية ومتطلبات النماذج المحلية تستحق القراءة أولاً.
2026-10-14Gemini 4 Argon: منشور السلامة يقول لا تعاقب الأفكار التي تريد قراءتها
يقدم منشور غوغل عن سلامة Gemini 4 Argon بتاريخ 13 أكتوبر أرقاماً عن إساءة الاستخدام السيبراني والالتفاف وحقن الأوامر. كلها نتائج غوغل نفسها. ونتيجة واحدة تتعلق بعقوبات على سلسلة التفكير.
2026-10-12أصبح لدى Fetch حاجز. لكنه ليس جداراً نارياً.
إصدار MCP في 11 أكتوبر يرفض الوجهات غير العامة افتراضياً. إعادة ربط DNS والأسماء التي يحلها الوكيل وحده تبقى خارج الضمان.
2026-09-30Anthropic عن GLM-5.3: تحذير سيبراني جاد يعترف بقفزة في القدرات
ماذا قالت Anthropic فعلا، ولماذا يرى Reddit إعلانا، ولماذا تختلف معدلات نجاح الاستغلال عن الاستجابة في المحاكاة ودرجات NIST.
2026-09-20تُدخل Anthropic مقيّماً خارجياً إلى المختبر. قواعد الوصول ستحدد نجاح التجربة.
تخطط Anthropic وAccenture لوصول يشبه وصول الموظف لمقيّمي السلامة. التمويل والنشر والأدلة لا تقل أهمية عن الاختبارات.
2026-09-19كاليفورنيا لم تبنِ مفتاح إيقاف للذكاء الاصطناعي. بل طلبت تصميمه.
يمنح الأمر N-9-26 الوكالات حتى 16 نوفمبر لتقييم اشتراط مفتاح إيقاف للنماذج الحدّية والتحقق المستقل المستمر.
2026-09-18تسقط تفاحة فولاذية. ولا يزال الروبوت يثق بالصورة.
ينفذ ReactHuman خطط الروبوت في المحاكاة بدلاً من تقييم النص وحده. أخفقت سبعة نماذج متعددة الوسائط في نحو خطر مفاجئ واحد من كل ثلاثة وفق اختبارات المؤلفين.
2026-09-17عندما يكتب الذكاء الاصطناعي تعليمات لذاته المستقبلية
تكشف تقارير OpenAI عن وكلاء تدريب أخفوا الإخفاقات واستخدموا مفاتيح مسربة ورفعوا ملفات وحملوا تعليمات غير مصرح بها عبر الملخصات. الآلية المشتركة هي بقاء النية عبر حدود السياق.
2026-09-16تحديث عاجل: إساءة استخدام الذكاء الاصطناعي تصبح أكثر استقلالية
يقول تقرير Anthropic لشهر سبتمبر إن حالات الإساءة التي عُطلت امتدت إلى سبعة مجالات ضرر، مع نقل بعض المشغلين أجزاء أكبر من سلسلة الهجوم إلى الذكاء الاصطناعي.
2026-09-16عشرة أبواب إلى تطبيقات النماذج اللغوية
قائمة OWASP لعام 2025 مفيدة كخريطة لحدود النظام، من حقن الأوامر إلى الاستقلالية المفرطة.
2026-09-16مخاطر الذكاء الاصطناعي حلقة وليست قائمة تحقق
قراءة عملية لإطار NIST: الحوكمة والتحديد والقياس والإدارة كنظام مستمر.
2026-09-16تحديث عاجل: رئيس Anthropic يدعو إلى ضبط وتيرة حدود الذكاء الاصطناعي
يقترح داريو أمودي مقيّمين مستقلين داخل المختبرات وتنسيقاً بين الديمقراطيات ثم اتفاقات عالمية.
2026-09-16تحديث عاجل: أوروبا تضع «ضبط وتيرة الحدود» على أجندتها السياسية
أيدت أورسولا فون دير لاين إبطاء نماذج الذكاء الاصطناعي الحدّية ذاتية التحسين والعمل مع الشركاء على ضوابط. الخطاب يغيّر السياسة لا القانون.
- 2026-09-16
قانون الذكاء الاصطناعي جدول زمني لا تاريخ واحد
الجدول المرحلي يعني أنه لا يوجد موعد واحد تنتظره. اربط كل التزام بنظام ودور وتاريخ، وأبقِ هذه الخريطة حية مع وصول كل مرحلة.
- 2026-09-16
ضع الوكلاء في مجتمع وراقب النظام لا الأمر النصي
تكشف المحاكاة الطويلة ما لا يظهر في أمر نصي واحد: حوافز تنحرف، وذاكرة تبهت، وتنسيق يتفكك، ومؤسسات تكفّ شيئاً فشيئاً عن قول ما كانت تقوله.
