קליפורניה לא בנתה מתג כיבוי ל-AI. היא הזמינה תכנון.

רשומת מדיניות יומית · מסמך ראשוני

הכפתור הוא הכותרת. המועד הוא ההוראה בפועל. הצו של קליפורניה מבקש משני גופים ממשלתיים המלצות עד 16 בנובמבר 2026 על היתכנות טכנית ושינויים משפטיים אפשריים, כולל מתג עצירה למודלי חזית עם בדיקות יעילות עצמאיות מתמשכות. הצו עצמו אינו מכבה מודל ואינו מחייב כפתור.

למה הניסוח חשוב

לעצור מה בדיוק? תעבורת הסקה, כלים, אישורי גישה, אשכול, פריסה או משימות חדשות הם יעדים שונים. עצירת אחד אינה מבטיחה עצירת עותקים, מודלים שעברו התאמה, סוכנים חיצוניים או אישורים שמורים. לכן היתכנות ויעילות חשובות יותר מצבע הכפתור המדומיין.

מתג צריך מתקן בדיקה

הקוד המקורי בודק בנפרד תעבורה, כלים, אישורים ועותקים. זהו שרטוט הסברתי, לא יישום של קליפורניה ולא מערכת ייצור.

def verify_shutdown(system, deadline_s):
    checks = {
        "inference_stopped": system.active_streams == 0,
        "workers_stopped": system.active_workers == 0,
        "credentials_revoked": system.valid_credentials == 0,
        "queue_cancelled": system.queued_jobs == 0,
        "egress_closed": system.open_egress_paths == 0,
        "copies_accounted_for": system.unknown_copies == 0,
    }
    return {"contained": all(checks.values()),
            "within_deadline": system.elapsed_s <= deadline_s,
            "evidence": checks}

הדוגמה בנושא Executive Order N-9-26 מסבירה גבול; היא אינה ראיה שנמדדה, מימוש המקור או תוכנה מוכנה לייצור.

תרגיל אימות

התרגיל שאני מציע משתמש בסביבה סגורה, משימה ארוכה, עובדים מואצלים, אישורי גישה, תור ונקודת מודל שנייה. הפעילו את המתג ומדדו מתי נפסקים זרמי הסקה, עובדים, אישורים תקפים, עבודה בתור ותעבורה יוצאת. הפעילו מחדש את מערך הבקרה כדי לבדוק שהמצב שבוטל אינו חוזר. חזרו עם מנטר לא פעיל. הדגמת כיבוי בלי תנאי כשל אלה עונה על מעט מדי.

הניתוח של ג׳ק

אני מעדיף אימות עצמאי על הסיסמה. מעריך חיצוני צריך לבחור תנאי כשל, לבדוק יומנים, לשלוט בהפעלה ולבחון התאוששות. ואז הסמכות: מי רשאי לעצור, על סמך אילו ראיות, לכמה זמן ועם איזה ערעור? מתג לספק בלבד יכול להיות תכונה תפעולית בלי להפוך לפיקוח ציבורי.

עובדות ואי-ודאות

הצו מחייב את סוכנויות קליפורניה. הוא מבקש המלצות, לא משנה כעת חובות של מפתחים ולא יוצר עצירה אוניברסלית. ההודעה הפוליטית מציגה התקדמות, אך התכנון, החוק, החברות, הקריטריונים והעלות טרם הוחלטו.

המועד

16 בנובמבר הוא המבחן הראשון. ההמלצה צריכה להגדיר מה נעצר, כשלים, גישת מעריך, זמן מרבי, עותקים וכלים, ראיות ביקורת וכללי אתחול. בלי אלה המתג הוא סיסמה.

Signed order · Governor's press release · SB 53 background