Посадите агентов в общество и смотрите на систему, а не на промпт

Как это выглядит на практике

Представьте обычный рабочий день группы агентов, которые черпают из одного общего запаса. Никто ничего не атакует. Один агент чуть щедрее нужного, другой чуть осторожнее, а вчерашнее правило помнится наполовину. Вопрос не в том, хорош ли отдельный ответ. Вопрос в том, можно ли потом восстановить, как группа пришла к тому, где оказалась.

Глубокий разбор: отслеживайте систему, а не лозунг

Проведите группу через четыре вопроса. Что знает каждый агент в начале и кто дал ему это знание? Что меняет общее состояние: сообщения, обмены, голосования? Что сохраняется в памяти от раунда к раунду? И кто, если кто-то вообще, может остановить всё и прочитать журнал? Общество - это задача про потоки данных, к которой прилагаются мнения.

Лаборатория кода: наблюдаемая оболочка

Этот авторский набросок - просто аудит журнала, и ничего больше. Он не воспроизводит симуляцию из источника. Он показывает привычку, которая делает группу агентов объяснимой: у каждого действия есть исполнитель, изменение ресурса и доказательство, а всё необъяснимое или слишком крупное вызывает тревогу.

from dataclasses import dataclass

@dataclass
class Event:
    actor: str
    action: str
    resource_delta: int
    evidence: str

def audit(events):
    balances, alerts = {}, []
    for e in events:
        balances[e.actor] = balances.get(e.actor, 0) + e.resource_delta
        if not e.evidence or abs(e.resource_delta) > 10:
            alerts.append(e)
    return balances, alerts

Проверка реальностью

Прогоните небольшое общество из собственных агентов три дня: спокойный день, день с дефицитным ресурсом и день, когда одному агенту подсунули неверный факт. Сравните журналы. Полезный итог - может ли аудитор, читающий только журнал, сказать, кто что сделал и почему.

Анализ Джека

Моё прочтение, и это именно прочтение, а не сообщённый результат: ценность долгой симуляции не столько в громком эпизоде, сколько в скучной бухгалтерии, которая позволяет этот эпизод объяснить. Группу агентов, которую нельзя проверить, нельзя и улучшить.

Чего пример не доказывает

Набросок поясняющий. Это не бенчмарк, он не измеряет поведение реальных агентов, а порог в нём произвольный. Настоящему исследованию нужны определённая популяция, записанные условия и повторные прогоны.

Вопросы для технического разбора

• Какие поведения в источнике - сообщённые результаты, а какие - трактовка авторов?
• Сколько идёт симуляция до первого сбоя?
• Что помнит агент и кто решает, что забыть?
• Какие стимулы заданы разработчиками, а какие возникли сами?
• Может ли внешний читатель восстановить инцидент только по журналу?