LinkedIn-дайджест: агентная модель на 24B, работающая на собственном железе, llm-d 1.0 учит Kubernetes обслуживать агентов, и Пичаи оценивает фронтир
LFM2.5-24B-A2B от Liquid AI умещает MoE с 2.4 млрд активных параметров в ноутбук, llm-d от Google Cloud дошёл до 1.0 как Kubernetes-нативный стек инференса, а Сундар Пичаи говорит Big Technology, что выручка облака уступает фронтирным вычислениям. Проверено по открытым первоисточникам.
Три публичных поста в LinkedIn за последние два дня, три слоя агентного стека в движении: модель, достаточно компактная, чтобы гонять агентов на собственном железе; обслуживающий слой, который кормит тысячу агентов в дата-центре; и CEO Google, вслух говорящий, что облачная выручка ждёт за фронтирными вычислениями. Короткие цитаты, ссылки и моё мнение. Ничего здесь не взято из чьей-либо закрытой ленты.
Коротко
Каждый пункт начался с публичного поста в LinkedIn; сами посты я открыть не мог (LinkedIn требует вход), поэтому каждый пункт проверен по публичному первоисточнику, на который он указывает: карточка модели и блог Liquid AI, блог Google Cloud и репозиторий llm-d, а также сама расшифровка интервью Big Technology. Где число взято из бенчмарка самого вендора, это указано. Высказывания Пичаи - заявления из интервью и помечены соответственно. Я читал эти страницы 21 октября 2026 года.
Карун Танкачан: LFM2.5-24B-A2B от Liquid AI, MoE на 24B с 2.4 млрд активных параметров для локальных агентов
"LFM2.5-24B-A2B is a 24B-parameter reasoning model with only 2B active parameters, built for fast, private agents on-device."
Карточка модели Liquid AI, страница, на которую указывал пост в LinkedIn. Карточка модели · Блог запуска · Оригинальный пост
Моё мнение: Цифры архитектуры в карточке сходятся с заявлениями поста: 24.0 млрд параметров всего при 2.45 млрд активных на токен, 40 слоёв (30 блоков двойной гейтированной короткой свёртки плюс 10 блоков GQA-внимания), 64 эксперта на MoE-блок с маршрутизацией top-4, бюджет обучения 36 триллионов токенов, словарь 128K и контекст 131,072 токена. Постобучение - SFT плюс две стадии мультидоменной on-policy дистилляции плюс агентный RL внутри настоящих агентных обвязок (OpenClaw, Hermes Agent, Pi, OpenCode), так что модель буквально обучена на тех инструментах и системных промптах, которые встретит в работе. Карточка предлагает шесть форматов: нативный BF16, FP8, GGUF, ONNX, MLX 4-bit и драфт-вариант для спекулятивного декодирования. Самое интересное - честность позиционирования: Liquid прямо пишет, что модель "не рекомендуется для задач, тяжёлых по знаниям, сама по себе" и должна работать в паре с ретривалом, а в её собственной таблице она проигрывает Qwen3.6-35B-A3B на GPQA (74.42 против 83.69), SWE-Bench Verified (51.0 против 66.2) и WebArena (26.75 против 37.62), выигрывая агентные tool-use строки (LiveClaw 48.09 против 38.19, ToolSandbox 80.71 против 75.02). Это орган вызова инструментов, а не энциклопедия - и это правильный компромисс для модели, которой жить внутри обвязки. Заявления о скорости - измерения вендора: 184 ток/с на Apple M5 Max и 114 на Ryzen AI Max+ 395 (llama.cpp, Q4_K_M, контекст 4K) и более 21K выходных ток/с на одном B300 при высокой конкурентности. Лицензия - собственная LFM Open License v1.0: без роялти, но коммерческое использование требует, чтобы годовая выручка вашей организации была ниже порога в $10 млн, так что это не OSI-лицензия, и крупным компаниям нужна отдельная сделка. На сегодня карточка показывает около 16.9K скачиваний за месяц и 538 лайков с загрузки 12 октября.
Не проверено: Все цифры бенчмарков и скорости - собственные прогоны Liquid на их обвязке и железе; я модель не запускал. Фрейминг "конкурентна модели на ~50% больше" опирается на агентные строки одной выбранной вендором таблицы. Данные и код обучения не опубликованы - карточка документирует стадии рецепта, а не данные.
Марк Ломейер: llm-d 1.0 вышел в GA, Kubernetes-нативный стек распределённого инференса
"Today at the PyTorch Conference, we released llm-d 1.0, an open-source, Kubernetes-native stack for distributed LLM inference."
Блог Google Cloud, 20 октября 2026, автор - сам Ломейер. Блог Google Cloud · Репозиторий (Apache-2.0) · Оригинальный пост
Моё мнение: llm-d стоит над vLLM и SGLang и превращает кластер модельных серверов в один скоординированный пул: маршрутизация с учётом префикс-кэша и нагрузки, ярусная выгрузка KV-кэша (host RAM, SSD, Google Cloud Managed Lustre), дизагрегация prefill/decode под управлением нового DisaggregatedSet, мультитенантный flow control и асинхронный процессор, гоняющий пакетные задачи в свободной ёмкости без голодания интерактивного трафика. История 1.0 нацелена прямо на агентный трафик: session-aware маршрутизация держит ходы агента на репликах, уже хранящих его контекст, а тайм-слайсинг позволяет RL-роллаутам делить ускорители с инференсом, что, по словам Google, поднимает загрузку ускорителей примерно с 40% до более 70%. Цифры в посте вендорские, но конкретные: на агентной кодовой нагрузке на Ironwood TPU префикс-осведомлённая маршрутизация плюс выгрузка в host-память срезали медианное время до первого токена более чем на 85% и подняли пропускную способность в 2.4 раза против обычного Kubernetes Service; собственная платформа Gemini удвоила долю попаданий в префикс-кэш с 35% до 70% через GKE Inference Gateway; развёртывание на 17,000 узлов в нескольких регионах масштабировало пропускную способность в 2.9 раза на трёх кластерах с успешностью 99.9%. Клиентские цитаты называют реальное использование: Snap сообщает о 75-80% попаданий в префикс-кэш, ZenteiQ заявляет 4-кратный рост совокупной пропускной способности для генерации синтетических данных, а инженеры Mistral по инференсу говорят, что обеспечивают приоритетные полосы между коммерческими тарифами с его помощью. Проект - CNCF Sandbox, сооснован Red Hat, Google Cloud, IBM Research, CoreWeave и NVIDIA, с 500+ контрибьюторами из 25 организаций; репозиторий под Apache-2.0 с 4,917 звёздами и 870 форками на сегодня. Важно, что означает здесь 1.0: v1 API, высокая доступность роутера и обновления без простоя - скучные части, которые делают обслуживающий слой пригодным для внедрения.
Не проверено: Все показатели производительности - от Google или её партнёров, измерены на их нагрузках и железе; я llm-d не разворачивал. Цифры платформы Gemini описывают собственный производственный трафик Google, что является реальным использованием, но не независимой оценкой.
Алекс Кантровиц: Сундар Пичаи о рекурсивном самоулучшении и дефиците вычислений
"Our cloud business is at any given moment in time forgoing short-term revenues because we are making compute trade-offs to support frontier AI development."
Интервью Big Technology, опубликовано 20 октября 2026, записано в штаб-квартире Google в Маунтин-Вью. Всё в этом пункте - слова Пичаи из интервью: заявления заинтересованной стороны, а не проверенные факты. Интервью · Оригинальный пост
Моё мнение: Вес несут три фрагмента. О рекурсивном самоулучшении Пичаи подтверждает слова Сергея Брина, что RSI внесло вклад в новую модель Gemini 4 Argon, но проводит границу точно: "сегодня, в континууме, мы довольно далеки от конечного состояния RSI" - то, что есть сейчас, это "агенты, помогающие AI-исследователям автоматизированно работать вместе над построением этих моделей". О спросе: Argon обработал почти 25 триллионов токенов за первые 72 часа, примерно втрое больше стартового окна Gemini 3, и Google ограничен ёмкостью при его обслуживании; внутри он приписывает Argon 30-процентный рост числа changelist'ов и снижение откатов на треть за четыре недели. О дефиците вычислений, на вопрос о ремарке Энди Джасси "распродано до 2028", он не моргнул: клиент, просящий вычисления на 2027 год, сталкивается с чем-то "невероятно трудным", при этом он отвергает сравнение с тёмным оптоволокном - "Мы его используем. Мы ограничены ёмкостью ежедневно" - хотя признаёт, что перепроизводство возможно, если узким местом станет любой из "2,000 компонентов или более" (память, электричество, электрики, земля). Самый показательный для меня фрейминг - прямо названный порядок приоритетов: доступ DeepMind к фронтирным вычислениям "не подлежит обсуждению", облачный бизнес планирует вокруг остатка, а упущенная облачная выручка - просто "уже реальность". Для наблюдателей за безопасностью: его ответ на инциденты с агентами - эшелонированная оборона: работа над выравниванием плюс мониторинг в реальном времени, песочницы и, в перспективе, межотраслевые стандарты с независимыми оценщиками, "как финансовый контроль... независимые аудиторы".
Не проверено: Это заявления CEO в дружеском интервью. Объёмы токенов, цифры changelist'ов и откатов и заявления о ёмкости - собственные числа Google без внешнего подтверждения; оценка RSI - позиция, а не измерение.
Как делается этот дайджест
Пункты выбираются сканером из публичных постов LinkedIn, затем каждый проверяется по публичному первоисточнику: карточка модели и блог вендора, инженерный блог и репозиторий, расшифровка интервью. Сами посты LinkedIn требуют входа и не открывались; ссылки даны для справки. Счётчики вовлечённости не используются, с авторами я не связывался, и ничего здесь не взято из закрытой ленты.
- https://huggingface.co/LiquidAI/LFM2.5-24B-A2B
- https://www.liquid.ai/blog/lfm2-5-24b-a2b
- https://cloud.google.com/blog/topics/ai-infrastructure/llm-d-1-0-an-open-source-stack-for-distributed-inference
- https://github.com/llm-d/llm-d
- https://www.bigtechnology.com/p/sundar-pichai-googles-frontier-imperative