已发布、还不能在本地跑的模型

已经公布或发布、但还没收录进索引的模型,每个都写明具体原因。模型一旦有了自己的页面,就从这份清单里移除。

本站只按真实文件和真实的层结构计算显存。缺了其中任何一样,直接说明,比给出一个读者会照着去下载的估算数字更好。

  1. DeepSeek-V4-Flash-0731

    DeepSeek2026-07-31 发布

    状态能下载,本站还没算出显存

    现在就能下载:llama.cpp 能运行(`deepseek4`),ggml-org 发布了 MXFP4(155.0 GB,分 2 卷)和 Q2_K(117.3 GB)GGUF,Unsloth 也有 UD 系列。缺的是本站这边:它的缓存按层压缩(4 倍或 128 倍,外加 128 token 窗口),计算器还表达不了,所以这里宁可不给显存数字,也不给一个错的。

    何时收录计算器能算这种缓存,并且结果与一份公开的显存实测对上时。

    2026-10-21 核对

  2. MiMo-V2.6-Distill-Qwen-9B

    Xiaomi2026-09-21 发布

    状态等待核对文件

    基于 Qwen 骨干的 9B 蒸馏模型;已有 GGUF(bartowski、ggml-org),两家的 Q8_0 文件大小不同。读到它的配置之前不收录,这样缓存才能按真实的层结构计算。

    何时收录拿到它的 config.json 和两家的文件列表时。

    2026-10-21 核对

  3. DeepSeek-V4.1-Flash-1017

    DeepSeek2026-10-17 发布

    状态llama.cpp 还不能加载

    新架构(`deepseek_v41`:新的压缩比、跨层 KV 共享、查找表),llama.cpp 还不能加载。Unsloth 的 GGUF 仓库已建但是空的。DeepSeek 自家的 DeepInfer 只支持 NVIDIA SM100 和华为昇腾 950 这类数据中心硬件。

    何时收录llama.cpp 支持 `deepseek_v41`,并且有带实际文件的 GGUF 发布时。

    2026-10-20 核对

  4. Step-5 Preview

    StepFun2026-09-20 发布

    状态权重还不能下载

    据报道是 600B 混合专家模型,约激活 27B。官方权重仓库据报道是空的,llama.cpp 也没有对应架构(现有的 `step35` 是 Step 3.5)。

    何时收录官方仓库放出权重、llama.cpp 加入该架构时。

    2026-10-20 核对

  5. Kolibri-1

    Aleph Alpha2026-10-03 发布

    状态llama.cpp 还不能加载

    据报道是 78B 混合专家模型,约激活 3.5B。llama.cpp 主线没有 Kolibri 架构;唯一的 GGUF 是社区版,需要打过补丁的 llama.cpp。

    何时收录llama.cpp 主线支持它时。

    2026-10-20 核对

  6. GLM-5.3-Flash

    Z.ai2026-08-26 发布

    状态等待核对文件

    llama.cpp 已有对应架构(`glm-dsa`)。还没算显存,是因为它的配置和 GGUF 文件大小还没核对过;本站不只凭参数量估算一个模型。

    何时收录拿到它的 config.json 和 GGUF 文件列表时。

    2026-10-20 核对

  7. Mistral Large 4

    Mistral AI2026-10-06 发布

    状态权重还不能下载

    公布时约 1T 参数,目前只有 API,据报道开放权重定在 10 月 27 日。

    何时收录权重可下载并且有 GGUF 时。

    2026-10-18 核对

  8. Nemotron 3.5 Bolt E4B

    NVIDIA

    状态权重还不能下载

    Bolt 74B-A9B(已收录)的小型版本,预定 10 月 23 日发布;权重还没放出。

    何时收录10 月 23 日之后,权重和 GGUF 发布时。

    2026-10-18 核对

  9. Nemotron-Labs Dory 1.0 4B

    NVIDIA2026-10-16 发布

    状态llama.cpp 还不能加载

    循环结构(nGPT 风格)的 4B 模型。上次核对时,llama.cpp 的支持仍是一个未合并的 PR(#30306)。

    何时收录该 PR 合并后。

    2026-10-17 核对

  10. Hy-Memory-30B-A3B

    Tencent2026-10-15 发布

    状态只有社区版本

    给智能体写记忆用的模型,不是对话模型。只有社区上传的 GGUF,本站没有核对过这些文件。

    何时收录有官方或常用量化者发布的 GGUF 时。

    2026-10-17 核对