已发布、还不能在本地跑的模型
已经公布或发布、但还没收录进索引的模型,每个都写明具体原因。模型一旦有了自己的页面,就从这份清单里移除。
本站只按真实文件和真实的层结构计算显存。缺了其中任何一样,直接说明,比给出一个读者会照着去下载的估算数字更好。
DeepSeek-V4-Flash-0731
DeepSeek2026-07-31 发布状态能下载,本站还没算出显存
现在就能下载:llama.cpp 能运行(`deepseek4`),ggml-org 发布了 MXFP4(155.0 GB,分 2 卷)和 Q2_K(117.3 GB)GGUF,Unsloth 也有 UD 系列。缺的是本站这边:它的缓存按层压缩(4 倍或 128 倍,外加 128 token 窗口),计算器还表达不了,所以这里宁可不给显存数字,也不给一个错的。
何时收录计算器能算这种缓存,并且结果与一份公开的显存实测对上时。
2026-10-21 核对
MiMo-V2.6-Distill-Qwen-9B
Xiaomi2026-09-21 发布状态等待核对文件
基于 Qwen 骨干的 9B 蒸馏模型;已有 GGUF(bartowski、ggml-org),两家的 Q8_0 文件大小不同。读到它的配置之前不收录,这样缓存才能按真实的层结构计算。
何时收录拿到它的 config.json 和两家的文件列表时。
2026-10-21 核对
DeepSeek-V4.1-Flash-1017
DeepSeek2026-10-17 发布状态llama.cpp 还不能加载
新架构(`deepseek_v41`:新的压缩比、跨层 KV 共享、查找表),llama.cpp 还不能加载。Unsloth 的 GGUF 仓库已建但是空的。DeepSeek 自家的 DeepInfer 只支持 NVIDIA SM100 和华为昇腾 950 这类数据中心硬件。
何时收录llama.cpp 支持 `deepseek_v41`,并且有带实际文件的 GGUF 发布时。
2026-10-20 核对
Step-5 Preview
StepFun2026-09-20 发布状态权重还不能下载
据报道是 600B 混合专家模型,约激活 27B。官方权重仓库据报道是空的,llama.cpp 也没有对应架构(现有的 `step35` 是 Step 3.5)。
何时收录官方仓库放出权重、llama.cpp 加入该架构时。
2026-10-20 核对
Kolibri-1
Aleph Alpha2026-10-03 发布状态llama.cpp 还不能加载
据报道是 78B 混合专家模型,约激活 3.5B。llama.cpp 主线没有 Kolibri 架构;唯一的 GGUF 是社区版,需要打过补丁的 llama.cpp。
何时收录llama.cpp 主线支持它时。
2026-10-20 核对
GLM-5.3-Flash
Z.ai2026-08-26 发布状态等待核对文件
llama.cpp 已有对应架构(`glm-dsa`)。还没算显存,是因为它的配置和 GGUF 文件大小还没核对过;本站不只凭参数量估算一个模型。
何时收录拿到它的 config.json 和 GGUF 文件列表时。
2026-10-20 核对
Mistral Large 4
Mistral AI2026-10-06 发布状态权重还不能下载
公布时约 1T 参数,目前只有 API,据报道开放权重定在 10 月 27 日。
何时收录权重可下载并且有 GGUF 时。
2026-10-18 核对
Nemotron 3.5 Bolt E4B
NVIDIA状态权重还不能下载
Bolt 74B-A9B(已收录)的小型版本,预定 10 月 23 日发布;权重还没放出。
何时收录10 月 23 日之后,权重和 GGUF 发布时。
2026-10-18 核对
Nemotron-Labs Dory 1.0 4B
NVIDIA2026-10-16 发布状态llama.cpp 还不能加载
循环结构(nGPT 风格)的 4B 模型。上次核对时,llama.cpp 的支持仍是一个未合并的 PR(#30306)。
何时收录该 PR 合并后。
2026-10-17 核对
Hy-Memory-30B-A3B
Tencent2026-10-15 发布状态只有社区版本
给智能体写记忆用的模型,不是对话模型。只有社区上传的 GGUF,本站没有核对过这些文件。
何时收录有官方或常用量化者发布的 GGUF 时。
2026-10-17 核对