tuiceday
← 回到实测
LAB

Qwen3-VL-30B-A3B-Instruct(MoE) · Q4_K_M(Ollama 原生)

能跑文本2026-10-09

Qwen3-VL-30B-A3B-Instruct(MoE) · Q4_K_M(Ollama 原生)

权重体积
17.28 GB
峰值显存
15384 MB(占卡 94.3%) num_ctx 32768
CPU 溢出
32.9% 的层在 CPU num_ctx 32768
速度
56.1 tok/s(首 token 0.44s) num_ctx 32768
短问答
显存带宽是指显存与GPU之间数据传输的最大速率,单位通常是GB/s,它决定了GPU能多快地读取和写入图形数据。
中文写作
小模型参数量较小,对显存和计算资源的需求低,能够在消费级显卡上流畅运行。相比大模型,小模型推理速度更快,响应更及时,适合日常应用。此外,小模型部署门槛低,易于在手机、笔记本等设备上实现本地化运行,提升使用便捷性。
代码
```python def format_seconds(seconds): h = seconds // 3600 m = (seconds % 3600) // 60 s = seconds % 60 parts = [] if h > 0: parts.append(f"{h}h") if m > 0: parts.append(f"{m}m") if s > 0: parts.append(f"{s}s") return "".join(parts) ```
本次固定提示词(展开)
提示词是实验条件:换一套 prompt,同一个模型的产出可能完全不同。所以本栏把 prompt 和结果一起给。
短问答
用一句话解释什么是显存带宽。
中文写作
用三句话说明为什么小模型在消费级显卡上更实用。
代码
用 Python 写一个函数,把秒数格式化成 1h2m3s 的形式。只要代码。
坑:峰值占卡 94.3%,剩 0.91 GB 余量
来源:本机实测 2026-10-09 20:03:29

本页是该条实测的独立页面;完整列表见 实测。