LAB
Qwen3-VL-30B-A3B-Instruct(MoE) · Q4_K_M(Ollama 原生)
能跑文本2026-10-09
Qwen3-VL-30B-A3B-Instruct(MoE) · Q4_K_M(Ollama 原生)
- 权重体积
- 17.28 GB
- 峰值显存
- 15384 MB(占卡 94.3%) num_ctx 32768
- CPU 溢出
- 32.9% 的层在 CPU num_ctx 32768
- 速度
- 56.1 tok/s(首 token 0.44s) num_ctx 32768
短问答
显存带宽是指显存与GPU之间数据传输的最大速率,单位通常是GB/s,它决定了GPU能多快地读取和写入图形数据。
中文写作
小模型参数量较小,对显存和计算资源的需求低,能够在消费级显卡上流畅运行。相比大模型,小模型推理速度更快,响应更及时,适合日常应用。此外,小模型部署门槛低,易于在手机、笔记本等设备上实现本地化运行,提升使用便捷性。
代码
```python
def format_seconds(seconds):
h = seconds // 3600
m = (seconds % 3600) // 60
s = seconds % 60
parts = []
if h > 0:
parts.append(f"{h}h")
if m > 0:
parts.append(f"{m}m")
if s > 0:
parts.append(f"{s}s")
return "".join(parts)
```
本次固定提示词(展开)
提示词是实验条件:换一套 prompt,同一个模型的产出可能完全不同。所以本栏把 prompt 和结果一起给。
短问答
用一句话解释什么是显存带宽。
中文写作
用三句话说明为什么小模型在消费级显卡上更实用。
代码
用 Python 写一个函数,把秒数格式化成 1h2m3s 的形式。只要代码。
坑:峰值占卡 94.3%,剩 0.91 GB 余量
来源:本机实测 2026-10-09 20:03:29
本页是该条实测的独立页面;完整列表见 实测。