1到8张老登显卡V100怎样玩转本地运行Qwen3.8-27B(速度测试篇)
摘要:前几天发布的Qwen3.8-27B又掀起了本地部署大模型的小浪潮,Qwen3.8-27B确实还不错,普通常见场景确实够用,上一篇文章项目测试部分也进行了相关能力测试,本文主要测试下V100这个8年前发布的老计算显卡速度情况。
初步看下V100配置情况:
显存:16/32GB 带宽:897.0 GB/s
架构:Volta
FP16算力:113.0 TFLOPS
支持NVlink2.0(...