RTX 5090 能跑动哪些本地 AI 模型

NVIDIA Blackwell GB202 · 32GB 内存 · 1792GB/s 带宽 · 约 $2.0k · 575W

• 最佳本地聊天模型：Qwen3.6 27B（60 分 · 60.3tok/s · 17.6GB）
• 最佳本地编码模型：Qwen3.6 27B（77 分 · 60.3tok/s · 17.6GB）
• 最佳实时语音方案：Voice Stack A（91 分 · 612ms · 14.2GB）
• 最佳本地 OCR：GLM-OCR（95 分 · 38pg/min · 5GB）
• 最佳本地 Embedding / 检索：Qwen3-Embedding-8B（97 分 · 3.5ktok/s · 9GB）
• 最佳本地 TTS：IndexTTS-2（92 分 · 12×实时 · 5.2GB）
• 最佳本地语音识别：FireRedASR2-LLM（93 分 · 100×实时 · 17GB）
• 最佳本地音乐生成：ACE-Step 1.5 XL（72 分 · 20×实时 · 16.2GB）
• 最佳本地图像生成：Qwen-Image 20B（90 分 · 12.5s/图 · 23GB）
• 最佳本地视频生成：Mochi 1（80 分 · 10min · 25GB）

在 LocalRun 查看完整交互图表 →