最佳本地 Embedding / 检索 — DGX Spark ×2 256GB

甜点区间:94–97 分 · 14–24 ktok/s,共 2 个模型符合。

  1. 1. Qwen3-Embedding-8B — 97 分 · 14ktok/s · 9GB
  2. 2. Qwen3-Embedding-4B — 94 分 · 24ktok/s · 5.3GB
  3. 3. Qwen3-Reranker-4B — 93 分 · 12ktok/s · 9.1GB
  4. 4. Qwen3-Embedding-0.6B — 89 分 · 90ktok/s · 1.6GB
  5. 5. gte-Qwen2-1.5B — 88 分 · 36ktok/s · 4.1GB

共 10 个装得下的可用模型。← DGX Spark ×2 全部能力