最佳本地 Embedding / 检索 — RTX 5070 Ti 16GB
甜点区间:94–94 分 · 12–12 ktok/s,共 1 个模型符合。
- 1. Qwen3-Embedding-8B — 97 分 · 7ktok/s · 9GB
- 2. Qwen3-Embedding-4B — 94 分 · 12ktok/s · 5.3GB
- 3. Qwen3-Reranker-4B — 93 分 · 6ktok/s · 9.1GB
- 4. Qwen3-Embedding-0.6B — 89 分 · 45ktok/s · 1.6GB
- 5. gte-Qwen2-1.5B — 88 分 · 18ktok/s · 4.1GB
共 10 个装得下的可用模型。← RTX 5070 Ti 全部能力