Blog de Simon🫣
历史归档
文章分类
文章标签
Github
About Me
友链
开往
SimonSun
文章
3
分类
4
标签
37
历史归档
文章分类
文章标签
Github
About Me
友链
开往
#部署

🕶️投机解码该验几个 token:DSpark 和 vLLM 的在线估计器

LLM
从 DeepSeek DSpark 的置信头,到 vLLM 10 月新加的在线接受率估计器,看投机解码怎么按负载决定每一步验多少 token。
2026-10-26
推理
部署
投机解码该验几个 token:DSpark 和 vLLM 的在线估计器

🌪️昇腾 310_P3 Qwen2.5 LLM VLM Emb Rerank部署

技术分享
2025-5-28
llm
记录
部署
昇腾 310_P3 Qwen2.5 LLM VLM Emb Rerank部署

🌋昇腾 910_P4 Qwen2.5 LLM VLM Emb Rerank部署

技术分享
2025-5-28
llm
记录
部署
昇腾 910_P4 Qwen2.5 LLM VLM Emb Rerank部署
SimonSun
SimonSun
Internet Malou, LLM Rookie, Bug Maker🤧
文章
3
分类
4
标签
37
最新发布
投机解码该验几个 token:DSpark 和 vLLM 的在线估计器
投机解码该验几个 token:DSpark 和 vLLM 的在线估计器
2026-11-5
Simon‘s 中转站始末(已挂)
Simon‘s 中转站始末(已挂)
2026-11-5
天黑得早了
天黑得早了
2026-11-5
劳动节假期-广州小计
劳动节假期-广州小计
2026-10-8
读A.I. Should Elevate Your Thinking, Not Replace It 有感
读A.I. Should Elevate Your Thinking, Not Replace It 有感
2026-5-9
vibecoding skill 集合使用历程记录
vibecoding skill 集合使用历程记录
2026-5-9
公告
🙌README🙌
🤯There is nothing left
in my right brain,
🤯and there is nothing right
in my left brain...
⭐I wish you every success⭐
 
2023-2026SimonSun.

Blog de Simon🫣 | Internet Malou, LLM Rookie, Bug Maker🤧

Powered byNotionNext 4.11.0.