标签
大模型部署
-
把大模型推理速度翻倍：腾讯混元开源 AngelSpec，教你部署投机解码
大模型推理贵、慢、卡，这件事困扰整个行业太久了。 7 月 30 日，腾讯混元团队甩出一个新开源项目：AngelSpec。这是一个端到端的投机解码（Speculative Decoding）训练与部署框…
-
DeepSeek V4核心架构曝光：万亿参数、百万上下文，这次还有华为
4月上旬，AI圈被两条消息刷屏：Anthropic扔出了Claude Mythos这张王炸，Google开源了Gemma 4。但真正让我认真看完全部技术细节的，是DeepSeek V4架构论文的意外流…