标签： 本地
-
讯飞开源 Spark-X2.6-4B 实测：3.3GB 权重跑进 16GB MacBook，三档思考的坑我先替你踩了
讯飞 10 月 22 日开源 Spark-X2.6-4B 端侧模型，Apache 2.0、Q4_K_M 权重仅 3.3GB。我在 16GB MacBook 上用 llama.cpp 实测：3.4 秒加…
-
小米开源 Xiaomi-Lens-0 实测：4B 模型边说边「指」，我用官方 Space 跑通了第一例，也踩了两个额度坑
小米 SeerRay-Lab 开源的 Xiaomi-Lens-0 基于 Qwen3.5-4B，边生成回答边输出像素级分割掩码，Apache 2.0 共 9.2GB 权重。本文用官方 Space API…
-
Superwhisper 开源 S1-mini 实测：462MB 小模型把 ASR 乱稿洗成正式文稿，我在 Mac 上跑了一遍
Superwhisper 开源的 S1-mini 基于 Qwen3-0.6B 微调，专做 ASR 文稿清洗，量化后仅 462MB。本文在 Apple M4 上用 llama.cpp 实测 7 组用例：…
-
LFM2.5-24B-A2B 实测：激活只有 2B 的 24B 端侧模型，我在 16GB MacBook 上踩了一遍内存坑
Liquid AI 开源的 LFM2.5-24B-A2B 是 24B 总参、每 token 只激活 2B 的端侧 Agent 模型。本文在 16GB 内存 Apple M4 上用 llama.cpp …
-
Headroom 实测：给 AI Agent 压上下文，token 最高省 98%，但有个默认行为你必须知道
Headroom 是 GitHub 本周趋势第一的开源上下文压缩层（75k 星、Apache-2.0），在工具输出、日志和 RAG 内容进入大模型前先压一道，帮 Agent 直接砍 token 成本。…
-
EmbeddingGemma 2 上手指南：740M 参数把文字、图片、音频压进同一个向量空间，M4 本机实测
Google 刚开源的 EmbeddingGemma 2 是一个 740M 参数的多模态嵌入模型，能把文本、代码、图片、视频、音频统一映射到同一个 768 维向量空间。本文在 M4 Mac 上实测：从…
-
Agent Reach 实测：一条命令给 AI Agent 装上联网能力，B站搜索免 Key 跑通
AI Agent 写代码很利索，联网取资料就抓瞎：Twitter API 收费、Reddit 403、B站风控、小红书登录墙。GitHub 9.2 万星的 Agent Reach 把十几个平台的接入选…
-
llama.cpp 决策模型实测：/v1/systemone 一次前向出概率，M4 跑通 Kev-4B，中文比英文省 28% token
llama.cpp 10 月 2 日合入 /v1/systemone 端点，决策模型从此能跑在自己机器上，不用再绑任何厂商 API。我在 M4 Mac 上实测 Kev-4B 与 Julia-1 两个官…
-
OpenAI Dots 开源平替实测：Mac 自托管 Open Dots，30 行代码吃上本地模型
OpenAI Dots 限 Pro 订阅还缺席多数地区，开源平替两天涨了四百星。我在 M4 Mac 上实测自托管全流程：五分钟起服务，发现它不兼容 Chat Completions 协议，Ollama…
-
小米 MiMo-V2.6 开源上手：AA 46.3 分登顶的万亿级全模态模型，API 调用、本地部署与四款模型怎么选
小米 9 月 22 日开源 MiMo-V2.6：Pro 以 AA 46.3 分登顶开源权重第一，全模态输入加 1M 上下文，价格不变。本文讲清四款模型怎么选、两条 API 路线怎么走、缓存命中后单任务…
广告