标签: 本地
-
百度开源 Unlimited OCR 2 实测:一次读完 3600 页的 OCR,我在 16GB MacBook 上把它跑通了,多页模式有个数字坑
百度 10 月 27 日开源的 Unlimited OCR 2 把文档解析上限推到「无限页」。本文用官方 Space 和 16GB MacBook 各实测一遍:单页 19 秒输出带坐标的结构化 Mar…
-
LFM3 实测:六款 2B 级模型共用一个骨干,16GB Mac 上我跑通了文本、视觉、音频和决策
Liquid AI 的 LFM3 把文本、视觉、音频、决策塞进 1.7B 骨干,六款权重各 1.1GB。我在 M4/16GB 上编译 llama.cpp master 跑了四款:文本 65 tok/s…
-
Hob 实测:开源离线 AI 桌面端,16GB Mac 上它替我挑了 5GB 模型,预测 35 tok/s 实测只有 27
Hob 是 10 月 26 日开源的本地 AI 桌面端,不选模型、不要账号,装完先扫你的机器。我把它的选型代码抽出来,在 16GB M4 上跑出它给的答案:推荐 Gemma 4 E4B、预测 35 t…
-
讯飞开源 Spark-X2.6-4B 实测:3.3GB 权重跑进 16GB MacBook,三档思考的坑我先替你踩了
讯飞 10 月 22 日开源 Spark-X2.6-4B 端侧模型,Apache 2.0、Q4_K_M 权重仅 3.3GB。我在 16GB MacBook 上用 llama.cpp 实测:3.4 秒加…
-
小米开源 Xiaomi-Lens-0 实测:4B 模型边说边「指」,我用官方 Space 跑通了第一例,也踩了两个额度坑
小米 SeerRay-Lab 开源的 Xiaomi-Lens-0 基于 Qwen3.5-4B,边生成回答边输出像素级分割掩码,Apache 2.0 共 9.2GB 权重。本文用官方 Space API…
-
Superwhisper 开源 S1-mini 实测:462MB 小模型把 ASR 乱稿洗成正式文稿,我在 Mac 上跑了一遍
Superwhisper 开源的 S1-mini 基于 Qwen3-0.6B 微调,专做 ASR 文稿清洗,量化后仅 462MB。本文在 Apple M4 上用 llama.cpp 实测 7 组用例:…
-
LFM2.5-24B-A2B 实测:激活只有 2B 的 24B 端侧模型,我在 16GB MacBook 上踩了一遍内存坑
Liquid AI 开源的 LFM2.5-24B-A2B 是 24B 总参、每 token 只激活 2B 的端侧 Agent 模型。本文在 16GB 内存 Apple M4 上用 llama.cpp …
-
Headroom 实测:给 AI Agent 压上下文,token 最高省 98%,但有个默认行为你必须知道
Headroom 是 GitHub 本周趋势第一的开源上下文压缩层(75k 星、Apache-2.0),在工具输出、日志和 RAG 内容进入大模型前先压一道,帮 Agent 直接砍 token 成本。…
-
EmbeddingGemma 2 上手指南:740M 参数把文字、图片、音频压进同一个向量空间,M4 本机实测
Google 刚开源的 EmbeddingGemma 2 是一个 740M 参数的多模态嵌入模型,能把文本、代码、图片、视频、音频统一映射到同一个 768 维向量空间。本文在 M4 Mac 上实测:从…
-
Agent Reach 实测:一条命令给 AI Agent 装上联网能力,B站搜索免 Key 跑通
AI Agent 写代码很利索,联网取资料就抓瞎:Twitter API 收费、Reddit 403、B站风控、小红书登录墙。GitHub 9.2 万星的 Agent Reach 把十几个平台的接入选…

广告
