READING NODE

文章内容阅读页

本页面围绕单篇资讯的完整阅读体验进行编排,兼顾内容层次、信息辅助与延展阅读设计,让访问者能够更舒适地完成整篇浏览。

Full Reading
Share View
Insight Card

前DeepSeek作者开源Linger:12GB显卡跑125B模型是真的,但“零Token费”省下的钱,从内存条和电费里又花出去了

一块12GB显存的RTX 3060,跑125B参数的Qwen3.8-Flash-Next,45.5 tokens/秒,不按Token付费,数据不出本机。 这是Linger发布时被转得最多的一句话。前DeepSeek V1作者、DeepSeek-VL项目负责人张博(Tony Zhang)11月19日开源了这个本地个人Agent,GitHub星标几天内破三千。官方把它比作“个人电脑的诞生”——AI不该只活在数据中心里,按Token租给你,智能应该完全由你拥有。 我花了两天把它的文档、GitHub issue和几篇实测翻了一遍。 “12GB跑125B”是真的,但它有一个官方没放在标题里的前提。而“零Token费”省下的钱,从另一个你没想到的地方又花出去了。 第一笔账:12GB是入场券,64GB内存才是账单 45.5 tokens/秒这台机器,插着 64GB内存 。 官方文档写得很清楚:125B模型跑在 12GB显卡加64GB内存 上,靠的是PolyStrata推理引擎—— 把模型最繁忙的专家留在GPU显存,其余专家放在系统内存或SSD,用到时再搬运进来 。Qwen3.8-Flash-Next的2-bit量化文件约 39GB ,靠分层调度运行,不会一次性载入显存。 内存少一半,速度直接掉一个量级。 官方另一组硬件规划测试: 12GB显卡配32GB内存的模拟配置下,同一个模型速度掉到21.3 tokens/秒,首字延迟约3分钟 。有16GB显卡的用户实测后留了一句很直接的话:“ 他们只告诉你12G显存也能跑125B,但是没告诉你至少要拥有96G的内存 ”。 “12GB显卡”是一个精确的营销数字,但它不是完整的门槛。 一张二手3060 12GB大概千元出头,四根32GB DDR4内存才是真正让这台机器“跑得动”的东西。而且45.5 tokens/秒是 2-bit量化下的稳态速度 ,官方没有给这一档的质量评分——量化损失多大,需要你自己拿任务去测。 省掉的是API账单,换来的是硬件、电费和“首字等三分钟”的耐心。 第二笔账:零Token费只对“本地那一半”成立,后台记忆任务永远跑在云端 Another Me是Linger最值得认真看的部分。它 持续读你的收件箱、日历和Slack ,每晚把邮件、聊天、会议整理成本地知识库,按紧急程度决定什么时候提醒你——客户周五要报价,它周三才提醒;会议时间一改,立刻通知。LoCoMo长期记忆基准 95% ,超过Mem0、MemOS。 但官方文档里有一句容易被跳过的话:后台记忆和Wiki生成,用的是Claude Code或Codex等运行时。 只要你挂着云订阅, 每晚整理时读到的邮件和聊天,照样会发给那家服务商 。Linger本身 不带模型,只是一个壳 ,本地模型挂在Pi后面跑,单次问答不花钱;但后台记事这一步, 并没有完全留在本地模型里 。 还有几扇门也会把数据带出去:连接Gmail、Slack等应用调用Composio,语音识别调用Soniox,实时语音调用xAI,使用远程模型时提示词和上下文发给模型服务商。 “装进自己电脑”改变的是“资料存放在谁手里”,不是“数据绝对不出门”。 零Token费只对本地推理这一半成立; 另一半夜里在跑,账单和数据流向都取决于你接的是谁。 第三笔账:没有沙箱,它拿的是你的系统权限 这是Linger最需要被认真对待的一条边界,官方自己写得很直白。 Linger没有沙箱隔离。 助理直接以你的系统权限执行任务, 你已登录的邮箱、桌面文件和命令行它全都能碰 。拦住误操作靠的是 服务端校验和弹窗确认卡 ——读取类操作直接执行,发邮件等写入操作才弹确认。 “弹窗确认”不是“沙箱”。 沙箱是把程序关进一个受限环境里,它碰不到外面的东西;确认卡是在它伸手的时候问你一句“可以吗”。如果模型被诱导、或者你在疲劳时顺手点了“允许”, 权限边界就消失了 。有实测者给的建议很务实: 先拿测试号和空文件夹跑一晚,别一上来就绑主力邮箱 。 许可证也值得看一眼。Linger基于 Apache 2.0加了商业限制 :未经授权,其他企业 不得把源码作为托管服务提供给外部用户 ,也不得删改前端Logo和版权信息。个人用、本地跑,没问题;想拿它做托管生意,得先谈授权。 它和OpenClaw、DS-Bot到底差在哪:张博自己给了答案 有网友在X上问它和OpenClaw、DeepSeek DS-Bot的区别,张博的回应很具体。 OpenClaw 更侧重 接入常用聊天软件,以及Bot和群组之间的协作 ; Linger 更关注 人与自己的Agent之间的协作,以及Agent对本地电脑环境的操作 。 DS-Bot 是基于DeepSeek Harness的插件,模型通过用户配置的API调用; Linger不绑定单一Harne

about image

觉得有用?分享给朋友

让更多人看到这篇内容,也欢迎继续浏览平台中的其他相关资讯。

推荐阅读