@dacapoday nvidia dgx spark ，只是有钱没钱的区别。

https://mp.weixin.qq.com/s/DE0hc3Mz6zwoSCgL0k4SgQ

这哥们儿写了一篇正当时。

你们可以看到 订阅的 tokens 都是怎么烧没的，😄。以及，当前大众上下文语境中的“AI”的边界在哪里，这个问题可以衍生的，在 coding 领域如此，openclaw 所延伸的领域亦是如此。当最熟悉的 coding 领域都如此难搞，别的开放离散场景，只会更加难搞。

和 80 年代的 专家模型，本质上是一个路数的；如果你读过 The Bitter Lesson, 就能明白，这种把人类先验知识注入的模式，终究就是走不通的。

要都是那种 LLM 生成的文本，过不了多久，就没人乐意上号发言了。就彻底完犊子了。

@qshu #3 https://github.com/bytedance/deer-flow 大厂直接出了。

没有什么是不变的，都是变化的。没有什么金饭碗，银饭碗。

LLM 的架构和能力一直再提升。

比如 RAG 这种外围工程， 就有一个新的 MSA 架构，可以在 LLM 的 网络架构上重新设计一个模块，性能和功能都比 RAG 这种外围工程要好，以后做 RAG 的就会渐渐消失。

比如 长程记忆，现在也是做外围工程，但是 当 Test-Time Training 这种范式，渐渐成熟之后，性能和功能都优于基于外围框架的 长程记忆，也会渐渐消失。

也就可能 agentic 这块，还能有点存在价值，但是也是越做越少。

现在的情况是，做外围工程的信息比 LLM 原生的进展 慢，有信息差，实际上当 LLM 的原生能力提升之后，会吞噬它周边的一些当前过渡阶段的工程实现。

qwen3.5 4B 8 bit 都比 deepseek 70B 要强。

@gigishy 不用量化版本，有那么多资源？而且，量化技术，实际上损耗很低了。unsloth 的动态量化 8bit 可以达到 95%+ FP16 的效果。

OP 这个问题，主要是：
1 ，deepseek 70B,已经很落后了。
2 ，OP 的问题，知识库里没有，还要联网搜索。

不过，我看情况猜，大概率是用的 没有动态量化的普通量化版本，而且还是类似于 2~4bit 之间的。

@myadmin #58 4s 店都能看出，你是妻管严。

确实很顺了。没遇到什么波折。

@int11 味儿真足。

@whcattail #41 凑个小分布式集群，可以用来优化 vllm/sglang, 这块儿是正当时。

@YOOHUU 都是一些肤浅的小 case 罢了，和 Linux core 关系不大。

@qshu #7 看来，你都看不懂我的观点。不是多就是好，要么你像 他 chromClaw ，用几乎免费 tokens 的成本，大而全。要么就是，定量 tokens 的情况下，大而优。不然，我凭什么用你的 maas ？我 tokens 成本多的慌，用你 maas 来玩？

不用回复我了，夏虫语冰。

@qshu #3 其实，最核心的东西，你没看明白，如果用你的这个 maas ，需要消耗多少 tokens ，你 maas 的实力到底如何，别人先不知道，但是先烧的 tokens 是实实在在的，如果你能在定量 tokens 的情况下，有服务优劣的 benchmark ，才更有卖点；说明你 maas 的中间调用是 有性价比的。

不然，什么事还没做，你来回调用几次，prompt 几个来回，烧了别人的预算，能力吹的再好有什么用？

@qshu #4 就他搞的这个 把 chatgpt / gemini webui 封装，白嫖 tokens 的东西，就比你这所谓的 agent 专家有亮点。 垂类 agent 专家的深度从哪里来？垂直领域的 LLMs ，你后训练了 接入 让用户买你的 tokens ？做不到这点，就没什么所谓更好的回答。至于更好的体验，有没有 benchmark ，证明是真的好，还是口头的好？