誰在線上

正在瀏覽這個版面的使用者: 沒有註冊會員 和 94 位訪客

"AI coding 的 token 消耗,其实可以砍 71 倍"

歡迎各位影音 fans 齊齊吹水

"AI coding 的 token 消耗,其实可以砍 71 倍"

文章發表人 mtr 發表於 2026-07-12, 22:03

https://www.facebook.com/oyxiang/posts/ ... tQ83d7h17l

Graphify 官网: https://graphify.net/
Graphify Github: https://github.com/Graphify-Labs/graphify


AI coding 的 token 消耗,其实可以砍 71 倍。

同一个 query,有人烧 12 万 tokens,有人只烧 1,700。差距的关键就在 context 怎么喂给 AI。

你每个月给 AI 的 API fee,一半可能是烧在 "让 AI 认识你的 project" 上面而已。

每次开新 session,AI 都不认识你的 codebase。它要从零开始,一个 file 一个 file 读,一层 folder 一层 folder 翻,才能搞懂你在做什么。你还没打 prompt,20,000 tokens 已经消耗掉了。

Codebase 越大,烧得越凶。一半的算力其实是花在帮 AI 认路。

很多人以为用 /compact 之类的压缩功能就可以省。这些功能是把当前 session 的对话历史压缩成摘要,让你腾出空间继续做工。但它有两个问题。

第一,它是事后压缩。你已经烧掉的 tokens 拿不回来,它只是让你撑久一点。

第二,摘要一定会失真。原本 AI 对你 codebase 的理解,压缩后就变模糊。下一轮它可能又要重新读那些 file。

你陷入一个循环:读 → 压缩 → 忘 → 又读 → 又压缩。Tokens 一直在漏。

有个工具叫 Graphify。

它先把你整个 project(连同 code、docs、papers、diagram)建成一张 knowledge graph,像给 AI 一张地图。之后 AI 要什么,查地图对应的区块就好。

File 一改,它只 patch 受影响的部分,不用 rebuild 整张图。跑得快,也省。

再配合 Obsidian 这个工具当 second brain,这张地图永久存在你的 vault 里。跨 session、跨 project 都记得住你之前做过什么。

实测数据:单次 query 的 token 消耗少 71.5 倍。有时候甚至更多。

底子也够硬:Graphify Labs 是 YC S26 batch,GitHub 56k+ stars,PyPI 累积下载 110 万次,21 家 Fortune 500 在 enterprise waitlist,Rootly AI Labs 已经 production 用。

如果你每个月的 API 单已经贵到不敢乱开 session,值得花一个下午 setup 这个组合。一次做好,之后每个 project 都可以省很多了。
mtr
Fun區守護神 - 變淫大金剛
Fun區守護神 - 變淫大金剛
  頭像
 
文章: 58639

註冊時間:
2007-04-17, 19:21

Re: "AI coding 的 token 消耗,其实可以砍 71 倍"

文章發表人 joe 發表於 2026-07-13, 05:06

:great: :great: :great:
joe
Fun區皇室 - 出野大魔王
Fun區皇室 - 出野大魔王
  頭像
 
文章: 15860

註冊時間:
2005-03-17, 09:35


回到 影音 fun 區