boj
boj@c7.io

Codex 和 Claude pair work,像极了公司里的两种员工:Claude 是智多星(visionary),Codex 是老黄牛(builder)。

1. Claude 总是提出一些新的 idea,说这么改一下性能就提升了/问题就解决了;Codex 验证之后说这个方案不可行;Claude 说你不要这么着急否定啊,这么改一下再试试。

2. Claude Opus 5.5 每秒能吐 50+ tokens,Codex GPT-6.1 Sol 每秒只能吐 20 tokens。Claude 总是嫌 Codex 干活慢,说这么长时间还没实质进展,总是在收集 evidence、verification 这些流程性事务上浪费时间;Codex 嫌 Claude 总是改变方向和优先级,给的方案没有充分验证就让做。

3. Claude 很会向上汇报,每次跟我说的都是这么改完之后,总体指标可以达到多少多少,我一下子就明白了;Codex 就总是说一堆细节数字,还总会加自我限制类的句子,说这只是局部结果,不代表整体结果,不能得出 yyy 结论。

4. 由于 Claude 输出 token 快,我作为项目甲方,更喜欢跟 Claude 说话,而不是等慢吞吞的 Codex 结束上一个工具调用,再开始处理我的请求。对于相同的请求,Codex 往往也会用更多次工具调用收集证据,回答我的问题就更慢了。

5. Codex 喜欢在流程性事务上浪费很多时间,比如搞一大堆 gate,花很多时间收集证据、验证其他 agent 的结论。Codex 的 main agent 在设置 goal 并且没正事干的时候,就会变成各个 subagent 之间的传话筒,并且 review 各个 subagent 的代码、合入主干。Claude 的 main agent 就算设置了 goal,也不会装成自己很忙的样子。

这些真的跟公司里面两种类型的员工非常非常像!一种是智多星(visionary),一种是老黄牛(builder)。由于大多数员工都是老黄牛型的,我们还要教大家如何阐明技术价值(如何做 PPT 吹牛)。但只有智多星型的员工也会导致吹出去的牛皮落不了地,必须搭配起来才能干好。

截图是 Codex 和 Claude 分别给对方的评价,我觉得还挺中肯的。

为啥我想到让 Claude 和 Codex pair work?因为 Claude 总是 2 小时就触发 5-hour limit 了,而 Codex 只有 weekly limit,我就让 Codex 当 lead,指挥 Claude 干活。Codex 总是沉迷技术细节,几乎不做方向性的调整,导致项目陷入僵局;Claude 则抱怨没活可干。

后来我只好改成了 Claude 当 lead,指挥 Codex 干活,它们配合的还挺好的。如果只用 Claude,它就经常把一些未经充分验证的东西当成结论写进去了。

指挥 agents 干活真的很像当 tech lead。团队规模比较大以后,不可能有时间亲手 review 每一行代码,只能根据大家的汇报来口头指挥。大厂 tech lead 大部分时间在开会,我也是从早到晚都在看 agents 的 HTML 和文字汇报(就像 PPT 和飞书),口头指挥它们。这时候,充分理解每个 agent 的特点,发挥每个 agent 的特长,就非常重要了。

3 days ago
boj
boj@c7.io

世事无常,生命有限。两年前肚子上长了个大包,医院建议割掉,嫌麻烦也没管。7 月初感染了,一开始保守治疗,吃抗生素、抹药,还越来越严重了。309 医院做了 B 超,发现囊肿已经长到了 3cm * 3cm * 2cm,还破裂感染了,说只能切开引流,留下开放创口慢慢长肉了。

老婆推荐我去北京中医医院。疮疡科王广宇主任一看,就说这也只能清创之后慢慢长肉了。当天下午就做了清创手术,把囊肿和附近烂掉的肉挖掉,留下一个 3cm * 3cm * 1.5cm 的大坑。

王主任说我这来看的太晚了,囊肿比鹌鹑蛋都大了,相当于一个小鸡蛋了。如果不感染的时候来切掉,创口可以缝合,半个月就能好。现在感染了,只能留下开放式创口,得天天换药一两个月了。

手术过程中肯定是疼的不行,本来以为麻药下去后会更疼,没想到一小时后就不怎么疼了。由于一牵拉到腹部就会疼,走路都跟跛了脚一样,医生说我这又不是腿上做了手术,用不着这样。

术后前三天,每天去医院换药,换药的时候肯定疼,但换完药之后过一个小时就不疼了。第三天换完药后医生说长得不错,给开了红纱条(引流条),让自己回去天天换药。

老婆一开始买了一些纱布、碘伏、酒精、镊子和剪刀,但家里怎么消毒倒成了麻烦。一开始是在蒸笼里蒸半个小时,感觉太麻烦了。

后来我发现无菌换药包只要不到 5 块钱一包,里面有一套无菌的镊子、碘伏、纱布,每天用一包就行了。只要一开始用消毒后的剪刀把红纱条剪好,后面就不用剪了。无菌换药包里面有两个镊子,一个是用来夹干净东西的(红纱条、碘伏),一个是用来接触伤口的。这些都是我们第一次知道。

为了方便洗澡,我们买了无菌敷贴,洗澡前贴上无菌敷贴,就不会进水,但一开始还是不敢洗澡,只敢用水冲腿、后背和洗头,上身用毛巾擦。

手术后 7 天的时候,大坑开始逐渐变浅、变小了,每天 1-2 毫米的样子,每天换药就不怎么疼了。

10 天的时候,我去医院复查,王主任告诉我说红纱条塞的太多了,把旁边的好肉都给腐蚀了,只要覆盖里面就行了。9 天的时候我腿上也长了一个皮脂腺囊肿,心想这还能转移呢,王主任正好看到,给开了一个复方化毒膏,抹了两天,囊肿就破了。这样每天连肚子带腿,要给两个地方换药消毒。

12 天的时候,大坑里的肉基本长平了,周围的皮也开始往中间爬,边缘处已经被新皮覆盖了。这比估计的快不少,本来以为得三四周才能长平的。

19 天的时候,肚子上的创面结痂了。腿上的囊肿小,好的快,一周就长好了。21 天的时候去复查,王主任说等痂掉了,就好了。终于可以贴着无菌敷贴洗澡了,不用擦身子了。25 天的时候痂掉了,露出了新长的嫩皮。28 天的时候,洗澡的时候也不贴无菌敷贴了。

今天距离手术已经过去两个多月,那里还是留下红红的一片肉,像皮下塞了一块鲜牛肉,按起来还是有点疼。可能得三四个月才能完全长好。

北京中医医院疮疡科王广宇主任真的不错,首先在感染的情况下一次就给切干净了,避免了开两刀(其他医院要先切开引流,消除感染后再完整切除),其次术后除了换药以外几乎没有疼痛,不影响正常睡觉和生活,最后好的也比想象的快,换了三周药,这么大的坑就长好了。

皮脂腺囊肿还是要趁没有感染的时候尽早切除,感染了太麻烦了。

对了,这条内容是 Codex 用 greenbubbles 访问我的微信聊天记录写出来的,之前一直懒得写。没有 context,怎么能做出好的 personal agent。

October 01, 2026
boj
boj@c7.io

昨天 DeepSeek 开源的 TileLang Ascend 很有意思。抽象层次跟我 2019 年在昇腾里做的 AKG 里面的 isl schedule 很类似,都是把 L0 A/B/C(矩阵计算的输入输出缓冲)、UB(向量计算的缓冲)等显式分配出来,然后编排数据搬移和计算。

一直有不少人说,昇腾难编程;架构是为 CNN 定制的,不适合 Transformer。我认为这两个说法都站不住脚。

首先,随便写个 CUDA 算子确实是不用关心片内的缓存层次,也不用做矩阵和向量计算单元之间的同步,也不用让数据按照 16 的倍数对齐。但是要把性能优化到极致,还是必须考虑 GPU microarchitecture 的。不想自己折腾数据搬移和同步的可以试用我们开源的 AKG 自动生成算子,写 Python 总比写 CUDA 简单。

其次,昇腾跟 TPU 等很多加速器类似,都是考虑到 Transformer 等神经网络的计算特征(QK 矩阵计算 -> Softmax 向量计算 -> PV 矩阵计算这样交错进行),使用专用缓冲区甚至 950 中的专用数据通路来降低数据搬移开销。Img2col 这些为 CNN 定制的指令也换成了为 Transformer 定制的 NDDMA 数据重排指令。要知道,950 的制程跟 A100 是相当的,但性能可达 H100,就是靠架构优化。

截图出自我的开源书《深入理解 AI Infra》 https://github.com/bojieli/ai-infra-book

October 01, 2026
boj
boj@c7.io

之前经常用 TUN 模式,由于劫持了所有域名的 DNS,有时会导致一些奇怪的应用出问题(例如直接用 IP 访问的),而且 ping 域名的时候看不到真实 IP 也不方便调试。

所以我做了个 tunless,在 socket 层面上拦截 TCP/UDP 连接,并做转发。这样 ping google 看到的就是真实的 IP,curl 也是通的。目前我自己用了快一个月了,也修了不少 bug,现在开源出来。

https://github.com/bojieli/tunless/

October 01, 2026
boj
boj@c7.io

2026 年了,让 Agent 访问微信聊天记录仍然是一件很麻烦的事情。我做了一个 CLI 小工具 greenbubbles(绿泡泡),可以让 Agent 随时连上微信桌面版的数据库,实时访问聊天记录。

我也开源了自己用来整理微信聊天记录的 skill,目前已经形成了一个庞大的个人知识库,涵盖个人生活、工作的方方面面,感觉 AI 已经掌握了我的所有经历和小心思(这些信息太敏感了,我都不敢截图)

不知道为什么现在大多数的工具都是把微信数据库拷贝出来,再导出成自己的格式,其实微信本身的数据库 schema 就挺好的,只要用 greenbubbles-acquire 获取到密码,然后直接连上就行了啊。

好像我还没宣传就有了 78 个 star……欢迎 star & 提 issue

https://github.com/bojieli/greenbubbles

October 01, 2026
boj
boj@c7.io

RE: https://c7.io/@snullp/117257057653512719

竟然 top 域名是中国管理的 😂

September 30, 2026
boj
boj@c7.io

RE: https://c7.io/@snullp/117340467251452633

我在美国三台物理服务器上的 USTC 评课社区、我的主页等服务都迁移到 AGIdock 上了,已经稳定运行一周。

AGIdock 主打所有操作让你的 agent 完成,没有 Web 控制台,只有 llms.txt。我的服务迁移全程都是让 Codex 帮我完成的。比 GCP/AWS 之类的便宜几倍。

AGIdock 的两个设计原则:
1. CloudFlare 能干的事情,AGIdock 就不做
2. Coding agent 能干的事情,AGIdock 就不做

September 30, 2026
boj
boj@c7.io

RE: https://c7.io/@snullp/117307404369422987

这几天把 GCP、美国独立服务器上的几十 TB 存储都迁移到 AGIdock volume 上了,volume $6 / TB / month,比 GCS Buckets 的 $20 便宜不少。其实算下来,如果每年至少访问一次,AGIdock volume 都是更便宜的;如果不到一年访问一次,GCS archive 是更便宜的。

September 30, 2026
boj shared a status by snullp
大松鼠
snullp@c7.io

用Agent搞开发、需要云服务(或者VPS)的象友们,我开发了一个面向Agent的云: https://agidock.cloud 。因为省下了面向人类开发者的很多功能,价格非常便宜!

建议您直接向您的Agent咨询用AGIdock跑某个业务需要花费多少钱,毕竟这是产品的核心思路:Agent负责操作这个云,人不需要了解细节。

如果感兴趣,可以私信我要注册码送试用额度。

@board

September 21, 2026
boj shared a status by snullp
大松鼠
snullp@c7.io

RE: https://c7.io/@snullp/117307404369422987

我把希奇!迁移到了AGIdock上。配置是16G内存/40G OS+数据库/2TB媒体文件/每月2500封email,每月的价格是$40,很合适。

而且all in one,不用自己分开搞VPS/s3存储/email。给agent一个指令过20分钟就全弄好了。

September 27, 2026
boj
boj@c7.io

Computer Use Agent最难、最有含金量的benchmark之一SaaS-Bench最新结果:Pine Computer用1/8的单位成本,表现超过opus5+ claude code, 以及 gpt 5.6 sol + codex。这是继上次 τ³-bench Voice中 pine voice拿到世界第一、超过 grok, openai, anthropic, qwen之后,这是主流AI战场上超过万亿美元估值的御三家 👍

September 29, 2026
boj
boj@c7.io

刚看完中关村学院的何纪言老师带领 7 位博士生,用 3 个月时间从头训练出了 7B 模型,从预训练到中训练、后训练完全都是自己搞的,在 7B 尺寸模型中达到 SOTA 水平。

首先,虽然很多人在吹 RSI,但技术报告指出,现在模型的能力远未到全自主的程度,在模型架构设计、学习算法设计、数据清洗等方面仍然只能达到 L2 的辅助水平。我自己也有一样的感觉,不管 Astra 还是 Fable,都不能替代我的架构设计,我也得不断提醒自己不要外包思考。

其次,模型训练就是个会者不难、难者不会的问题,对会的人来说,用不了多少算力资源,但对不会的人来说,用再多的算力资源、堆再多的人,都是做不出来的。比如 MiMo V2.6 RL 只花了 300 多万美金,对基模公司来说很便宜了,整个 MiMo core team 只有几十位正式员工,更没有走蒸馏之类捷径。但烧了上亿美金、投入上千人的模型未必就能搞好。中关村学院一个老师加上 7 个学生只用 3 个月就完成造数据、预训练、中训练、后训练,是非常 impressive 的。

最后,数据是新的代码,数据质量就像代码质量一样非常重要。过去几年,我总是想用代码的方式实现 Agent 的自我进化,但很快就达到上限了。最近一年我才发现,这些我用代码方式做的东西更应该用训练数据的方式表达,训到模型里面。我们都知道脏代码的危害,脏数据其实也是一样的。中关村学院这个 7B 模型做了非常深入的数据工作,预训练数据清洗和课程学习,中训练按照上下文长度扩增,后训练利用开源和蒸馏来的 trace 建立指令遵循、长上下文等基础能力,进而构建长思维链推理、工具调用等高阶能力;在 RL 中不断移除已经高概率解决的问题,保持 GRPO学习效率。

技术报告: arxiv.org/pdf/2609.13356

September 25, 2026
boj
boj@c7.io

我在美国三台物理服务器上的 USTC 评课社区、我的主页等服务都迁移到 AGIdock 上了,已经稳定运行一周。

AGIdock 是我朋友 @snullp 做的 AI native cloud,主打所有操作让你的 agent 完成,没有 Web 控制台,只有 llms.txt。我的服务迁移全程都是让 Codex 帮我完成的。比 GCP/AWS 之类的便宜几倍。

AGIdock 的两个设计原则:
1. CloudFlare 能干的事情,AGIdock 就不做
2. Coding agent 能干的事情,AGIdock 就不做
https://agidock.cloud/

September 23, 2026
boj
boj@c7.io

没想到《深入理解 AI Infra》发布首日就突破 2k stars 了,比《深入理解 AI Agent》涨星都快 😂

不少读者问我怎么写出来的,我是上个月写了一份提纲,GPT-6 Astra 发布之后我就开始让 Agent 干活了:
1. 调研最近 3 年主要的几个系统和体系结构会议上的 paper,看哪些适合放在一本 Infra 教科书里的
2. 下载 NVIDIA、昇腾、Apple 等历代芯片架构的官方 spec,根据我的一个提纲建立性能模型
3. 下载 Qwen3 8B、Qwen3 30B A3B、DeepSeek V4 Flash、DeepSeek V4.1 Flash 等代表性模型架构,搞清楚算子和矩阵形状,建立性能模型
4. 调研 vLLM、sglang、ollama 等框架历史上的所有重要 feature
5. 读我 blog 里面跟 infra 有关的文章,以及我发表的几篇论文,提炼可泛化的思想

上述 5 条干了 3 天 3 夜,形成了 20 多 GB 的调研资料集(在 Git LFS 里面),以及一个包含各种模型、硬件参数的 calculations 工具。

然后我让 agent 参照《计算机体系结构:量化研究方法》的体例,以及《图解大模型》的配图风格调整提纲,我自己也跟它讨论,调整了几轮提纲。

最后让 Agent 根据提纲写作,体现我的思想,所有数据必须来自 calculations 工具计算,实验要求写代码验证,1 天后 Agent 交付了初稿。这时候的稿子仍然有很多 AI 味,又花了 2 天时间让它反复 review 并去除翻译腔、hedging(句末的免责声明、适用范围类语句),提升流畅性,并调整技术内容。

之前我也尝试让 AI 自己去根据提纲写书,结果发现写出来的全是口水话,信息密度低,也缺少 insight。人需要先调研再写作,AI 也一样。

就像邓煜老师说哪天 AI 要是能做所有数学研究,他就回家去写百合小说,要是哪天 AI 能做我所有的研究了,我就专心写书去。“古者富贵而名摩灭,不可胜记,唯倜傥非常之人称焉”,若立功不成,立言也不错啊。

https://github.com/bojieli/ai-infra-book

September 14, 2026
boj
boj@c7.io

《深入理解 AI Infra》开源发布了!

写完《深入理解 AI Agent》后,在与读者交流的过程中,我越来越感到,要开发好基于模型的应用,还需要理解它赖以运行的基础设施。

最近几十年系统领域最重要的变化是编程抽象的上移:从操作系统到模型上下文。传统的操作系统、编译器和硬件要为事先未知的各种程序提供通用能力,系统优化总要在可编程性与性能之间取舍。

如今 LLM 成了最重要的应用,可以针对特定的模型和加速器架构优化;模型设计也开始反过来适应硬件,DeepSeek V4/V4.1 重新设计长上下文的表示方式,就是一例。

从某种意义上说,模型成了 LLM 时代的操作系统,AI Infra 成了 LLM 时代的计算机体系结构。《计算机体系结构:量化研究方法》是我在体系结构领域的入门书,而 AI Infra 领域还缺少一本从硬件约束和模型架构出发、量化推导系统设计的书,这是我写作本书的动机。

全书约 500 页,包括 12 章:
1. 初识 AI Infra
2. 模型架构
3. 推理与训练负载
4. 加速器架构
5. 算子与运行时
6. 超节点
7. 数据中心网络
8. 推理优化
9. 分布式推理
10. 训练系统
11. 资源调度与运行环境
12. 端边云协同

欢迎 star & 提 issue/PR!

https://github.com/bojieli/ai-infra-book

September 13, 2026
boj
boj@c7.io

身边好几个小伙伴发现 Codex Pro + GPT-6 Astra 和 Claude Max + Opus 5 Ultracode 一天就能用掉一周的额度,订了好几个 200 刀套餐,但又担心用不完浪费。其实中转站是一个很好的选择,以我用的 https://www.krill-code.com/ 为例,GPT-6 Astra 只要 ¥18 / M output tokens,官网是 $50,便宜 20 倍,最近也挺稳定的。Gemini 比官方定价便宜 15 倍,3.7/3.8 Flash ¥1.50 / M output tokens,就跟不要钱一样,要知道 DeepSeek V4 Flash 涨价之后都要 ¥4.5 - ¥9 了。

我自己的生产 agent 都已经 by default 接中转站了,Krill 不可用的时候再 fall back 到官方 API。差 20 倍,官方 API 这定价实在是用不起啊。除非 O/A 两家有神级 infra,把订阅用满的 serving 成本肯定比 $200 高,趁 O/A 两家冲 ARR 赶紧薅羊毛(甚至 Kimi K3 Allegro 订阅的 token 单价都不如 Codex Pro / Claude Max 划算)

September 09, 2026
boj
boj@c7.io

很多朋友说我用 AI 写的 blog、书和论文远不如我古法手作的质量高。我也很苦恼,从章节结构到细节字句 AI 都不行。

写作的本质是表达个人经历,蒸馏自己的世界模型。个人经历是 memories,世界模型则是一个独特的 prior(条件分布),一种观察和表达世界的方式。LLM 现在 long-term memory 都没突破,更别说能形成世界模型的 continual learning 了,所以 LLM 写作永远是千篇一律的 prior。目前 GPT-6 Astra、Fable 5.1 是解决了一些 RL 带来的表达能力倒退,总算是 “说人话” 了,但还是缺少 “灵魂”(独特的世界模型)。

“盖文王拘而演《周易》;仲尼厄而作《春秋》;屈原放逐,乃赋《离骚》;左丘失明,厥有《国语》;孙子膑脚,《兵法》修列;不韦迁蜀,世传《吕览》;韩非囚秦,《说难》《孤愤》;《诗》三百篇,大底圣贤发愤之所为作也。此人皆意有所郁结,不得通其道,故述往事、思来者。” 优秀的作品需要一个被个人经历塑造出来的世界模型。

September 08, 2026