books · AI content
books · 读书笔记索引
INDEX.md
结构:
INDEX.md在books\根,PDF 在books\sources\,笔记在books\notes\;本表所有链接带notes/前缀。 2026-11-08 从D:\AI books迁入,备份在D:\_CleanupBackup\AI-books-2026-11-08\。
维护人:小 Q · 起始 2026-11-06
约定
- 每读一份材料(PDF / 论文 / 网页专题),在
notes\新增一份YYYY-MM-DD-短名.md,并在此表补一行。多篇论文一次性评估时可合一份笔记,但要在表里逐篇列清。 - 每份笔记固定包含:判断(值不值得读 / 怎么读)→ 结构地图 → 核心内容(带页码)→ 可复用清单 → 按目的的读法 → 局限 → 资源与待跟进 → 批注。
- "判断"必须是一句话能执行的结论,不写摘要、不写"取决于你的目标"。
- 页码一律用
pN指 PDF 文件页序;slides 类材料必须渲染核对图形,不能只信文字提取。 - 论文类材料必须查 arXiv abs 的版本历史(v1 常有后续版本),并核对项目页 / 博客是否只是论文摘要——网页里的结果表常只以图片存在,数字要回原论文取。
- 状态:已读 / 只读提纲 / 待读 / 弃读。
已评估
| 日期 | 材料 | 形态 | 状态 | 一句话判断 | 笔记 |
|---|---|---|---|---|---|
| 2026-11-06 | Becoming an AI Researcher(Stefano V. Albrecht) | 31 页讲座 slides | 已读 | 不值得当书读,值得当检查清单用 20 分钟;可直接改造成企业 AI workshop 骨架 | 2026-11-06-becoming-an-ai-researcher-slides.md |
| 2026-11-06 | AI Engineering: Building Applications with Foundation Models(Chip Huyen) | 535 页技术书,2024-12 第 1 版 | 已读(定向精读) | 事实层与范式层已过期、别照着做;评估 / 失败模式 / 数据工程 / 架构这层没老,是书架上最该精读的一本 | 2026-11-06-ai-engineering-chip-huyen.md |
| 2026-11-06 | Causal AI(Robert Osazuwa Ness) | Manning,522 页,13 章 | 已读(定向精读) | 不造世界模型,但给判定"什么才算真能干预"的尺子;几乎不过时,是三本里最该慢读的一本 | 2026-11-06-causal-ai-ness.md |
| 2026-11-06 | 机器人基础模型 4 篇(ReMEmbR 项目页 + NVIDIA 博客 + 2312.07843 综述 + X-Mobility 2410.17491) | 论文 / 项目页 / 博客,补查 ReMEmbR 原论文 2409.13682 | 已评估(分级:2 细读 / 2 略读 / 1 跳过) | 四份里只有一份值得真细读(X-Mobility,且必须换成 v3);它们是同一条 NVIDIA 技术栈上两套互不相通的"世界"——权重里的隐式预测 vs 向量库里的显式记忆 | 2026-11-06-remembr-x-mobility-papers.md |
进行中的带读(提问式笔记)
| 起始 | 材料 | 形式 | 状态 | 笔记 |
|---|---|---|---|---|
| 2026-11-06 | X-Mobility v3 + ReMEmbR 原论文 | 小 Q 带读一段 → 侃姐提问 → 原话记录 + 回答追加到笔记;一段的 done = 侃姐说"这段过了"或没新问题;无排期、不承诺下一期 | 第 1 段已开讲并仍停着(本轮在补地基,不推进);16:01 提问 #1–#4 已记录;16:13 她反馈"太深看不懂",#5 为全部概念的白话重讲版,以 #5 为准 | 2026-11-06-guided-reading-world-model-papers.md |
| 2026-11-07 | Datawhale《DIY LLM》第 2 章〈分词器〉 | 她在自学、陆续提问 → 原话 + 回答 + 时间追加;无排期、不承诺下一期 | #1 发展史与名词理顺;#2(19:30)故事化讲法 + 专有 token + ontology 进 token;#3(19:39)大模型是否自带 ontology、能否自己建本体;#4(19:46)从本体层推到商业判断:细分行业数据复用价值低 → 本体还有没有可复制价值(已主动修正 #3 一句话,停在判断层不落执行方案);#5(20:58)从概念转到动手:每种分法分出来到底差在哪 + 代码实现 + 指定 D:\AI Coding\DIY LLM\tokenizer\ 作为课程代码专区(已派独立 agent 实作,主 agent 用官方词表独立跑出验收基准)。均已回答、查证并标可信度 |
2026-11-07-diy-llm-ch2-tokenizer.md |
概念图解(真实 HTML 文件,直接打开,不用内联 SVG):
- ① 看 / 改 / 悔:三层因果阶梯 + 消融实验
- ② 七个词,一个烘箱讲完(白话版) — DAG、不确定性量化、机制不变、gap 三修法、硬经验、DTCF、ATE/CATE/QTE,零基础版
- ③ 分词器这 30 年:四次被逼出来的改动 — 名词分类表 + 时间线 + 4 个故事 + 与教材章节对照,配 DIY LLM 第 2 章
- ④ 分词器也有它的 2012(故事版)+ 两个「我能不能自己改」 — 三幕故事(Gage 1994 → 三个翻译人 2015 → 2018 分家)+ 翻车名场面 + 专有 token / ontology 两个 verdict,故事化讲法
- ⑤ 本体到底装在哪? — 三种「自带」对照 + 老师傅经验 vs 仓库台账 + 理货员/设计师分工 + 审供应商三问,配 DIY LLM 提问 #3
- ⑥ 本体能不能复制?三层,三种答案 — 上层通用大类 / 中层骨架 / 下层细节规则 + 归属判据与复利判据 + 第 1/2/3 家曲线示意 + L1/L2/L3 拉回,配提问 #4(商业判断层)
代码验证专区(D:\AI Coding\DIY LLM\)
2026-11-07 侃姐亲自指定:DIY LLM 这门课后面所有需要代码验证、或者做出容易理解的内容都放这里,按主题建子文件夹(第一个是 tokenizer/)。不要散落到 WorkBuddy 会话目录,也不要放进 D:\AI content\books\notes\(那边只放笔记)。
| 子目录 | 对应章节 | 内容 | 怎么跑 |
|---|---|---|---|
tokenizer/ |
第 2 章〈分词器〉 | 8 种自训分法同句对比 + merges 顺序表 + 两个 DeepSeek 官方词表真实分词 + index.html 可视化页;零新增依赖、完全离线;另有独立 agent 另写的一版实现可对照 |
python -X utf8 compare.py / bpe_train.py / deepseek_real.py / compare_subagent.py;不想跑代码双击 index.html |
约定:不装任何新依赖(本机已有 transformers / tokenizers / tiktoken / regex);huggingface.co 直连握手失败,词表走 hf-mirror.com 下载后已落盘在 tokenizer/data/;脚本必须实际跑通、真实输出写进 results.md 不许编造;连续失败 2 次就停手如实标注。她会明确要求「分出一个 SubAgent」来做,主 agent 负责逐项验收 —— 2026-11-07 这次验收确实抓到 agent 版本覆盖主链路模块导致的接口冲突并修复,两套实现各自保留、各自能跑。
待读队列(D:\AI content\books\sources\ 中已有,尚未评估)
| 材料 | 备注 |
|---|---|
| 知识工程和知识管理(Guus Schreiber 等,中译) | OCR 版,与本体论 / klgwiki 方向相关;下一本建议读这本,接因果里的"变量与结构显式化" |
| 计算机体系结构:量化研究方法(第5版,中译) | 与 GPU / 算力选型相关 |
跨材料关联(累积区 · books 类)
本区只记 books 类内部关联;跨类关联见
D:\AI content\INDEX.md,不重复维护。
- 评分卡 ↔ 评分卡怎么造:Becoming an AI Researcher p9–11、p13(问题 4 问、基线自检、复现清单)↔ AI Engineering ch3–4(p137–234,评测流水线三步)、ch10(p473–518,架构与反馈)。两本合起来讲 workshop 最完整。
- 评测纪律 ↔ 企业交付验收:AI Engineering p224–231 逐组件评估 + 评估指南 + 方法与数据;p322–328 agent 失败模式分类 → 可直接改成客户验收表。
- 什么才算一个可评分的世界:Causal AI ch5(p190–193 因果表征)、ch8–10(反事实 / 可识别性)↔ 世界模型四阵营辨析(Cosmos 3 / Genie 3 / Marble / JEPA,见第 3 份笔记)。制造业数字孪生要的是 L2 干预 + L3 反事实,四家产品都停在 L1。
- 知识表示:知识工程和知识管理 → 待与 klgwiki、制造业本体工作、AI Engineering ch8 数据工程、Causal AI 的 DAG 变量定义对照。
- 两套「世界」的对照(接第 3 份笔记的 L1/L2/L3):X-Mobility = 权重里的潜状态预测器(能预测、不可审计,L1 预测型,
T(s',s,a)不是do(a));ReMEmbR = 向量库里的显式时空索引(可查询可写回、不预测,纯 L1)。NVIDIA 同一台 Nova Carter 上同时押了这两套,互不相通。FDE 的「验证资产 / 受控写回」层要的是后者 + 显式因果结构。 - 事实层 / 骨架层二分再次验证:2312.07843v1(2023-12 综述初稿,3 年未更新)的模型清单全过期,但 Section VI 的五大挑战与 VI-D3 校准、VI-E1/E2 运行时监测、VI-H 可复现性在 2026 年反而更该读——与《AI Engineering》同构。
- 可直接搬进 workshop 的案例:ReMEmbR 把饮水机 caption 成
silver machine,用户问"带我去汽水机"就走错——「关联层 ≠ 干预层」的实体版,比 Pearl 公式好讲。 - 分词器 ↔ 企业交付成本:DIY LLM 第 2 章(token 数决定上下文占用与 API 计费、多语言语料配比 4:4:1:1、词表覆盖不足导致显示「乱码」)↔ AI Engineering ch3 评测 / ch10 架构。中文比英文占更多 token 是词表语料偏向、不是模型能力差,可直接写进给客户的成本口径。
- 同名异义 / 类型混排是理解障碍的通例:Causal AI 的
world model(反事实孪生图)vs 工程界 world model vs 数字孪生;DIY LLM 把算法名 / 工具库名 / 模型名混进一张表。以后遇到「一堆记不住的名字」,第一步先做类型分类表。 - 两层不该混:记账层 vs 仓库层(接 DIY LLM 提问 #2):token 只回答「这是哪块字」,本体回答「这块字此刻是什么、跟谁有关系」。垂直模型加专有 token 只省窗口与账单(新编号必须继续预训练,否则更差);把 ontology 焊进编号会因「编号死、身份活、领域关系会变」而变脆。业界知识注入一律旁边另开一路(输入层 / 中间层 / 目标层、回答前查一层),并有「知识噪声」问题。→ 正落在 FDE 路线图「语义 / 数据治理」层,接 klgwiki 本体工作,也呼应 Causal AI「变量与结构必须显式」。
- 本体在中间、模型在边上(接 DIY LLM 提问 #3):没有通用模型把 ontology 装进权重;2026 企业级形态是平台打包一层(Palantir AIP 的 Ontology system = nouns + verbs + 权限 + 写回,模型可换架子不动),模型可自动从文档抽实体/关系/类别建草稿(GraphRAG、OntoGPT),但分类口径是人的约定、需签字与版本。与 FDE 路线图「语义 / 受控写回 / 验证资产 / 安全合规」同构;有分析称其为「企业的世界模型」,与视频生成式 world model 同名异义(再添一例)。
- 可复制性判据(接 DIY LLM 提问 #4,直接关系 FDE 路线图的商业可扩展性):复用不是一个开关,分三层 —— 上层通用大类(西门子/达索/AAS,换厂成立、已商品化)|中层骨架(换厂大部分成立,问法/分层/验证与写回机制才是可复制资产)|下层细节规则(换厂不成立,本来就不该复制)。判据①「换一家厂这句话还成立吗」定归属;判据②「第 2/3 家花的功夫有没有变少」定有没有复利(接 AI Engineering ch3–4 评测流水线、Albrecht 基线自检)。低复用是护城河不是库存;真危险是每次学到的东西没地方沉淀(退化成没有复利的一次性服务) ↔ Palantir 官方 FDE=人类版反向传播、gravel road → paved highway、Echo/Delta 分工。她说「只做到知识库不出错」确实不值钱,但那是停在 L1,本体价值在 L2/L3 的「能改能推能验」。
- 词表是语料的产物,不是字典(接 DIY LLM 提问 #5 的代码验证):主链路 BPE 做 60 次合并,把整句「夏天湿度影响烘箱温度」粘成 1 块(小语料过拟合);独立 agent 版只做 12 次合并,切出 7 块。两版互相反证 → 接 #2「给垂直模型加专有 token 要谨慎」与《AI Engineering》ch8 数据工程:往语料里塞什么,模型就记住什么。
- 待办(培训材料):把三本书 + 这批论文合成一份"制造业世界模型"讲解页——问题 4 问 → 评测流水线三步 → 从预测到干预四问 → 供应商 6 问。