LLM 与 Agent 学习路线图:从模型原理到工程落地 llm LLM 与 Agent 学习路线图:从模型原理到工程落地 置顶! 有更新! 从 Tokenizer 和 Transformer 起步,沿着模型训练、API 与流式协议、推理部署、Agent 运行时、RAG、安全护栏和生产运维展开。全篇按先... 0 评论 0 浏览
常用工具网站导航 导航 常用工具网站导航 置顶! 有更新! 导航页已改成:https://lacknb.com 文件加速下载 https://d.serctl.com/ 可以用来下载直链 https://ghproxy.... 0 评论 0 浏览
LLM 训练 TRN-04|SFT 怎么把对话变成监督信号 llm LLM 训练 TRN-04|SFT 怎么把对话变成监督信号 把两轮退款 CSV 问答交给 Qwen 聊天模板,跟踪每个 Token 怎样变成输入、助手标签或填充。实测标签移位、超长截断和回复结束标记,再用六组留出数据比较原... 0 评论 0 浏览
LLM 训练 TRN-10|分布式训练的显存账本,FSDP 与 ZeRO llm LLM 训练 TRN-10|分布式训练的显存账本,FSDP 与 ZeRO 有更新! 沿用 TRN-02 的 14,496 参数模型,拆开参数、梯度、AdamW 状态、激活和临时缓冲的内存开销。对照 FSDP 与 ZeRO 的通信路径,并用两个 C... 0 评论 0 浏览
LLM 训练 TRN-02|从随机权重预训练一个微型语言模型 llm LLM 训练 TRN-02|从随机权重预训练一个微型语言模型 有更新! 接着读取 TRN-01 的退款语料分片,用一个 14,496 参数的 decoder-only Transformer 实跑下一 Token 预测、交叉熵、梯度累... 0 评论 0 浏览
LLM 训练 TRN-03|选继续预训练、SFT 还是偏好优化 llm LLM 训练 TRN-03|选继续预训练、SFT 还是偏好优化 用三行退款 CSV 对照领域原文、示范回复与成对偏好提供的训练信号。从同一微型基座实跑三个训练目标,比较文档损失、示范回复概率和偏好间隔,再把训练目标与全参数、部... 0 评论 0 浏览
LLM 训练 TRN-01|预训练语料与 Token 数据管线 llm LLM 训练 TRN-01|预训练语料与 Token 数据管线 用 9 篇退款与报表说明文档走完预训练数据管线:许可白名单、网页清洗与邮箱脱敏、精确与近似去重、测试集去污染、文档级切分、分词打包与 uint16 分片,最后手算... 0 评论 0 浏览
LLM 评测 LE-07|什么是评测,如何跑通第一条用例 llm LLM 评测 LE-07|什么是评测,如何跑通第一条用例 有更新! 用金额为 10、空、0 的三行退款 CSV 做第一条评测用例。先写出正确答案,再让同一个评分器检查可解析性、字段、条数和均值,最后用一段标准库 Python 记录... 0 评论 0 浏览
LLM 评测 LE-01|从业务目标到数据集、基线和评分 llm LLM 评测 LE-01|从业务目标到数据集、基线和评分 有更新! 把单条退款评测扩成可版本化的数据集,加入黄金样本、边界情形和历史失败,用固定切分与相同评分器比较两种统计口径,记录参考答案、分层和失败原因,再用 SHA-256 ... 0 评论 0 浏览
LLM 评测 LE-08|如何设计可测试的评分器与评分准则 llm LLM 评测 LE-08|如何设计可测试的评分器与评分准则 有更新! 为退款统计评分器写已知正误的测试,从 JSON Schema 过渡到数值公差和业务不变量,再用解释是否交代空值、零值和分母来定义人工评分准则,并明确平局、拒答和工... 0 评论 0 浏览