Lecture 06
课堂
完整讲义
主题阅读
AI阅读入口
返回课堂
沿问题深入阅读
从课堂的具体变化继续走向原理、算例和证据。每篇正文可独立阅读,也可将链接交给 Agent 继续追问。
后训练:把任务信号变成参数变化
把训练账本放进多张设备
小规模适配:更新什么,怎样保存,怎样计算
承载与读取:从关联记忆到 MLP 和 attention
承载与读取:从三条记忆到当次上下文
预训练:普通材料怎样形成可复用能力
从一次请求到可持续使用的服务
规模扩展:把模型、数据和计算放在同一比较条件下
从内存访问到稀疏激活:两种不同的效率问题
视觉里的规模扩展:结构、材料与学习任务怎样配合
打开已经训练好的网络:怎样提出、检验和修正内部机制解释