# 可继续研究的扩展（本轮未运行）

## 真实 ICL192

研究问题：固定模型是否在新记录上采用本轮任意标签映射？先选择与设备相符的模型、许可、精确 revision、tokenizer、固定解码与软件环境，再少量试跑。当前已提供全量数据、请求、评分与通用适配器入口；未绑定或下载模型。主实验 192 次独立请求，A/B 各 24，C/D 各 72。上限预算是 192000 输入、1536 可见输出 token，不含重试与隐藏推理。用实际 tokenizer 与服务费率另算，不把该上限当已发生用量。

## 微型预训练与任务适配

研究问题：在明确构造的记录任务上，预训练是否帮助同架构模型在有限标注下适配？候选为 2–5M 参数模型，每种子 1–5M 训练 token，至少三个种子。冻结词表、数据分割、停止规则，以相同下游数据和适配步数比较随机初始化。最大名义近似每种子 1.5×10^14 FLOPs，三种子 4.5×10^14，另加适配；不能换算成未经测量的 GPU 小时。该组总训练计算更高，不是同总成本对照。本轮没有实现此训练器，因此没有“运行”按钮。

## GPU LoRA / QLoRA

研究问题：同一小型真实模型、同一任务与数据，哪些层的适配足以改善任务表现？先验证底座、量化格式、库版本、许可和设备容量，固定训练/验证分割，测峰值显存、壁钟时间与留出任务指标。CPU 矩阵 LoRA 与均匀量化教学函数不能代替此实验。本轮未下载模型、安装 GPU 栈或承诺可用显存。

## GPTQ 与推测解码

GPTQ 可在小矩阵上比较仅逐元素量化与考虑输出误差的补偿；要明确二阶近似、校准样本和量化误差身份。推测解码可先用离散分布验证接受/纠正规则，再测真实 draft/target 的开销与接受率。二者本轮只保留研究问题，尚未实现可运行 notebook，不作为课堂学习的前置条件。
