大模型基础详解：Transformer 架构、注意力机制、位置编码、分词器、上下文窗口、生成策略、开源模型对比、三种架构与 Decoder-only、稀疏/线性注意力、RoPE/ALiBi 外推、归一化与激活函数、词表权衡、生成惩罚、上下文学习
大模型
共 6 篇文章
大模型基础知识点详解 大模型基础面试题集 大模型基础面试高频问答速查（50 题）：Transformer 架构、注意力机制、位置编码与 RoPE/ALiBi 外推、分词器与词表、生成策略、三种架构、归一化与激活、长上下文与 attention sink、上下文学习
大模型推理与部署知识点详解 大模型推理与部署详解：KV cache 与显存估算、推理框架与 PagedAttention、continuous batching、量化（对称/非对称、weight-only、GPTQ/AWQ/SmoothQuant/FP8、KV 量化）、蒸馏与投机采样、FlashAttention、TP/PP/EP/序列/3D 并行与 ZeRO、MLA 与 prefix caching、prefill/decode、TTFT/TPOT、调度器与流式输出、并发与过载保护、多 LoRA、离线/在线推理、KV 共享、优先级与抢占调度、冷启动、可观测性、Medusa、Early Exit、剪枝与量化评估、框架对比、灰度发布与 A/B 测试
大模型推理与部署面试题集 大模型推理与部署面试高频问答速查：覆盖 KV cache、量化、并行、投机采样、调度、多 LoRA、可观测性、框架对比、灰度发布与 A/B 测试等 50 题回答要点
大模型训练与微调知识点详解 大模型训练与微调知识点详解，覆盖从预训练目标与 loss、Scaling Laws、数据工程、混合精度、优化器与学习率调度、梯度累积/裁剪、硬件通信、FLOPs/Chinchilla、checkpoint、课程学习，到 SFT/instruction tuning、偏好建模、RLHF/PPO、DPO/KTO/ORPO、奖励模型与 reward hacking、RLAIF/Constitutional AI，再到 LoRA/DoRA/rsLoRA/LoRA+、继续预训练、合成数据、模型合并、评估与 benchmark 污染、LLM-as-judge、RLVR 与收敛监控的完整训练与微调知识体系
大模型训练与微调面试题集 大模型训练与微调面试题集：50 道高频题的回答重点与扩展知识速查，覆盖预训练、混合精度、优化器与调度、对齐（RLHF/DPO/KTO/ORPO）、高效微调（LoRA/DoRA/rsLoRA）、继续预训练、评估与合成数据