模型部署与推理优化

模型部署与推理优化（Model Deployment & Inference Optimization）研究的是训练完成后那段路：如何让大语言模型以可接受的延迟、吞吐、显存占用与成本，稳定地跑在云端 GPU 集群、公司内网服务器或用户的手机与笔记本上。它不是训练技术的延伸课，而是一门独立学科——训练追求的是 loss，部署追求的是「每瓦特、每美元、每毫秒」下的 token 产出。