# topic/llm-inference

LLM 模型量化与推理部署高频面试问答：量化方法、部署框架、性能显存优化、工程实践，附答题要点