将 LLM 量化为 8 位或 4 位，在精度损失最小的情况下实现 50–75% 的内存/显存减少。适用于 GPU 内存有限、需要放入更大模型或希望加速推理的场景。支持 INT8、NF4、FP4 格式，支持 QLoRA 训练和 8 位优化器。与 Hugging Face Transformers 兼容。Opti…
将 LLM 量化为 8 位或 4 位，在精度损失最小的情况下实现 50–75% 的内存/显存减少。适用于 GPU 内存有限、需要放入更大模型或希望加速推理的场景。支持 INT8、NF4、FP4 格式，支持 QLoRA 训练和 8 位优化器。与 Hugging Face Transformers 兼容。Optimi......
本页属于 OpenClaw Skills 学习体系，覆盖技能安装、分类导航与实战链接。