將 LLM 量化為 8 位或 4 位，在精度損失最小的情況下實現 50–75% 的記憶體/顯存減少。適用於 GPU 記憶體有限、需要放入更大模型或希望加速推論的情境。支援 INT8、NF4、FP4 格式，支援 QLoRA 訓練與 8 位優化器。與 Hugging Face Transformers 相容。Op…
將 LLM 量化為 8 位或 4 位，在精度損失最小的情況下實現 50–75% 的記憶體/顯存減少。適用於 GPU 記憶體有限、需要放入更大模型或希望加速推論的情境。支援 INT8、NF4、FP4 格式，支援 QLoRA 訓練與 8 位優化器。與 Hugging Face Transformers 相容。Opti......
本頁屬於 OpenClaw Skills 學習體系，涵蓋技能安裝、分類導覽與實戰連結。