將 PyTorch FSDP2（fully_shard）加入訓練腳本，包含正確的初始化、切分、混合精度／卸載設定，以及分散式檢查點處理。當模型超過單一 GPU 記憶體或需要使用 DeviceMesh 的 DTensor 基礎切分時使用。PyTorch, FSDP2, Fully Sharded Data Pa…
將 PyTorch FSDP2（fully_shard）加入訓練腳本，包含正確的初始化、切分、混合精度／卸載設定，以及分散式檢查點處理。當模型超過單一 GPU 記憶體或需要使用 DeviceMesh 的 DTensor 基礎切分時使用。PyTorch, FSDP2, Fully Sharded Data Para......
本頁屬於 OpenClaw Skills 學習體系，涵蓋技能安裝、分類導覽與實戰連結。