トレーニングスクリプトに PyTorch FSDP2 (fully_shard) を追加するための設定を提供します。正しい初期化、シャーディング、混合精度／オフロード設定、および分散チェックポイントの取り扱いを含みます。モデルが単一GPUメモリを超える場合や、DeviceMesh を用いた DTensor ベ…
トレーニングスクリプトに PyTorch FSDP2 (fully_shard) を追加するための設定を提供します。正しい初期化、シャーディング、混合精度／オフロード設定、および分散チェックポイントの取り扱いを含みます。モデルが単一GPUメモリを超える場合や、DeviceMesh を用いた DTensor ベース...
このページは OpenClaw Skills 学習ハブの一部で、導入手順・カテゴリ導線・実践リンクを提供します。