使用 Flash Attention 优化 Transformer 的注意力机制，可实现 2–4 倍的加速和 10–20 倍的内存减少。适用于训练或运行长序列（>512 令牌）的 Transformer、在注意力计算中遇到 GPU 内存问题，或需要更快推理的场景。支持 PyTorch 原生 SDPA（F.sc…
使用 Flash Attention 优化 Transformer 的注意力机制，可实现 2–4 倍的加速和 10–20 倍的内存减少。适用于训练或运行长序列（>512 令牌）的 Transformer、在注意力计算中遇到 GPU 内存问题，或需要更快推理的场景。支持 PyTorch 原生 SDPA（F.scal...
本页属于 OpenClaw Skills 学习体系，覆盖技能安装、分类导航与实战链接。