AI 推理系列（十一）：Ring Attention 如何让多张 GPU 共同计算一条超长序列
围绕百万 Token 长上下文的单卡容量瓶颈，解释 Ring Attention 如何沿序列维度切分 Q/K/V，让 KV Block 在多张 GPU 间环形流动并与本地计算重叠，同时分析 online softmax、Context Parallelism、Ulysses、GQA 与跨节点网络带宽之间的工程权衡。
#FlashAttention
共 2 篇文章
AI 推理系列（二）：FlashAttention 如何用 IO 感知分块加速 Transformer 注意力计算
从 GPU 内存层级与 Attention 中间矩阵的数据流出发，解释 FlashAttention 如何通过分块计算、online softmax 和片上数据复用减少 HBM 读写，并分析 FlashAttention-2、长上下文训练、prefill 与逐 Token 解码中的实际收益和工程边界。