AI 技术#注意力头剪枝#模型压缩#Transformer注意力头剪枝：为什么删除部分注意力头反而能提升模型性能？本文以机器翻译模型压缩为场景，解释注意力头剪枝如何通过识别冗余头减少计算量，分析剪枝后性能提升的机制，对比结构化剪枝与稀疏剪枝，讨论推理部署中的收益与风险。