WIBLOG · Technological & Life

聊技术,也聊那些值得认真琢磨的生活小事。

97篇文章6个内容分类
RECENT NOTES

最近更新

查看归档

Spring @Cacheable 的 sync 属性:缓存击穿下的同步加载与锁竞争

本文深入解读 Spring @Cacheable 的 sync 属性如何通过同步控制防止缓存击穿,重点分析在高并发下 sync=true 为何可能导致锁竞争,以及如何与 Redis 等缓存提供者的原子操作配合。通过热点数据过期场景,读者将理解 Spring Cache 拦截器的同步机制、不同缓存提供者的锁实现,以及通过自定义 CacheErrorHandler 处理异常,从而获得避免缓存击穿和锁问题的配置方法。

滑动窗口注意力:局部窗口与全局缓存如何支撑长文本高效推理

以长文档摘要为场景,解析滑动窗口注意力如何通过限制注意力范围将计算复杂度从平方降为线性,并借助跨层信息传递与KV缓存轮转保留远距离信息。对比全局注意力与稀疏注意力,分析显存、延迟与质量权衡,以及窗口大小对困惑度的影响。

查看全部文章 ↗