文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

谈谈性能优化之缓存篇

2024-12-11 21:42

关注

[[329769]]

 1. 前言:为什么要用缓存?

用户数增长,架构演变,数据量增大,开始考虑怎么去做性能优化。

而性能优化的第一定律就是:优先考虑使用缓存。

2. 缓存的基本原理

2.1 缓存的作用

加快数据访问速度;

减轻后端应用和数据存储的负载压力。

2.2 缓存的特征

命中率:命中率 = 命中数 / 请求数。

这是衡量缓存有效性的重要指标。命中率越高,表明缓存的使用率越高。

最大元素(最大空间)。

一旦缓存中元素数量超过这个值(或者缓存数据空间超过其最大支 持空间),将会触发淘汰策略。

淘汰策略。

这个我前文其实已经说过。

FIFO(First In First Out) 先进先出,淘汰最早数据。

判断存储时间,离目前最远的数据优先淘汰。

LRU (Least Recently Used)剔除最近最少使用。

判断最近使用时间,离目前最远的数据优先淘汰。

LFU (Least Frequently Used)剔除最近使用频率最低的数据。

在一段时间内,数据被使用次数最少的,优先淘汰。

具体可以看这篇文章常见的缓存剔除策略 & LRU与LFU的区别。

3. 缓存的分类

缓存的主要手段有:浏览器缓存、CDN、反向代理、本地缓存、分布式缓存、数据库缓存。

在解读《大型网站技术架构》一文中,其实已经说到过。

我们一般说做性能优化时是指后三个:本地缓存、分布式缓存、数据库缓存。

前面三个缓存策略属于网站前端的范畴。

从硬件介质上来看,缓存分为内存和硬盘两种。

但从技术上,又可以分成内存、硬盘文件、数据库。

我们通常意义上说的缓存一般都是基于内存的。

因为只有内存,才足够快。

数据库缓存一般也是基于内存的,但这个活一般是DBA在配置数据库的时候就设置好了。

对于大部分开发人员来说,我们一般所说的缓存优化都是基于本地缓存(ocal cache)和远程缓存(remote cache)。

而现在远程缓存这个词一般也被分布式缓存这个常用方案所代指。

4. 什么时候使用缓存?

4.1 缓存的使用判断

什么时候使用缓存的判断其实比较简单,抓住两点就行了:

是不是热点数据?

所谓热点,一般是遵循二八定律,即百分之八十的访问集中在百分之二十的数据上。

是不是读比写多?

这个比例一般为2:1。

4.2 什么时候不应该使用缓存?

反过来就是了。

没有热点数据不要使用缓存,也没什么意义。

因为内存资源是比较宝贵的。

频繁修改的数据不要使用缓存。

因为可能写入后还来不及读取就已失效或被淘汰,并且容易产生脏读。

4.3 合理使用缓存

最后,最重要的是确认是否需要使用缓存?

确定了后,再选择合适的缓存工具及使用缓存的方式。

5. 缓存时常见的一些问题

使用缓存优点很多,但也存在一些很常见的问题。双刃之剑,就看怎么用了。

列举一些我们工作中常见的一些缓存问题,并给出至少一种解决方案。

5.1 缓存更新带来的数据不一致与脏读

缓存更新的常见策略有:

先更新数据库再更新缓存;

先更新数据库再删除缓存;

先删除缓存再更新数据库;

定时清理缓存;

有请求访问数据时,判断缓存是否过期,过期从数据库中刷新缓存。

在这几种方案中,如果修改缓存与数据库不在同一个事物中,就带来了数据不一致和脏读的问题。

对应方案1:先删除缓存再更新数据库,并且在同一个事物中。

对应方案2:缓存自动失效后,另外的异步线程进行缓存更新。

对应方案3:缓存更新在并发、分布式要考虑锁,redis天生就是单线程,比较有优势。

5.2 怎么做缓存预热

缓存预热是指在用户可访问服务之前,将热点数据加载到缓存的操作,这样可以有效避免上线后瞬时大流量造成系统不可用。

缓存预热的一般性策略:

开发个缓存刷新功能,手工刷新;

项目启动的时候自动进行加载(一般为字典表等数据量不大的数据);

设置个定时器,自动刷新缓存;

提前统计热点数据,事先批量加载到如redis这样缓存工具中。

5.3 缓存重建

缓存失效后,重建热点缓存,如果耗时较长,在重建过程中,性能、负载不好。

对应方案:

正常情况下,交错缓存失效时间,减轻缓存压力;

崩溃失效的情况下,可以使用带持久化功能的缓存来恢复,比如Redis;

如果是MongoDB则不太一样,它是采用mmap来将数据文件映射到内存中,所以当MongoDB重启时,这些映射的内存并不会清掉,不需要进行缓存重建与预热。

5.4 缓存雪崩与可用性

缓存雪崩:缓存在同一时间失效时,访问直达数据库层,可能导致DB挂掉、系统崩溃。

对应方案1:交错缓存失效时间或随机缓存失效时间。

对应方案2:主从热备(Redis sentinel)。

对应方案3:集群/水平切分(Redis Cluster、一致性哈希)。

5.5 缓存穿透

缓存穿透:持续高并发访问某个不存在的Key。

对应方案1:空值缓存。

对应方案2:布隆过滤器(bloom filter) + bitmap。穷举可能访问的数据放入bitmap中,使用hash访问。

5.6 缓存击穿

缓存击穿:热点Key失效,高并发请求,直击数据库。

缓存击穿与缓存穿透很相似,不同点是是缓存击穿前访问的是真实的热点数据,只是在某一刹那失效了,造成了击穿的效果。

这样看,它其实也是缓存雪崩的一个特例。与雪崩的区别即在于击穿是对于特定的热点数据,而雪崩是全部数据。

对应方案:多级缓存及交错失效时间 + LRU 淘汰算法。

对于热点数据进行二级或多级缓存,并对于不同级别的缓存设定不同的失效时间,缓解雪崩。

此外可使用LRU的变种算法LRU-K缓存数据。

5.7 缓存降级

缓存降级是服务降级中的一环。

在访问量剧增,导致服务出现问题时,为了保证核心服务可用,防止发生缓存雪崩,可进行服务降级。

以redis为例,比较常见的做法就是,不去数据库查询,而是直接返回默认值给用户。

缓存降级也可根据日志级别进行预案设置。

6. 分布式缓存的选型

说了这么多缓存的原理与策略,说说我们在实际工作中应该怎么去做缓存选型。

以下就是常用的几种缓存工具。

6.1 Ehcache

Ehcache是纯Java开源的缓存框架,最早从hibernate发展而来,现在算是springboot中的官配缓存工具,整合简单。特点如下:

6.2 Guava Cache

Guava Cache是Google开源的Java重用工具集库Guava里的一款缓存工具,特点如下:

6.3 Memcache

memcache本身不支持分布式,是通过客户端的路由处理来达到分布式解决方案的目的。特点如下:

6.4 Redis

Redis是当前主流的高性能内存数据库,多用于存储缓存数据,并能实现轻量级的MQ功能。特点如下:

6.5 推荐

通常情况下,单机我们会用Ehcache,甚至java自己的concurrenthashmap来实现缓存。分布式一般使用redis。

来源:架构师之殇内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯