并不是只有 Redis 才可以做缓存

栏目: 数据库 · 发布时间: 5年前

内容简介:优质文章,第一时间送达当前业务需要使用

点击上方 蓝色字体 ,选择“设置星标”

优质文章,第一时间送达

背景

当前业务需要使用 Oauth 授权的 accessToken 调用第三方系统获取用户资料。这里简化说明完成和第三方系统的对接需要两个接口。

  1. 通过  appkey 获取  accessToken 。  accessToken 2 小时过期,接口有  quota 限制。

  2. 使用  accessToken 获取用户信息,这个  token 是通用的,只要是当前  appkey 下面的用户都可以使用。

设计

  1. 考虑到有  quota 限制问题,所以一定要有缓存机制,不然获取用户信息的接口请求量大的时候  quota 就不够用。

  2. accessToken 有两个小时过期问题,所有缓存要有失效机制。

  3. 一个  appkey 有且只有一个  accessToken ,并且不常变,可以考虑直接使用内存缓存。如果使用 Redis 等分布式缓存系统,也会因为频繁网络请求。

下面的表格来源于 Jeff Dean的一个PPT,里面罗列了不同级别的IO时间,这正是我们评估如何设计系统的必要因素。

L1 cache reference 0.5 ns
Branch mispredict 5 ns
L2 cache reference 7 ns
Mutex lock/unlock 100 ns
Main memory reference 100 ns
Compress 1K bytes with Zippy 10,000 ns 0.01 ms
Send 1K bytes over 1 Gbps network 10,000 ns 0.01 ms
Read 1 MB sequentially from memory 250,000 ns 0.25 ms
Round trip within same datacenter 500,000 ns 0.5 ms
Disk seek 10,000,000 ns 10 ms
Read 1 MB sequentially from network 10,000,000 ns 10 ms
Read 1 MB sequentially from disk 30,000,000 ns 30 ms
Send packet CA->Netherlands->CA 150,000,000 ns 150 ms

由上面表格,我们可以清楚的看出从网络上面获取1M数据和从内存中读取1M数据的差别。为什么说到这里呢,因为随着我们的用户的增加,集群的扩展,很少的情况下是把缓存数据库或者其他缓存中间件和应用程序放在一台服务器上,大部分情况都是分布式的应用系统和缓存系统,所以避免不了的我们需要考虑网络而的开销。

回到当前话题,对于一个 accessToken 占用内存足够小,即便是分布式系统每一个系统中都存储一个也不为过,只是能解决过期更新问题就好了。

实现

正好 Guava 就提供了这个功能, GuavaCache 缓存类似于 ConcurrentMap ,但不完全相同。 最根本的区别是, ConcurrentMap 会持续添加到其中的所有元素,如果你不手动删除它们会一直存在。然而 GuavaCache 可以通过缓存的大小,过期时间,或者其他策略自动地移除元素,来限制其内存占用。

引入依赖

编写实现类

简单对上面逻辑进行讲解

  1. getRemoteAccessToken 是模拟远程获取 token

  2. getAccessToken 是先从 cache 中获取,如果没有获取到,从远程获取。

  3. expireAfterWrite(3,TimeUnit.SECONDS) 是3秒过期,这是为了测试。

  4. removalListener 监听过期。

  5. UserInfoProvider ,sleep 3秒看一下更新情况。

由下面日志可见执行情况

我们使用的还只是 GuavaCache 的冰山一角,它可以支容量和时间多种策略配置回收策略,同时它是良好的 LRU 实现。如上场景比较简单,如果你考虑缓存其他需求,需要考虑 refreshAfterWritemaximumSize 等配合使用,避免缓存击穿和性能问题。

原理

GuavaCache 的设计和 ConcurrentHashMap 非常类似,使用多个 segments 方式的细粒度锁,在保证线程安全的同时,支持高并发场景需求。看过 ConcurrentHashMap 实现原理的朋友跟进代码一看了然。当然它的设计更复杂一些,跟进代码的话也比较简单,在 get 的时候他会根据不同的策略进行比对是否过期,如果过期再进行相应的通知操作。同时他巧妙的使用的 WeakReference ,这样可以利用 GC 来做删除数据的通知。

并不是只有 Redis 才可以做缓存


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

Persuasive Technology

Persuasive Technology

B.J. Fogg / Morgan Kaufmann / 2002-12 / USD 39.95

Can computers change what you think and do? Can they motivate you to stop smoking, persuade you to buy insurance, or convince you to join the Army? "Yes, they can," says Dr. B.J. Fogg, directo......一起来看看 《Persuasive Technology》 这本书的介绍吧!

RGB转16进制工具
RGB转16进制工具

RGB HEX 互转工具

SHA 加密
SHA 加密

SHA 加密工具

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具