高可用架构设计(3) -电商商品详情页缓存背景及框架说明

大背景:电商网站,首页,商品详情页,搜索结果页,广告页,促销活动,购物车,订单系统,库存系统,物流系统

小背景:商品详情页,如何用最快的结果将商品数据填充到一个页面中,然后将页面显示出来

分布式系统:商品详情页,缓存服务,+底层源数据服务,商品信息服务,店铺信息服务,广告信息服务,推荐信息服务,综合起来组成一个分布式的系统

1 电商网站的商品详情页系统架构

1.1 小型商品详情页系统

高可用架构设计(3) -电商商品详情页缓存背景及框架说明

1.2 大型商品详情页系统

大型电商网站商品详情页的系统设计中,当商品数据发生变更时,会将变更消息压入消息队列中。

缓存服务从消息队列中消费这条消息时,感知到有数据发生变更,便通过调用数据服务接口,获取变更后的数据,然后将整合好的数据推送至 redis 中。

Nginx 本地缓存的数据是有一定的时间期限的,比如说 10 分钟,当数据过期之后,它就会从 redis 获取到最新的缓存数据,并且缓存到自己本地。


用户浏览网页时,动态将 Nginx 本地数据渲染到本地 html 模板并返回给用户。


虽然没有直接返回 html 页面那么快,但是因为数据在本地缓存,所以也很快,其实耗费的也就是动态渲染一个 html 页面的性能。如果 html 模板发生了变更,不需要将所有的页面重新静态化,也不需要发送请求,没有网络请求的开销,直接将数据渲染进最新的 html 页面模板后响应即可。


在这种架构下,我们需要保证系统的高可用性。


如果系统访问量很高,Nginx 本地缓存过期失效了,redis 中的缓存也被 LRU 算法给清理掉了,那么会有较高的访问量,从缓存服务调用商品服务。但如果此时商品服务的接口发生故障,调用出现了延时,缓存服务全部的线程都被这个调用商品服务接口给耗尽了,每个线程去调用商品服务接口的时候,都会卡住很长时间,后面大量的请求过来都会卡在那儿,此时缓存服务没有足够的线程去调用其它一些服务的接口,从而导致整个大量的商品详情页无法正常显示。


这其实就是一个商品接口服务故障导致缓存服务资源耗尽的现象。


高可用架构设计(3) -电商商品详情页缓存背景及框架说明

1.3 页面模板

将数据动态填充/渲染到一个html模板中,是什么意思呢?

<html>
    <title>#{name}的页面</title>
    <body>
        商品的价格是:#{price}
        商品的介绍:#{description}
    </body>
</html>

上面这个就可以认为是一个页面模板,里面的很多内容是不确定的,#{name},#{price},#{description},这都是一些模板脚本,不确定里面的值是什么?


将数据填充/渲染到html模板中,是什么意思呢?

{
    "name": "iphone7 plus(玫瑰金+32G)",
    "price": 5599.50
    "description": "这个手机特别好用。。。。。。"
}

<html>
    <title>iphone7 plus(玫瑰金+32G)的页面</title>
    <body>
        商品的价格是:5599.50
        商品的介绍:这个手机特别好用。。。。。。
    </body>
</html>

上面这个就是一份填充好数据的一个html页面

2 缓存服务

缓存服务,订阅一个MQ的消息变更,如果有消息变更的话,那么就会发送一个网络请求,调用一个底层的对应的源数据服务的接口,去获取变更后的数据


将获取到的变更后的数据填充到分布式的redis缓存中去


高可用这一块儿,最可能出现说可用性不高的情况,是什么呢?

就是说,在接收到消息之后,可能在调用各种底层依赖服务的接口时,会遇到各种不稳定的情况


比如底层服务的接口调用超时,200ms,2s都没有返回; 底层服务的接口调用失败,比如说卡了500ms之后,返回一个报错


在分布式系统中,对于这种大量的底层依赖服务的调用,就可能会出现各种可用性的问题,一旦没有处理好的话


可能就会导致缓存服务自己本身会挂掉,或者故障掉,就会导致什么呢?

不可以对外提供服务,严重情况下,甚至会导致说整个商品详情页显示不出来


缓存服务接收到变更消息后,去调用各个底层依赖服务时的高可用架构的实现。

3 框架结构

围绕着缓存服务去拉取各种底层的源数据服务的数据,调用其接口时,可能出现的系统不可用的问题


从简


spring boot,微服务的非常快速,非常好用的技术框架,脱胎于spring,具体的东西就不讲解,直接带着大家上手搭建一个spring boot的框架


2个服务,缓存服务,商品服务,缓存服务依赖于商品服务


模拟各种商品服务可能接口调用时出现的各种问题,导致系统不可用的场景,然后用hystrix完整的各种技术点全部贯穿在里面


解决了一大堆设计业务背景下的系统不可用问题,hystrix整个技术体系,知识体系,也就讲解完了


消息队列,redis,咱们都不搞了


spring boot + http client + hystrix


参考

  • 《Java工程师面试突击第1季-中华石杉老师》
上一篇:jsp页面往mysql里插入中文后数据库里显示乱码


下一篇:如何清理MacBook电脑缓存?