李成笔记网

专注域名、站长SEO知识分享与实战技巧

慌了,面试居然被问到怎么做高并发系统的限流?

作者:nick hao

原文链接:http://cnblogs.com/haoxinyue/p/6792309.html

开涛大神在博客中说过:在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。

缓存

缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量,也是保护数据库、保护系统的有效方式。大型网站一般主要是“读”,缓存的使用很容易被想到。在大型“写”系统中,缓存也常常扮演者非常重要的角色。比如累积一些数据批量写入,内存里面的缓存队列(生产消费),以及HBase写数据的机制等等也都是通过缓存提升系统的吞吐量或者实现系统的保护措施。甚至消息中间件,你也可以认为是一种分布式的数据缓存。

面试官:说一下海量请求下的接口并发解决方案

设定一个场景,假如一个商品接口在某段时间突然上升,会怎么办?

生活中的例子来说,假设冰墩墩在当天晚上上热搜之后,迅速有十几万人去淘宝下单购买,此时并没有做好对该商品的缓存预热以及准备,如何操作?

说说缓存:数据不一致和并发竞争怎么处理?

数据不一致的发生场景

同一份数据,可能会同时存在 DB 和缓存之中。那就有可能发生 DB 和缓存的数据不一致。如果缓存有多个副本,多个缓存副本里的数据也可能会发生不一致现象。

不一致的问题大多跟缓存更新异常有关,比如:

  • 更新 DB 后,写缓存失败,从而导致缓存中存的是老数据
  • 另外,如果系统采用一致性 Hash 分布,同时采用 rehash 自动漂移策略,在节点多次上下线之后,也会产生脏数据
  • 缓存有多个副本时,更新某个副本失败,也会导致这个副本的数据是老数据

物联网数据对接并发太大,直接拒绝服务

背景:

物联网设备数据推送对接,通过http 接口数据加密签名后推送。平台要求5秒内必须反馈成功或者失败,所以应用接收到数据后,丢给异步线程去处理,直接返回接收成功的状态。奈何设备多数据量大,异步线程池爆满了,队列也满了,直接报错了。

错误信息:

我们在谈论高并发的时候究竟在谈什么?看这一篇彻底明白并发原理

目录

  • 什么是高并发
  • 进程上下文切换
  • 线程上下文切换
  • 协程上下文切换
  • 性能测试结果
  • 总结

欢迎关注笔者,优质文章都在这里等你。


文章来源:

https://segmentfault.com/a/1190000019360335

感谢作者的优质文章,作者从操作系统原理的角度深度解释了什么是高并发。

慌了,居然被问到怎么做高并发系统的限流

在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。


缓存

缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪。使用缓存不单单能够提升系统访问速度、提高并发访问量,也是保护数据库、保护系统的有效方式。大型网站一般主要是“读”,缓存的使用很容易被想到。

在大型“写”系统中,缓存也常常扮演者非常重要的角色。比如累积一些数据批量写入,内存里面的缓存队列(生产消费),以及HBase写数据的机制等等也都是通过缓存提升系统的吞吐量或者实现系统的保护措施。甚至消息中间件,你也可以认为是一种分布式的数据缓存。

高并发系统中的限流应该如何做? 高并发系统如何设计

作者:nick hao

来源: cnblogs.com/haoxinyue/p/6792309.html

开涛大神在博客中说过:在开发高并发系统时有三把利器用来保护系统:缓存、降级和限流。本文结合作者的一些经验介绍限流的相关概念、算法和常规的实现方式。


说一下海量请求下的接口并发解决方案


来源:CSDN@舍其小伙伴

电商场景:并发扣库存,怎么保证不超卖又不影响并发性能

任何电商平台的一个主业务场景就是:

  1. 加入购物车;
  2. 去结算,填写/选择收货地址;
  3. 检查/扣减库存,生成订单并付款;

其中第三步,检查/扣减库存,常规代码实现如下:

判断剩余库存量,如果库存足够,则做扣减操作;

select stock from goods_stock where sku = 'a1'
if(stock - buy_num) >= 0){ //如果库存大于等于购买数量
 stock = stock - buy_num;
 update goods_stock set stock = stock where sku = 'a1'
}

线上项目CPU,内存都跑满了,怎么调试?

记得第一次当整个电商项目负责人的时候,在使用量高峰期时,运维的同事突然跑过来说,xx服务的某台机器的CPU,内存暴了(OOM了),赶紧想办法怎么做。当时的心情既高兴,又紧张。高兴的是产品真的有使用在使用了,有价值了;紧张的是出问题,要怎么解决?

出现这种问题有2种情况,一种是直接服务程序终止,一种是服务程序在还在(线程通过PS命令查看还在运行),但无法对外提供服务。

当然出现这种情况,都是第一时间让

<< < 1 2 3 > >>
控制面板
您好,欢迎到访网站!
  查看权限
网站分类
最新留言