服务器之家:专注于服务器技术及软件下载分享
分类导航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|数据库技术|

服务器之家 - 数据库 - Redis - 详解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作

详解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作

2019-11-01 15:21一线码农 Redis

这篇文章主要介绍了详解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作 ,具有一定的参考价值,感兴趣的小伙伴们可以参考一下。

前段时间在做用户画像的时候,遇到了这样的一个问题,记录某一个商品的用户购买群,刚好这种需求就可以用到Redis中的Set,key作为productID,value就是具体的customerid集合,后续的话,我就可以通过productid来查看该customerid是否买了此商品,如果购买了,就可以有相关的关联推荐,当然这只是系统中的一个小业务条件,这时候我就可以用到SADD操作方法,代码如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
static void Main(string[] args)
{
  ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("192.168.23.151:6379");
 
  var db = redis.GetDatabase();
 
  var productID = string.Format("productID_{0}", 1);
 
  for (int i = 0; i < 10; i++)
  {
    var customerID = i;
 
    db.SetAdd(productID, customerID);
  }
}

一:问题

    但是上面的这段代码很明显存在一个大问题,Redis本身就是基于tcp的一个Request/Response protocol模式,不信的话,可以用wireshark监视一下:

 详解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作

从图中可以看到,有很多次的192.168.23.1 => 192.168.23.151 之间的数据往返,从传输内容中大概也可以看到有一个叫做productid_xxx的前缀,

那如果有百万次局域网这样的round trip,那这个延迟性可想而知,肯定达不到我们预想的高性能。

 二:解决方案【Batch】

     刚好基于我们现有的业务,我可以定时的将批量的productid和customerid进行分组整合,然后用batch的形式插入到某一个具体的product的set中去,接下来我可以把上面的代码改成类似下面这样:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
static void Main(string[] args)
{
  ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("...:");
 
  var db = redis.GetDatabase();
 
  var productID = string.Format("productID_{}", );
 
  var list = new List<int>();
 
 
  for (int i = ; i < ; i++)
  {
    list.Add(i);
  }
 
  db.SetAdd(productID, list.Select(i => (RedisValue)i).ToArray());
}

 详解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作

从截图中传输的request,response可以看到,这次我们一次性提交过去,极大的较少了在网络传输方面带来的尴尬性。。

 三:再次提出问题

product维度的画像我们可以解决了,但是我们还有一个customerid的维度,也就是说我需要维护一个customerid为key的set集合,其中value的值为该customerid的各种平均值,比如说“总交易次数”,“总交易金额”。。。等等这样的聚合信息,然后推送过来的是批量的customerid,也就是说你需要定时维护一小嘬set集合,在这种情况下某一个set的批量操作就搞不定了。。。原始代码如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
static void Main(string[] args)
{
  ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("...:");
 
  var db = redis.GetDatabase();
 
 
  //批量过来的数据: customeridlist, ordertotalprice,具体业务逻辑省略
  var orderTotalPrice = ;
 
  var customerIDList = new List<int>();
 
  for (int i = ; i < ; i++)
  {
    customerIDList.Add(i);
  }
 
  //foreach更新每个redis 的set集合
  foreach (var item in customerIDList)
  {
    var customerID = string.Format("customerid_{}", item);
 
    db.SetAdd(customerID, orderTotalPrice);
  }
}

四:解决方案【PipeLine】

=上面这种代码在生产上当然是行不通的,不过针对这种问题,redis早已经提出了相关的解决方案,那就是pipeline机制,原理还是一样,将命令集整合起来通过一条request请求一起送过去,由redis内部fake出一个client做批量执行操作,代码如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
static void Main(string[] args)
{
  ConnectionMultiplexer redis = ConnectionMultiplexer.Connect("...:");
 
  var db = redis.GetDatabase();
 
 
  //批量过来的数据: customeridlist, ordertotalprice,具体业务逻辑省略
  var orderTotalPrice = ;
 
  var customerIDList = new List<int>();
 
  for (int i = ; i < ; i++)
  {
    customerIDList.Add(i);
  }
 
  var batch = db.CreateBatch();
 
  foreach (var item in customerIDList)
  {
    var customerID = string.Format("customerid_{}", item);
 
    batch.SetAddAsync(customerID, orderTotalPrice);
  }
 
  batch.Execute();
}

然后,我们再看下面的wireshark截图,可以看到有很多的SADD这样的小命令,这就说明有很多命令是一起过去的,大大的提升了性能。

 详解redis大幅性能提升之使用管道(PipeLine)和批量(Batch)操作

 最后可以再看一下redis,数据也是有的,是不是很爽~~~

?
1
2
3
4
5
6
7
8
9
10
11
192.168.23.151:6379> keys *
 1) "customerid_0"
 2) "customerid_9"
 3) "customerid_1"
 4) "customerid_3"
 5) "customerid_8"
 6) "customerid_2"
 7) "customerid_7"
 8) "customerid_5"
 9) "customerid_6"
10) "customerid_4"

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

延伸 · 阅读

精彩推荐
  • Redis详解三分钟快速搭建分布式高可用的Redis集群

    详解三分钟快速搭建分布式高可用的Redis集群

    这篇文章主要介绍了详解三分钟快速搭建分布式高可用的Redis集群,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,...

    万猫学社4502021-07-25
  • Redis如何使用Redis锁处理并发问题详解

    如何使用Redis锁处理并发问题详解

    这篇文章主要给大家介绍了关于如何使用Redis锁处理并发问题的相关资料,文中通过示例代码介绍的非常详细,对大家学习或者使用Redis具有一定的参考学习...

    haofly4522019-11-26
  • RedisRedis集群的5种使用方式,各自优缺点分析

    Redis集群的5种使用方式,各自优缺点分析

    Redis 多副本,采用主从(replication)部署结构,相较于单副本而言最大的特点就是主从实例间数据实时同步,并且提供数据持久化和备份策略。...

    优知学院4082021-08-10
  • Redis关于Redis数据库入门详细介绍

    关于Redis数据库入门详细介绍

    大家好,本篇文章主要讲的是关于Redis数据库入门详细介绍,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下,方便下次浏览...

    沃尔码6982022-01-24
  • RedisRedis 6.X Cluster 集群搭建

    Redis 6.X Cluster 集群搭建

    码哥带大家完成在 CentOS 7 中安装 Redis 6.x 教程。在学习 Redis Cluster 集群之前,我们需要先搭建一套集群环境。机器有限,实现目标是一台机器上搭建 6 个节...

    码哥字节15752021-04-07
  • RedisRedis Template实现分布式锁的实例代码

    Redis Template实现分布式锁的实例代码

    这篇文章主要介绍了Redis Template实现分布式锁,需要的朋友可以参考下 ...

    晴天小哥哥2592019-11-18
  • Redis《面试八股文》之 Redis十六卷

    《面试八股文》之 Redis十六卷

    redis 作为我们最常用的内存数据库,很多地方你都能够发现它的身影,比如说登录信息的存储,分布式锁的使用,其经常被我们当做缓存去使用。...

    moon聊技术8182021-07-26
  • Redisredis缓存存储Session原理机制

    redis缓存存储Session原理机制

    这篇文章主要为大家介绍了redis缓存存储Session原理机制详解,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪...

    程序媛张小妍9252021-11-25