欢迎大家访问博主的博客新家:IT博客达人网 (http://www.blogdaren.com)[耶]

关于大数据分页查询和redis之SortedSet应用

manon 2016-9-26 19:23 PHP 抢沙发 1091人打酱油 打开侧边栏| 关闭侧边栏

当查询结果包含的数据量非常大的时候,往往需要分页查询。本文总结一些分页查询的技巧,及如何用mysql cassandra和redis等实现分页查询的方案。

问题背景

我在做论坛的是时候遇到了如下的问题。论坛里可以有很多的主题topic,每个topic对应到很多回复reply。现在要查询某个topic下按照replyTime升序排列的第pageNo页的reply,每页pageSize个reply。

reply是存放在mysql中的。以前的实现是利用mysql的limit查询

select * from reply
where topicId = ?
order by replyTime asc
limit (pageNo - 1) * pageSize, pageSize

由于现在有很多的主题的回复很多,当有人查询第几百甚至几千页的时候,mysql性能表现很不好。“select limit offset, size” 只要offset太大,传统的关系型数据库的性能表现都不好。

如果能够利用带索引的查询条件先过滤掉一部分数据,就可以大大提高性能,比如:

select *
from reply
where topicId = ? and replyId > lastReplyIdOfCurrentPage
order by replyTime asc
limit (pageNo - currentPageNo) * pageSize,  pageSize 

lastReplyIdOfCurrentPage 是当前页的最后一个reply的id。currentPageNo是当前页的页号。这里用replyId过滤条件,把前面页的内容过滤掉,这样减少了 offset的大小。但是当用户需要跳转到很远的一个页面的时候,offset还是会很大。比如,当前是第10页,要跳转到第1000页,offset = 990 * pageSize,还是会很大,性能依旧不行。尽管目前很多产品,都不提供这样的跳转能力了,但是我们的产品团队还是认为这个功能在我们的产品里面不可或 缺。

迁移到cassandra

后来我们把reply数据全部迁移到了cassandra上。cassandra的数据结构和mysql不一样。我们创建了一个topic_reply 列簇,每一行的行号是topicId,每一列是这个topic的replyId,这样得到类似如下结构

1:1,2,5,33,245,663,780...
2:36,78,89,94,235,345...
在cassandra中列是自然排序的,形成了一个从topic到reply的索引。查询的时候只能查询topicId行的列大于(或小于)replyId的size个replyId,相当于sql:


select * from topic_reply where replyId > ? limit size 

不能够 “limit offset, size”。这意味着如果要查询第一千页,而我不知道第一千页开始的replyId是多少,我就得取出这一千页的数据,这显然是行不通的。所以得想办法从靠近我要取的数据的某个replyId处开始取数据。

reids的SortedSet

无 论是mysql还是cassandra,都不能很好地解决从一个很长的序列中取出任意一段数据的问题,而造成这一问题的根源在于这些数据是存放在磁盘上 的,磁盘不适合做此类的随机读的操作。所以想,如果能有一个程序,管理一些很大很大的放在内存中排序数组就好了,因为对内存中的数组做下标访问,是非常快 速的。做了一下调查正好发现,redis提供了此类的功能。

redis将数据存放到内存中,所以既便是随机读写,速度都是非常快。 redis支持的SortedSet结构正好适合于做分页查询。SortedSet按照给定的score给member排序,允许通过下标或者score 去查询。把同一个topic的replyId作为member,以replyId本身为score存放到SortedSet后,就可以通过下标取值了,例如:

//存入数据
zadd tr:1 1 1
zadd tr:1 2 2
zadd tr:1 5 5
zadd tr:1 33 33
zadd tr:1 245 245
zadd tr:1 663 663

//pageSize = 3 取 第二页,即下标 3 到5的元素
zrange tr:1 3 5
其中 tr:1 是这个SortedSet的key,”tr:”只是用来区分其它key用的前缀,1是topicId。更详细的内容看redis官网http://redis.io,如此一来,就可以实现任意分页查询了,而且性能非常好。

缓存索引

redis 的数据全部存放到内存中,如果把所有topic到reply的关系都放到内存中,要耗费很多内存,而且这么多的内存实际上很多是浪费的,毕竟大部分的 topic是不活跃的。再者topic到reply的映射关系是非常重要的,所以我们需要把这种关系持久化。最后我们决定,这个映射关系,或者称为索引还 是存放在cassandra里面,只是在需要的时候,才从cassandra里面把索引载入到redis内,然后再利用redis分页查询。如此一 来,redis成了一个支持分页查询的强大的缓存。

分片缓存

对于超长的主题,全新载入到redis一次也是相当的耗时的,我们采取分片来解决这个问题。我们把索引每4800个值分成一片,用另外一个数据结构记录索引长度和索引从第二片开始的每片的开始值。
33.png

更新的索引的时候更新这个分片信息,记录各分片的头部是为了便于从cassandra载入分片。

查询的时候把分页查询转化成某个片上某段索引的值。当分片大小大于pageSize并且能被pageSize整除时,这个转化是很简单的,因为分页正好会全 部落在某一个分片中。我们之所以把分片大小设置成4800正是因为这个值能被10 15 20 25 30 40 50 60 80 100 200 等很多常用分页大小整除。分片太大浪费内存,分片太小分片就太多。

只要算出这一页所在的分片,然后把需要的索引段载入到redis,再利用redis的分页查询查出结果。这样只有活跃的索引分段才会被载入到redis内存中。如果用mysql来持久化索引效果也是类似的,而且查询便利能力更强。

总结

只要产品能接受,就不要使用任意分页,任意跳转。确实需要高速分页查询的时候可以使用redis的SortedSet,但是得注意内存大小和持久化问题。

正文部分到此结束

版权声明:除非注明,本文由( manon )原创,转载请保留文章出处

本文链接:关于大数据分页查询和redis之SortedSet应用

继续浏览:木有标签

通用的文档格式转换工具:unoconv
自定义header响应头中的X-Powered-By

发表评论

看看右边的头像对不对?→_→