Redis HyperLogLog

Redis 在 2.8.9 版本添加了 HyperLogLog 数据结构。

Redis HyperLogLog 是用来做基数统计的数据结构,它的优点是,在输入元素的数量或者体积非常非常大时,计算基数所需的空间总是固定的、并且是很小的。

Redis HyperLogLog 作为一种概率数据结构,它以完美的精度换取高效的空间利用率。

但是,因为 HyperLogLog 只会根据输入元素来计算基数,而不会储存输入元素本身,所以 HyperLogLog 不能像集合那样,返回输入的各个元素。在 Redis 里面,每个 HyperLogLog 可以估计具有多达 18446744073709551616(2^64)个成员的集合的基数,且提供 0.81% 的标准错误。这和计算基数时,元素越多耗费内存就越多的集合形成鲜明对比。

注意:向 HyperLogLog 写入(PFADD)和从(PFCOUNT)中读取是在恒定的时间和空间内完成的。合并 HLL 是 O(n),其中 n 是草图的数量。

什么是基数?

比如数据集 {1, 3, 5, 7, 5, 7, 8}, 那么这个数据集的基数集为 {1, 3, 5 ,7, 8}, 基数(不重复元素)为 5。 基数估计就是在误差可接受的范围内,快速计算基数。

实例

(1)向 HyperLogLog 添加一些数据,如下:

127.0.0.1:6379> pfadd members 100
(integer) 1
127.0.0.1:6379> pfadd members 300
(integer) 1
127.0.0.1:6379> pfadd members 250
(integer) 1

(2)估计集合中的成员数,如下:

127.0.0.1:6379> pfcount members
(integer) 3

应用场景

如果待处理数据的基数不大、数据量不大,就用不上 HyperLogLog,会有点大材小用,且浪费空间。

HyperLogLog 有局限性,它只能统计基数数量,而没办法去知道具体的内容是什么。

HyperLogLog 和 bitmap 相比,属于两种特定统计情况。简单来说,HyperLogLog 去重比 bitmap 方便很多。我们一般可以将 bitmap 和 HyperLogLog 配合使用,bitmap 标识哪些用户活跃,hyperloglog 计数。

HyperLogLog 的一般使用:

(1)统计注册 IP 数

(2)统计每日访问 IP 数

(3)统计页面实时 UV 数

(4)统计在线用户数

(5)统计用户每天搜索不同词条的个数

例如:

# 添加数据到 HyperLogLog
127.0.0.1:6379> pfadd mykey 0 1 1 2 3 4 6 1
(integer) 1

# 基数为 6,即 0 1 2 3 4 6
127.0.0.1:6379> pfcount mykey
(integer) 6

Redis HyperLogLog 命令

下面列出了 Redis HyperLogLog 的基本命令。

PFADD命令

添加指定元素到 HyperLogLog 中。语法如下:

PFADD key element [element ...]

实例:

127.0.0.1:6379> pfadd members google
(integer) 1
127.0.0.1:6379> pfadd members baidu
(integer) 1
127.0.0.1:6379> pfadd members bing
(integer) 1

PFCOUNT命令

返回给定 HyperLogLog 的基数估算值。语法如下:

PFCOUNT key [key ...]

实例:

127.0.0.1:6379> pfadd members google
(integer) 1
127.0.0.1:6379> pfadd members baidu
(integer) 1
127.0.0.1:6379> pfadd members bing
(integer) 1
127.0.0.1:6379> pfcount members
(integer) 3

PFMERGE命令

将多个 HyperLogLog 合并为一个 HyperLogLog。语法如下:

PFMERGE destkey sourcekey [sourcekey ...]

实例:

127.0.0.1:6379> pfadd hyperlog1 100
(integer) 1
127.0.0.1:6379> pfadd hyperlog1 200
(integer) 1
127.0.0.1:6379> pfadd hyperlog2 100
(integer) 1
127.0.0.1:6379> pfadd hyperlog2 300
(integer) 1
127.0.0.1:6379> pfmerge hyperlog_result hyperlog1 hyperlog2
OK
127.0.0.1:6379> pfcount hyperlog_result
(integer) 3

更多命令请访问 https://redis.io/commands  进行参考。

说说我的看法
全部评论(
没有评论
关于
本网站专注于 Java、数据库(MySQL、Oracle)、Linux、软件架构及大数据等多领域技术知识分享。涵盖丰富的原创与精选技术文章,助力技术传播与交流。无论是技术新手渴望入门,还是资深开发者寻求进阶,这里都能为您提供深度见解与实用经验,让复杂编码变得轻松易懂,携手共赴技术提升新高度。如有侵权,请来信告知:hxstrive@outlook.com
公众号