Quartz 4

UV统计

3 min read

  • UV：全称Unique Visitor，也叫独立访客量，是指通过互联网访问、浏览这个网页的自然人。1天内同一个用户多次访问该网站，只记录1次。
  • PV：全称Page View，也叫页面访问量或点击量，用户每访问网站的一个页面，记录1次PV，用户多次打开页面，则记录多次PV。往往用来衡量网站的流量。

HyperLogLog用法

UV统计在服务端做会比较麻烦，因为要判断该用户是否已经统计过了，需要将统计过的用户信息保存。但是如果每个访问的用户都保存到Redis中，数据量会非常恐怖，那怎么处理呢？

Hyperloglog(HLL)是从Loglog算法派生的概率算法，用于确定非常大的集合的基数，而不需要存储其所有值。相关算法原理大家可以参考：HyperLogLog 算法的原理讲解以及 Redis 是如何应用它的

Redis中的HLL是基于string结构实现的，单个HLL的内存永远小于16kb，内存占用低的令人发指！作为代价，其测量结果是概率性的，有小于0.81％的误差。不过对于UV统计来说，这完全可以忽略。

image-12

实现UV统计

  • 批量数据处理：通过for循环向HyperLogLog插入100万条数据，测试内存占用和统计效果
  • 数组分批次处理：使用长度为1000的String数组，每填满1000条数据就发送一次到Redis
  • 内存优化技巧：采用模运算i%1000控制数组角标，避免数组越界
@Test  
void testHyperLogLog() {  
    String[] values = new String[1000];  
    int j = 0;  
    for (int i = 0; i < 10000000; i++) {  
        j = i % 1000;  
        values[j] = "user_" + i;  
        if (j == 999) {  
            // 发送到redis  
            stringRedisTemplate.opsForHyperLogLog().add("hl2", values);  
        }  
    }  
    // 统计数量  
    Long count = stringRedisTemplate.opsForHyperLogLog().size("hl2");  
    System.out.println("count = " + count);  
}

Graph View