发布

HotKey在618稳定版0.2版基础上，引入了proto序列化方式，并优化了传输对象。

worker单机性能从618大促稳定版的20万QPS稳定，30万极限，提升至30万稳定，37万极限。且cpu峰值下降了15%。

该中间件目前在京东内部10余个核心部门接入使用，服务于京东App服务端前台、中台，统计中台等多个核心业务线。

架构

京东APP后台热统计探测框架，历经多次高压压测和2020年京东618大促考验。在上线运行的这段时间内，每天探测的key数量数十亿计，精准捕获了大量爬虫、刷子用户，另准确探测大量热门商品并毫秒级推送到各个服务端内存，大幅降低了热统计对统计层的查询压力，提升了使用性能。

该框架历经多次压测，8核单机worker端每秒可接收解决16万个key探测任务，16核单机至少每秒平稳解决30万以上，实际压测达到37万，CPU平稳支撑，框架无异常。

对外推送目前性能约平稳推送每秒10万次，譬如有1千台server，每秒在一台worker上产生了100个热key，那么这1秒会平稳推送100* 1000= 10万次。实际表现看，1秒推送40万次的场景也出现过多次，会产生部分延迟到达，但不丢失。

在真实业务场景中，可用1：1000的比例，即1台worker支撑1000台服务端Tomcat的key探测任务，即可带来极大的统计存储资源节省（如对redis集群的扩充）。

介绍

对任意突发性的无法预先感知的热点请求，包括并不限于热点统计（如突发大量请求同一个商品）、热用户（如爬虫、刷子）、热接口（突发海量请求同一个接口）等，进行毫秒级精准探测到。接下来对这些热统计、热用户等，推送到该使用部署的所有机器JVM内存中，以大幅减轻对后端统计存储层的冲击，并可以由客户端决定如何使用这些热key（譬如对热商品做本地缓存、对热用户进行拒绝访问、对热接口进行熔断或返回默认值）。这些热key在整个使用集群内保持一致性。

核心功能：热统计探测并推送至集群各个服务器。

适用场景：

1 mysql热统计本地缓存

2 redis热统计本地缓存

3 黑名单用户本地缓存

4 爬虫用户限流

5 接口、用户维度限流

6 单机接口、用户维度限流限流

7 集群用户维度限流

8 集群接口维度限流

该开源项目战略意义重大，经历百万级并发，参与京东开源中间件项目建设，一直在等你。

界面后果

源码：