es相同条件搜索多次返回结果不一样

1. 背景介绍

业务方发现他们配置的数据源会返回重复数据,主要体现为在翻页的时候上一页的最后一个数据和下一页的第一条数据一模一样, 场景和分页问题极其相似

2. 分析过程

我最开始碰到这个bug的时候,就真的是以为只是翻页的问题,现象太容易引人误会了. 结果我肉眼从接口到代码到排查代码传参都没问题.于是决定预发环境DEBUG,发现参数确实传输中没有问题,那么代码问题就被排除,只可能是基建问题. 于是我拿到真正执行的DSL, 直接去es中搜索, 发现同一条DSL,短时间诶查询的结果不一样.
(注意: 我配置的 index refresh_interval为300s,可以排除是refresh数据导致的问题)

3. 解决思路

既然已经分析出问题,那么就开始研究es为什么相同DSL多次查询结果不一致.可是对于我这个对es底层研究不够深入的半吊子开发,想从原理上去寻找问题几乎不太可能.
于是我把目标瞄准了es开放社区.[https://elasticsearch.cn/]
果然,在社区中早就有前人已经爬过这个坑了,我完全可以直接抄作业了!

4. 原理分析

出于性能考虑es在删除数据的时候,不会立即将数据从磁盘中删除,而是先将数据标记为已删除,然后在下次文档合并的时候才会将数据从磁盘上清楚.因此，假设主碎片刚刚完成了一个大型合并，删除了许多已删除的文档，那么它的索引统计信息可能与副本（仍然有大量已删除文档）完全不同.
于是当我们两次DSL查询走了不同的分片,查询到数据的排序结果自然不会完全相同, 所以会出现搜索结果出现重复数据的情况.

5. 解决方案

es官方给出了,让我们配置userId或者sessionId作为preference(相同的值会从相同的分片中查询数据),可以解决此排序问题.
但是, 基于我对es的认知以及公司大佬carl的实践,不通的查询条件走不通的分片,可以更好的命中es的热数据,大大降低服务器的CPU消耗.所以我将除了start和limit的查询条件的hashcode作为preference值来解决此问题

5. 代码参考

if(cmd.getBody() != null) searchRequest.preference(cmd.getBody().toString().hashCode()+"");

6. 监控数据

7. 参考文献

https://www.elastic.co/guide/en/elasticsearch/reference/7.x/consistent-scoring.html