solr 请求参数过长报错,Solr配置maxBooleanClauses属性不生效原因分析

时间:2021-07-19 04:21:00

博客分类:

 

上次已经写过一篇关于solr中,查询条件过多的异常的文章,这次在总结扩展一下:

有时候我们的查询条件会非常多,由于solr的booleanquery默认设置的条件数为1024,所以超过这个限制的 
会报异常,这样设置的原因是为了限制过多条件查询,降低查询的性能,但有时候又必须这样查,或分析数据用, 
所以可以临时改变下,修改方法:

修改solrconfig.xml文件:

伦理片 http://www.dotdy.com/

  1. <maxBooleanClauses>20000</maxBooleanClauses>

理想情况下,配置完这个属性,重启应该就生效了,但是让你意外的是,并没有生效,拼接5000个查询条件,依然报这个异常:

  1. too many boolean clauses Exception

为什么? 仔细看solr的文档里面,写这下面一段话:

  1. Max Boolean Clauses
  2. Maximum number of clauses in each BooleanQuery,  an exception
  3. is thrown if exceeded.
  4. ** WARNING **
  5. This option actually modifies a global Lucene property that
  6. will affect all SolrCores.  If multiple solrconfig.xml files
  7. disagree on this property, the value at any given moment will
  8. be based on the last SolrCore to be initialized.

什么意思?大致就是说,这个属性是全局的lucene配置,如果你的solr里面存在多个core,那么必须多个core的配置 
文件都得配置maxBooleanClauses才会生效,否则只有当你配置的那个core最后一个被加载时,它才会生效,如果不幸,不是最后一个加载,那么即使你设置成20000那么它默认还是1024,这就是为什么配置完成之后依旧不生效的原因,散仙的场景中,参数大概有8000多个,虽然改变配置可以查询,但不建议这么用,内存不给力的情况下,查询速度非常之慢,用于离线分析某些数据,倒还可以接受。 
影音先锋电影 http://www.iskdy.com/
最后在补充一些查询知识:

  1. //过滤的几种写法
  2. (1)q=category:1 AND category:2 AND category:3 ... AND category:2000
  3. (2)q=*:*&fq=category:(1 2 3 ... 2000)
  4. (3)q=*:*&fq=category:1&fq=category:2&fq=category:3&....&fq=category:2000

在solr请求的参数中,我们一般情况下是不会有太多的参数,有一种情况会有很多,就是有关联关系的时候,查出来了一个ids的集合,然后传给你的solr当参数,这个时候,你的参数就可能会报长度错误。如果没有报,那只能说明你的长度还不够长。

接下来介绍如何解决长度问题。

1.在solr的实例中有一个conf的文件solrconfig.xml文件中 在<query>的标签下有一个<maxBooleanClauses>1024</maxBooleanClauses>这个时候,你修改这个1024就可以,有些人修改完事了,重启了solr但是没有起效,原因:实例core有多个,但是你只修改了这一个,当solr在加载的时候,只会按照最后一个设置的值做标准。它的标准是最后加载的一个core实例的maxBooleanClauses值。(当你修改这个配置的时候,自己读一下修改位置上面被注释掉的文字)

2.(这个是第二天来补充的,不和上面是一起写的),虽然你的solr配置没问题,但是你的tomcat并不能接收那么多的参数,所以需要修改tomcat的conf/server.xml文件  <Connector connectionTimeout="20000" port="8088" protocol="HTTP/1.1" redirectPort="8443" maxHttpHeaderSize=""/> maxHttpHeaderSize的属性就是请求头的大小设置。

把请求模式改成post模式, QueryResponse qr = solr.query(this.getSolrQuery(ids));改成

QueryResponse qr = solr.query(this.getSolrQuery(ids),METHOD.POST);

总结: 
(1)如果是or操作多个条件,只能配置最大限制条件 
(2)如果是and操作多个条件,可以上面的3方法,而不用配置最大限制条件