本次案例演示:环境
1、solr-4.10.3.tgz.tgz
2、apache-tomcat-7.0.88.tar.gz
3、IKAnalyzer2012FF_hf1.zip
资源下载:Download 提取码:syj6
1):下载文件资源上传到指定目录下(自定义路径)
2):解压到指定目录下
tar -zxvf solr-4.10.3.tgz.tgz -C ./install/
3):切换到 解压后的文件 dist 下
cd solr-4.10.3/dist/
3-1):拷贝 solr-4.10.3.war 到 tomcat/webapp/ 下 (请提前解压 所需要的的 tomcat)
cp solr-4.10.3.war /opt/solr/tomcat/apache-tomcat-7.0.88/webapps/solr.war
4):启动 tomcat 进行 solr 自动解压缩
cd /opt/tomcat/apache-tomcat-7.0.88/bin/ ./startup.sh
5):复制 log 日志jar 到 solr 中
cd /opt/solr/solr-4.10.3/example/lib/ext/ cp * /opt/tomcat/apache-tomcat-7.0.88/webapps/solr/WEB-INF/lib/
6):配置 solr home
cd /opt/solr/install/solr-4.10.3/example/
cp -r solr /opt/solr/install/solrhome
7):solr 与 solrhome 建立关系 【修改 solr 中的 web.xml】
cd /opt/solr/tomcat/apache-tomcat-7.0.88/webapps/solr/WEB-INF/
8):启动 tomcat 进行访问 solr 测试【 ip:tomcat端口/solr】
以上 我们的 solr 服务就已经 搭建成功了。
9):配置 IK 中文分词器
9-1):解压分词器包 (unzip 指令需要 yum安装)
unzip IKAnalyzer2012FF_hf1.zip
9-2):重命名
mv IK\ Analyzer\ 2012FF_hf1/ IKAnalyzer2012FF_hf1
9-3):将 IKAnalyzer2012FF_u1.jar 添加到 solr 工程中去
cp IKAnalyzer2012FF_u1.jar /opt/tomcat/apache-tomcat-7.0.88/webapps/solr/WEB-INF/lib/
首先创建 classes 目录:
mkdir /opt/tomcat/apache-tomcat-7.0.88/webapps/solr/WEB-INF/classes
拷贝:
cp IKAnalyzer.cfg.xml ext_stopword.dic mydict.dic /opt/tomcat/apache-tomcat-7.0.88/webapps/solr/WEB-INF/classes/
查看:
ll /opt/tomcat/apache-tomcat-7.0.88/webapps/solr/WEB-INF/classes
10):定义 fieldType 指定 使用中文分词器
cd /opt/solr/solrhome/collection1/
cd conf/
编辑 schema.xml 添加如下配置:
<!-- text_ik -->
<fieldType name="text_ik" class="solr.TextField">
<analyzer type="index" useSmart="false"
class="org.wltea.analyzer.lucene.IKAnalyzer" />
<analyzer type="query" useSmart="true"
class="org.wltea.analyzer.lucene.IKAnalyzer" />
</fieldType>
保存后 重启 tomcat 浏览器查看:
11):dataimport 导入数据库数据 连接 mysql
solr 默认是没有开启dataimport这个功能的,所以我们要经过一点配置来开启它。
11-1):找到不要的 jar 文件 及 mysql 驱动jar (所需要的的文件 我会单独提出来 文章头部有下载链接)
cd /opt/solr/install/solr-4.10.3/dist/
把这个三个 JAR 复制到 tomcat/webapp/solr/WEB-INF/lib/ 下。
11-2):找到 solr-4.10.3/example/example-DIH/solr/db/conf/db-data-config.xml,把其复制到 solrHome/core1/conf/下,并改名为data-config.xml.
11-3):找到solrHome/core1/conf/solrconfig.xml,并打开,在里面添加一段内容,如下
<requestHandler name="/dataimport" class="solr.DataImportHandler">
<lst name="defaults">
<str name="config">data-config.xml</str>
</lst>
</requestHandler>
11-4):打开并编辑data-config.xml,完整的配置文件如下
<dataConfig>
<dataSource dataSource="data_source"
driver="com.mysql.jdbc.Driver"
url="jdbc:mysql://IP:3306/db-solr?serverTimezone=UTC&characterEncoding=utf8&useUnicode=true&useSSL=false"
user="admin"
password="admin" />
<document>
<!-- name属性,就代表着一个文档,可以随便命名 -->
<!--
transformer 格式转化:HTMLStripTransformer 索引中忽略HTML标签
query:查询数据库表符合记录数据 query是一条sql,代表在数据库查找出来的数据
deltaQuery:增量索引查询主键ID 注意这个只能返回ID字段
deletedPkQuery:增量索引删除主键ID查询 注意这个只能返回ID字段 deletedPkQuery="select id from meta_solr where 1=1 and isDeleted=1"
deltaImportQuery:增量索引查询导入的数据 -->
<!--deletedPkQuery="select id from students where del_flag=0"-->
<entity name="students"
pk="id"
query="select id,carded,name,sex,telePhone,fraction,schools,familyAddress,arrangement,college,major,del_flag as delFlag
,DATE_FORMAT(create_time,'%Y-%m-%d %H:%i:%S') as createTime,DATE_FORMAT(update_time,'%Y-%m-%d %H:%i:%S') as updateTime from students where del_flag=0"
deltaQuery="select id from students where update_time > '${dataimporter.last_index_time}'"
deletedPkQuery="select id from students where del_flag=1"
deltaImportQuery="select id,carded,name,sex,telePhone,fraction,schools,familyAddress,arrangement,college,major,del_flag as delFlag
,DATE_FORMAT(create_time,'%Y-%m-%d %H:%i:%S') as createTime,DATE_FORMAT(update_time,'%Y-%m-%d %H:%i:%S') as updateTime from students where id='${dih.delta.id}'" > <!-- 每一个field映射着数据库中列与文档中的域,column是数据库列,name是solr的域(必须是在 managed-schema 或 schema 文件中配置过的域才行 版本的不同文件名有区别 4版本是 schema) -->
<field column="id" name="id"/>
<field column="carded" name="carded"/>
<field column="name" name="name"/>
<field column="sex" name="sex"/>
<field column="telePhone" name="telePhone"/>
<field column="fraction" name="fraction"/>
<field column="schools" name="schools"/>
<field column="familyAddress" name="familyAddress"/>
<field column="arrangement" name="arrangement"/>
<field column="college" name="college"/>
<field column="major" name="major"/>
<field column="delFlag" name="delFlag"/>
<field column="createTime" name="createTime"/>
<field column="updateTime" name="updateTime"/> </entity>
</document>
</dataConfig>
schema.xml 必须要配置 field:要有对应关系
<field name="id" type="string" indexed="true" stored="true" required="true" multiValued="false" />
<!--测试用例-->
<field name="carded" type="string" indexed="true" stored="true"/>
<field name="name" type="string" indexed="true" stored="true"/>
<field name="sex" type="string" indexed="true" stored="true"/>
<field name="telePhone" type="string" indexed="true" stored="true"/>
<field name="fraction" type="int" indexed="true" stored="true"/>
<field name="schools" type="text_ik" indexed="true" stored="true"/>
<field name="familyAddress" type="text_ik" indexed="true" stored="true"/>
<field name="arrangement" type="string" indexed="true" stored="true"/>
<field name="college" type="string" indexed="true" stored="true"/>
<field name="major" type="string" indexed="true" stored="true"/> <field name="delFlag" type="string" indexed="true" stored="true"/>
<field name="createTime" type="string" indexed="true" stored="true"/>
<field name="updateTime" type="string" indexed="true" stored="true"/>
重启tomcat,然后会看到如下页面
点击蓝色的按钮,则开始导入,导入过程依据数量量的大小,需要的时间也不同,可以点击右边的Refresh status来刷新状态,可以查看当前导入了多少条。
导入成功如下:
12):mysql 数据发生变更 同步 solr 配置:
方案一:使用 solr 配置定时器进行 增量更新
方案二:使用 spring定时器等技术 调用接口进行增量更新
方案三:使用脚本定时 进行增量更新
12-1):打开tomcat下面solr的web.xml配置文件,路径:/usr/local/solr/tomcat/apache-tomcat-7.0.30/webapps/solr/WEB-INF 添加如下内容:
<!-- solr数据导入监听器 -->
<listener>
<listener-class>
org.apache.solr.handler.dataimport.scheduler.ApplicationListener
</listener-class>
</listener>
12-2):导入相关jar 到 solr/tomcat/apache-tomcat-7.0.30/webapps/solr/WEB-INF/lib
提示:
solr 4.10.3 :所需要的jar为 apache-solr-dataimportscheduler-1.0.jar 其他则报错
其他高版本的可能要重新编译源代码 重新生成jar包
这是个 solr 的 bug
导入完jar文件后还需要添加如下配置:
在solrhome目录下,新建配置文件: mkdir conf文件夹,并在conf中新建mkdir dataimport.properties文件,
注意,一定要在solrhome目录下,以solr实例core1要在同级目录,并在dataimport.properties添加以下内容:
#################################################
# #
# dataimport scheduler properties #
# #
################################################# # to sync or not to sync 是否同步功能
# 1 - active; anything else - inactive 1 - 开启; 否则不开启
syncEnabled=1
# which cores to schedule
# in a multi-core environment you can decide which cores you want syncronized
# leave empty or comment it out if using single-core deployment
#syncCores=game,resource 需要同步的solr core
syncCores=collection1
# solr server name or IP address solr server 名称或IP地址
# [defaults to localhost if empty] 默认为localhost
server=localhost
# solr server port solr server端口
# [defaults to 80 if empty] 默认为80
# 安装solr的tomcat端口,如果你使用的是默认的端口,就不用改了,否则改成自己的端口就好了
port=8081
# 调度区间
# 默认为30分钟
interval=1
# application name/context
# [defaults to current ServletContextListener's context (app) name]
webapp=solr
# URL params [mandatory]
# remainder of URL
params=/dataimport?command=delta-import&clean=false&commit=true
# schedule interval
# number of minutes between two runs
# [defaults to 30 if empty]
# 重做索引的时间间隔,单位分钟,默认7200,即5天;
# 为空,为0,或者注释掉:表示永不重做索引
reBuildIndexInterval=1 # 重做索引的参数
reBuildIndexParams=/dataimport?command=full-import&clean=true&commit=true # 重做索引时间间隔的计时开始时间,第一次真正执行的时间=reBuildIndexBeginTime+reBuildIndexInterval*60*1000;
# 两种格式:2012-04-11 03:10:00 或者 03:10:00,后一种会自动补全日期部分为服务启动时的日期
reBuildIndexBeginTime=03:10:00
正常情况下:重启tomcat,然后再数据库添加一条数据,就可以在solr后台查询到添加的结果了
但是在 solr.4.10.3 版本当中发现并不生效 也可能是我才疏学浅 。
如有大佬发现此问题的原因:麻烦在留言区留言纠正 感谢。
建议使用高版本 solr。
针对上述定时更新不生效问题;本人采用 spring定时任务调度方案替代。
package cn.com.solr.utils; import org.apache.solr.client.solrj.SolrRequest;
import org.apache.solr.client.solrj.request.QueryRequest;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.common.params.MapSolrParams; import java.util.HashMap;
import java.util.Map; public class SolrBuildRequest { public static SolrRequest<QueryResponse> buildRequest(Command command, String entity) {
Map<String, String> map = new HashMap<>();
switch (command) {
case DELTA_IMPORT:
map.put("command", "delta-import");
map.put("commit", "true");
map.put("wt", "json");
map.put("indent","true");
map.put("entity", entity);
map.put("verbose","false");
map.put("clean", "false");
map.put("optimize", "false");
map.put("index", "false");
map.put("debug", "false");
return new QueryRequest(new MapSolrParams(map));
case FULL_IMPORT:
map.put("command", "full-import");
map.put("clean", "true");
map.put("commit", "true");
map.put("optimize", "false");
map.put("entity", entity);
map.put("index", "false");
map.put("debug", "false");
map.put("wt", "json");
return new QueryRequest(new MapSolrParams(map));
}
return null;
} }
SolrBuildRequest 工具类
package cn.com.solr.utils; public enum Command {
FULL_IMPORT,DELTA_IMPORT;
}
Command 枚举