(Linux)sphinx检索Coreseek中文全文检索引擎安装和使用

时间:2022-01-12 08:28:16

首先解释下sphinx和Coreseek是什么?sphinx(开源全文检索引擎)Coreseek(开源的中文全文检索引擎)coreseek是一个针对于中文检索方案的一种全文检索技术,基于sphinx开发的。

至于好处,简单说就是迅速和高效,尤其是在当今科技迅速发展的前提下,我们要在成百上千万的数据中查找数据,如果只是单纯的使用(select ..from ..)效率可想而知,而coreseek不但提供了多种语言的API接口,而且时间效率极高。

由于我安装的时候走了一点弯路,各种改!所以还是先把要准备的东西列出来:(当然可以直接安装:yum install ...)

(1) automake...tar.gz  autoconf...tar.gz libtool...tar.gz m4...tar.gz

(2) expat...rpm expat.devel...rpm 

(3) coreseek-3.2.14.tar.gz  (主要就是这些,php暂时不考虑)

解压(1) (3) tar -xzvh ...tar.gz 

解压(2)rpm -ivh ...rpm

然后执行(1):

    设置环境,升级/安装系统基础依赖包:m4、autoconf、automake、libtool

   $ sudo bash
   
$ su -


    #设置路径和中文环境:
    $ export PATH=/usr/local/bin:$PATH
    $ export LC_ALL=zh_CN.UTF-8
    $ export LANG=zh_CN.UTF-8


    $ curl -O -L http://mirrors.kernel.org/gnu/m4/m4-1.4.13.tar.gz
    $ tar -xzvf m4-1.4.13.tar.gz
    $ cd m4-1.4.13
    $ ./configure --prefix=/usr/local
    $ make && make install
    $ cd ..


    $ curl -O -L http://mirrors.kernel.org/gnu/autoconf/autoconf-2.65.tar.gz
    $ tar -xzvf autoconf-2.65.tar.gz
    $ cd autoconf-2.65
    $ ./configure --prefix=/usr/local
    $ make && make install
    $ cd ..


    $ curl -O -L http://mirrors.kernel.org/gnu/automake/automake-1.11.tar.gz
    $ tar xzvf automake-1.11.tar.gz
    $ cd automake-1.11
    $ ./configure --prefix=/usr/local
    $ make && make install
    $ cd ..


    $ curl -O -L http://mirrors.kernel.org/gnu/libtool/libtool-2.2.6b.tar.gz
    $ tar xzvf libtool-2.2.6b.tar.gz
    $ cd libtool-2.2.6b
    $ ./configure --prefix=/usr/local
    $ make && make install
    $ cd ..

注:虽然警告在某种程度上也是有错,但可以暂时忽略,遇到ERROR就要解决了,全程安装如是


紧接着是(2)的安装 (不安装后面的执行操作会报错)

一般的rpm包安装,最后在执行第(3)部,也就是接下来的操作

$ cd coreseek-3.2.14
    ##安装mmseg中文分词
    $ cd mmseg-3.2.14
    $ ./bootstrap    #输出的warning信息可以忽略,如果出现error则需要解决
    $ ./configure --prefix=/usr/local/mmseg3
    $ make && make install
    $ cd ..

##安装coreseek,需提前安装mysql以支持mysql数据源(/usr/local/mysql)
        $ cd csft-3.2.14
        $ sh buildconf.sh
        $ ./configure --prefix=/usr/local/coreseek  --without-unixodbc --with-mmseg --with-mmseg-includes=/usr/local/mmseg3/include/mmseg/ --with-mmseg-libs=/usr/local/ mmseg3/lib/ --with-mysql --with-mysql-includes=/usr/local/mysql/
include --with-mysql-libs=/usr/local/mysql/lib
        $ make && make install
        $ cd ..
 

  ##测试mmseg分词,coreseek搜索
        $ cd testpack
        $ cat var/test/test.xml    #此时应该正确显示中文
        $ /usr/local/mmseg3/bin/mmseg -d /usr/local/mmseg3/etc var/test/test.xml
        $ /usr/local/coreseek/bin/indexer -c etc/csft.conf --all
        $ /usr/local/coreseek/bin/search -c etc/csft.conf 网络搜索


测试完能正确显示就是配置成功了!但是,这只是第一步!接下来就是要你如何去建立一个索引

http://www.coreseek.cn/docs/coreseek_3.2-sphinx_0.9.9.html#conf-sql-query  这里是sphinx和coreseek的参考手册

参数的配置

1、数据源配置项 source 2、索引配置选项 index 3、indexer程序配置选项 4、searchd程序配置选项

代码如下:

source stip{
        type = mysql
        sql_host = localhost
        sql_user = root
        sql_pass = 
        sql_db = test
        sql_port = 3306
        sql_query_pre = SET NAMES utf8
        sql_query = SELECT id,group_id,content FROM documents
        sql_attr_uint = author_id
}


index stip{                                                      # index和source应该是成对出现,index就是配置索引的功能(我们还可以配置多个索引 主索引+增量索引的功能)
        source = src
        path = /usr/local/coreseek/var/data/stip  #路径尽量使用绝对路径
        docinfo = extern
        mlock =0
        morphology = none
        min_word_len =1
        html_strip =0

        charset_type = zh_cn.utf-8
        charset_dictpath = /usr/local/mmseg3/etc/
}


searchd{                            #searchd是常驻进程的全文检索服务,默认监控本机的9312端口
        listen = 9312
        read_timeout =5
        max_children = 30
        max_matches = 1000
        seamless_rotate = 0
        preopen_indexes = 0
        unlink_old = 1
        pid_file = /data/log/searchd_rtindex.pid
        log = /data/log/searchd_rindex.log
        query_log = /data/log/query_rtindex.log
}


现在进入数据库阶段了,先创建好数据库和表结构

然后就是如何插入数据,成百上千万级别的数据,显而易见是使用循环插入数据

当然我使用的是shell脚本


然后就是测试数据 方法和前面额测试一样,然后测试结果

(Linux)sphinx检索Coreseek中文全文检索引擎安装和使用


这些仅代表个人见解,欢迎改错!