Sphinx安装流程及配合PHP使用经验
1.什么是Sphinx
Sphinx是俄罗斯人Andrew Aksyonoff开发的高性能全文搜索软件包,在GPL与商业协议双许可协议下发行。
全文检索式指以文档的全部文本信息作为检索对象的一种信息检索技术。检索的对象有可能是文章的标题,也有可能是文章的作者,也有可能是文章的摘要或内容。常用于新闻,论坛评论等的模糊查询。
2.Sphinx的特性
- 高速索引(在新款CPU上,近10MB/S);
- 高速搜索(2-4G的文本量平均查询速度不到0.1秒);
- 高可用性(单CPU上最大可支持100GB的文本,100M文档);
- 提供良好的相关性排名;
- 提供文档摘要生成;
- 提供从Mysql内部的插件式存储引擎上搜索;
- 支持布尔,短语,和近义词查询;
- 支持单字节编码与UTF-8编码等等。
3.下载coreseek
PS:Coreseek是基于Sphinx开发的,Sphinx只支持mysql,Coreseek支持更多,另外支持中文分词。
http://www.coreseek.cn/opensource/mmseg/
4.安装操作系统基础开发库以及mysql依赖库以支持mysql数据源和xml数据源
yum install make gcc g++ gcc-c++ libtool autoconf automake imake mysql-devel libxml2-devel expat-devel
(PS:小编使用的linux系统centos5.6测试的,操系作系统版本不同,需安装不同的库,具体请点击)
5.安装(编译安装)
5.1 解压
tar -zxvf coreseek-3.2.14.tar.gz
cd coreseek-3.2.14
5.2 安装mmseg
cd mmseg-3.2.14
./bootstrap #输出的warning信息可以忽略,但是出现error则需要解决
./configure --prefix=/usr/local/mmseg
make && make install
cd ..
5.3 安装coreseek
cd csft-3.2.14
sh buildconf.sh #输出的warning信息可以忽略,但是出现error则需要解决
./configure --prefix=/usr/local/coreseek --without-unixodbc --with-mmseg --with-mmseg-includes=/usr/local/mmseg/include/mmseg/ --with-mmseg-libs=/usr/local/mmseg/lib/ --with-mysql
make && make install
6.配置测试
cp /usr/local/coreseek/etc/sphinx-min.conf.dist /etc/csft.conf
/usr/local/coreseek/bin/indexer -c /etc/csft.conf
显示如下
7.配置csft.conf
vim /etc/csft.conf
![](/assets/blank.gif)
#配置源 source sphinx_t0 #数据库名_数据表名,每配置一个数据表,都需要写上一个配置源 {type = mysql #数据库类型 sql_host = localhostsql_user = rootsql_pass = 123123sql_db = sphinx #指定数据库sql_port = 3306 # optional, default is 3306sql_sock = /tmp/mysql.sock #mysql接口#从数据库之中读取数据的SQL语句设置#在这里尽可能不使用where或groupby,#将where与groupby的内容交给sphinx,由sphinx进行条件过滤与groupby效率会更高#注意:select的字段必须包括一个唯一主键以及要全文检索的字段(可以有多个)、输出的字段。#where中要用到的字段也要select出来#例:#在配置sql语句,可以先写出一句预计要执行的sql语句,然后根据sphinx规定设置#select * from t0 where description like '%广州%' or name like '%s%'#=> select id,description,name,age from t0 sql_query = \SELECT id, name, age, description,group_id,date_added \FROM t0sql_attr_uint = age#使用sql_attr设置的字段(搜索条件),只能作为属性,使用SphinxClient::SetFilter()进行过滤;#未被设置的字段,自动作为全文检索的字段,使用SphinxClient::Query("搜索字符串")进行全文搜索#sql_query第一列id需为整数,且被系统使用,无需再设置sql_attr_uint sql_attr_uint = group_idsql_attr_timestamp = date_added #定义不同类型的字段要用不同的属性名,比如上面的sql_attr_timestamp就是时间戳类型#sql_query_info = SELECT * FROM documents WHERE id=$id #命令行查询时,从数据库读取原始数据信息 #在执行sql_query前执行的sql命令, 可以有多条 sql_query_pre = SET NAMES utf8 #执行sql字符编码 }#索引,每一源需要一个索引 index sphinx_t0 #索引名字一般与配置源一致 {source = sphinx_t0 #source 关联源path = /usr/local/coreseek/var/data/sphinx_t0 #索引文件存放路径,每个索引文件一个docinfo = externcharset_dictpath = /usr/local/mmseg/etc/ #指明分词法读取词典文件的位置,当启用分词法时,为必填项。在使用LibMMSeg作为分词 库时,需要确保词典文件uni.lib在指定的目录下 charset_type = zh_cn.utf-8 #字符编码 }#索引,控制所有索引 indexer {mem_limit = 512M #内存 }#sphinx守护进程配置 searchd {port = 9312 #端口log = /usr/local/coreseek/var/log/searchd.logquery_log = /usr/local/coreseek/var/log/query.logread_timeout = 5 #超时max_children = 30 #最大连接数pid_file = /usr/local/csft/var/log/searchd.pid #pid文件路径 max_matches = 1000 #max_matches最大匹配数,也就是查找的数据再多也只返回这里设置的1000条seamless_rotate = 1preopen_indexes = 0unlink_old = 1 }
![](/assets/blank.gif)
生成索引 /usr/local/coreseek/bin/indexer -c /etc/csft.conf sphinx_t0
启动 /usr/local/coreseek/bin/searchd -c /etc/csft.conf
至此,Sphinx基本安装完毕,接下来就是配合PHP使用
8.配合PHP使用
![](/assets/blank.gif)
<?php header('Content-Type:text/html;charset=utf-8'); //编码为utf-8include 'sphinxapi.php'; // 加载Sphinx API,网上下载$list= array();if(!empty($_POST)){$sc = new SphinxClient(); // 实例化Api$sc->setServer('192.168.1.108', 9312); // 设置服务端,第一个参数sphinx服务器地址,第二个sphinx监听端口$res = $sc->query($_POST['key'], 'sphinx_t0'); // 执行查询,第一个参数查询的关键字,第二个查询的索引名称,mysql索引名称(这个也是在配置文件中定义的),多个索引名称以,分开,也可以用*表示所有索引。// print_r($sc);print_r($res);exit; } ?> <form action="" method="post"> <input type="text" name="key" /> <input type="submit" value="提交" /> </form>?>
![](/assets/blank.gif)
注意:如果输出的结果是空白,可打印print_r($sc),查看错误代码。
错误代码10060:服务器防火墙没有开放9312端口,直接关闭防火墙即可 service iptables stop.
错误代码10061:可能是索引没有生成成功,构造好词典,重新生成索引或者searchd服务没有开启。
9.更新词典及词典的构造
9.1 从搜狗输入法官网下载所需要的词库
9.2 用深蓝词库转换器将下载好的词库转换成txt文件,深蓝词库google下载地址 深蓝词库github下载地址
9.3 用PHP代码将文件转换成符合词典规则的txt文件(注意:新生成的文件内容words_new.txt与原文件unigram.txt内容没有交集,因此可将新文件内容追加到unigram.txt,执行命令 cat /usr/local/mmseg/etc/words_new.txt >> /usr/local/mmseg/etc/unigram.txt)
![](/assets/blank.gif)
<?php ini_set('display_errors', 'On'); error_reporting(E_ALL); date_default_timezone_set ('Asia/Shanghai'); set_time_limit(0);$buffer = ini_get('output_buffering'); if($buffer){ob_end_flush(); } //注意文件的编码格式是utf8 echo '处理新词库...'.PHP_EOL; //PHP_EOL windwos相当于'\r\n',unix\linux相当于'\n' flush(); $filename = "words.txt"; $handle = fopen ($filename, "r"); $content = fread ($handle, filesize ($filename)); fclose ($handle); $content = trim($content); $arr1 = explode( "\r\n" ,$content ); // print_r($arr1);exit; $arr1 = array_flip(array_flip($arr1)); //反转数组的键值,剔除重复的值 foreach($arr1 as $key=>$value){$value = dealchinese($value);if(!empty($value)){$arr1[$key] = $value;}else{unset($arr1[$key]);} } // print_r($arr1);exit; echo '处理原来词库...'.PHP_EOL; flush(); $filename2 = "unigram.txt"; $handle2 = fopen ($filename2, "r"); $content2 = fread ($handle2, filesize ($filename2)); fclose ($handle2); $content2 = dealchinese($content2,"\r\n");$arr2 = explode( "\r\n" ,$content2 );echo '删除相同词条...'.PHP_EOL; flush(); $array_diff = array_diff($arr1,$arr2);echo '格式化词库...'.PHP_EOL; flush(); $words=''; foreach($array_diff as $k => $word){$words .= $word."\t1".PHP_EOL."x:1".PHP_EOL; } //echo $words; file_put_contents('words_new.txt',$words,FILE_APPEND); //写入文件 echo 'done!';function dealChinese($str, $join=''){preg_match_all('/[\x{4e00}-\x{9fff}]+/u', $str, $matches); //将中文字符全部匹配出来$str = join($join, $matches[0]); //从匹配结果中重新组合return $str; }?>
![](/assets/blank.gif)
9.4 刷新中文分词
cd /usr/local/mmseg/bin
./mmseg -u ../etc/unigram.txt 产生一个名为unigram.txt.uni的文件
cd ..
cd etc
mv unigram.txt.uni uni.lib 将该文件名改为uni.lib,完成词典的构造
10.重新生成索引、重启服务
/usr/local/coreseek/bin/searchd -c /etc/csft.conf --stop #停止searchd服务
/usr/local/coreseek/bin/indexer -c /etc/csft.conf --all -rotate #重生所有索引
/usr/local/coreseek/bin/searchd -c /etc/csft.conf #启动searchd服务
注意:生成索引的过程中如果出现segmentation fault错误,可从以下三方面排查
情况一、uni.lib文件路径错误或找不到该文件
情况二、unigram.txt文件过大,一般不超过20W条数据
情况三、使用记事本等编辑器编辑过unigram.txt文件,造成词典文件格式不正确(最好使用notepad++打开)
情况四、unigram.txt文件内容排版不统一,文件尾部换行太多(经测试,最多只能空一行)。
Sphinx安装流程及配合PHP使用经验相关推荐
- Android 安装apk流程,Android PMS(二)-Apk安装流程
原创内容,转载请注明出处,多谢配合. 一.APK组成 在APK的安装流程,在此之前先简单了解下APK组成: 目录/文件 描述 assert 存放的原生资源文件,通过AssetManager类访问. l ...
- TPM零知识学习九 —— tpm全安装流程复盘(上)
零.准备工作 1. 用户主目录下创建TPM文件夹 penghao@Ding-Perlis-MP260S48:~$ mkdir TPM 2. 进入TPM文件夹 penghao@Ding-Perlis-M ...
- vue-devTools插件安装流程
vue-devTools插件安装流程 本文主要介绍 vue的调试工具 vue-devtools 的安装和使用 工欲善其事, 必先利其器, 快快一起来用vue-devtools来调试开发你的vue项目吧 ...
- 2016cocoapods安装流程及使用
一:参考安装流程:http://blog.csdn.NET/showhilllee/article/details/38398119/. 二:我的安装步骤. 1:安装cocoapods需要ruby,先 ...
- iOS 最新版 CocoaPods 的安装流程
http://code4app.com/article/cocoapods-install-usage iOS 最新版 CocoaPods 的安装流程 1.移除现有Ruby默认源 $gem sourc ...
- python安装流程-Python安装与卸载流程
Python安装流程: 一.下载 在网上(输入网址https://www.python.org/downloads/)下载Windows最新的python程序(我电脑为64位) 二.安装 根据自己的电 ...
- python安装流程-python安装流程和注意事项
Python安装流程 点击下载选项进入下载界面,选择你需要下载的python版本,一般我们选择win系统的下载: 选择你对应的机器位数的版本,如果不知道电脑是多少位的,可以点击我的电脑右键--> ...
- 【Android 安装包优化】APK 打包流程 ( 文件结构 | 打包流程 | 安装流程 | 安卓虚拟机 )
文章目录 一.APK 文件结构 二.APK 打包流程 三.APK 安装流程 四.安卓虚拟机 一.APK 文件结构 Android 应用的安装包时 以 " .apk " 为后缀的 A ...
- 交换机调试工具_工业以太网交换机安装流程图解
工业以太网交换机是应用于工业控制领域的以太网交换机设备,所以设备的安装调试是很重要的一环,那么,我们在安装工业交换机的过程中需要注意什么呢?工业以太网交换机的安装流程是什么呢?接下来我们就跟随飞畅科技 ...
最新文章
- 深度学习将会变革NLP中的中文分词
- web app会遇到那些问题
- Nginx和PHP-FPM的启动、重启、停止脚本分享
- Actions require unique method/path combination for Swagger
- SpringBoot服务整合(整合邮件服务、定时调度、Actuator监控)
- python读数据库的通信协议是,Python操作SQLite数据库过程解析
- php event loop,理解javascript中的事件循环(Event Loop)
- 号称最强“抓取”工具,没有搞不到的资源!
- Mybatis Generator 逆向生成器
- C语言分治算法求中位数,【算法复习】分治算法
- 解决报错“No module named ‘pyLDAvis.gensim‘”
- 三菱PlC程序大型项目QCPU+QD77MS16 包含一套完整的电气开发系统资料(包含plc程序,触摸屏程序,伺服模块设置程序,程序开发地址规划表)
- C# 将PDF转为Word、Html、XPS、SVG、PCL、PS——基于Spire.Cloud.PDF.SDK
- 电信IHO-3000机顶盒高安版 悦ME刷机固件
- vue+elementUI出现 Uncaught SyntaxError: import declarations may only appear at top level of a module
- html编辑器怎么设置为excel,excel2013宏编辑器的设置方法教程
- 北京h5游戏制作平台有哪些,h5游戏公司实例评测
- 群晖系统上的 Docker 使用拾遗
- Python科研绘图——介绍
- php获取哔哩哔哩追番_自己拥有一台服务器可以做哪些很酷的事情?
热门文章
- java.sql.SQLException: java.lang.RuntimeException: serious problem
- 数字经济发展新时代下,区块链溯源防伪防窜货技术为企业发展赋能
- SonyEricsson新产品-vivaz
- 锁相环工作原理,比如我们8MHZ晶振如何让MCU工作在48MHZ或者72MHZ呢
- Python学习日志10 - 高阶函数和高级应用
- GAN —— Generative Adversarial Network
- 新手入门期货需要懂哪些道理(新手入门期货需要懂哪些道理知识)
- 异常:identifier of an instance of cn.ebank.pojo.News was altered from 2 to 2;
- Cornerstone永久试用
- 【gazebo要素10】制作移动的机器人