Solr是apache的*开源项目,它是使用java开发 ,基于lucene的全文检索服务器。Solr比lucene提供了更多的查询语句,而且它可扩展、可配置,同时它对lucene的性能进行了优化。Solr和lucene有什么区别呢?
Lucene是一个全文检索引擎工具包,它只是一个jar包,不能独立运行与对外提供服务。
Solr是一个全文检索服务器,它可以单独运行在servlet容器上,可以单独对外提供搜索和索引功能。Solr比lucene在开发全文检索功能方面更快捷、更方便。
那么,Solr是如何实现全文检索的呢?
索引流程:solr客户端(浏览器、java程序)可以向solr服务端发送POST请求,请求内容是包含Field等信息的一个xml文档,通过该文档,solr实现对索引的维护(增删改)。
搜索流程:solr客户端(浏览器、java程序)可以向solr服务端发送GET请求,solr服务器返回一个xml文档。
在使用solr时,先要下载与安装solr(本文使用4.10.3版本),下载地址:http://archive.apache.org/dist/lucene/solr/。其中,Solr和lucene的版本是同步更新的。
Linux下需要下载lucene-4.10.3.tgz,windows下需要下载lucene-4.10.3.zip。
solr运行环境是:
Jdk:1.7及以上 Solr:4.10.3 Mysql:5X Web服务器:tomcat 7
将solr-4.10.3/dist下的solr-4.10.3.war包(为使用方便,将其更名为solr.war)拷贝到tomcat的webapps下,启动tomcat时,该war包会自动解压缩为名称为solr的文件夹,此时,将solr.war包删除。接下来,添加solr的扩展服务包,截图如下(jar包数量较多,部分显示):
接下来,将log4j.properties等配置文件拷贝到如下路径:
接下来,在web.xml中指定solrhome的目录:
<env-entry>
<env-entry-name>solr/home</env-entry-name>
<env-entry-value>E:\tomcat\apache-tomcat-7.0.53-8090\solrhome</env-entry-value>
<env-entry-type>java.lang.String</env-entry-type>
</env-entry>
其中,Solrhome是solr服务运行的主目录,一个solrhome目录里面包含多个solrcore目录,一个solrcore目录里面包含了一个solr实例运行时所需要的配置文件和数据文件。每一个solrcore都可以单独对外提供搜索和索引服务。多个solrcore之间没有关系。solrhome的文件结构:
solrcore的文件结构如下:
在solrcore的conf文件下,找到solrconfig.xml文件,通过里面的lib标签来指定依赖包的地址:
<lib dir="${solr.install.dir:..}/contrib/extraction/lib" regex=".*\.jar" />
<lib dir="${solr.install.dir:..}/dist/" regex="solr-cell-\d.*\.jar" />
<lib dir="${solr.install.dir:..}/contrib/clustering/lib/" regex=".*\.jar" />
<lib dir="${solr.install.dir:..}/dist/" regex="solr-clustering-\d.*\.jar" />
<lib dir="${solr.install.dir:..}/contrib/langid/lib/" regex=".*\.jar" />
<lib dir="${solr.install.dir:..}/dist/" regex="solr-langid-\d.*\.jar" />
<lib dir="${solr.install.dir:..}/contrib/velocity/lib" regex=".*\.jar" />
<lib dir="${solr.install.dir:..}/dist/" regex="solr-velocity-\d.*\.jar" />
<lib dir="${solr.install.dir:..}/contrib/dataimporthandler/lib" regex=".*\.jar" />
<lib dir="${solr.install.dir:..}/contrib/db/lib" regex=".*\.jar" />
里面的“solr.install.dir”表示solrcore的安装目录。
再在solrcore的conf文件下找到schema.xml文件,加入如下配置信息:
<!-- Chinese -->
<fieldType name="text_zh" class="solr.TextField">
<analyzer class="org.wltea.analyzer.lucene.IKAnalyzer"> </analyzer>
</fieldType>
<field name="content_zh" type="text_zh" indexed="true" stored="true"></field> <field name="product_name" type="text_zh" indexed="true" stored="true"></field>
<field name="product_catalog_name" type="text_zh" indexed="true" stored="true"></field>
<field name="product_price" type="float" indexed="true" stored="true"></field>
<field name="product_description" type="text_zh" indexed="true" stored="true"></field> <field name="product" type="text_zh" indexed="true" stored="true" multiValued="true"></field> <copyField source="id" dest="product"/>
<copyField source="product_name" dest="product"/>
<copyField source="product_catalog_name" dest="product"/>
<copyField source="product_price" dest="product"/>
<copyField source="product_description" dest="product"/>
其中,product是测试搜索的数据。
每个SolrCore都有自己的索引文件目录 ,默认在SolrCore目录下的data中。data数据目录下包括了index索引目录 和tlog日志文件目录。如果不想使用默认的目录也可以通过solrConfig.xml更改索引目录 ,如下:
<dataDir>${solr.data.dir:E:/develop/solr/solrhome/solrcore/data}</dataDir>
在solrconfig.xml文件中,有个requestHandler标签,它是一个请求处理器,定义了索引和搜索的访问方式。通过/update维护索引,可以完成索引的添加、修改、删除操作;通过/select搜索索引;通过/dataimport可以导入数据库中的数据。如下:
<requestHandler name="/dataimport" class="org.apache.solr.handler.dataimport.DataImportHandler">
<lst name="defaults">
<str name="config">data-config.xml</str>
</lst>
</requestHandler>
在配置完solr后,启动tomcat,访问solr,界面如下:
一个solr服务器可以配置多个solrcore,这样做的好处有:
(1)在进行solrcloud的时候,必须配置多solrcore。
(2) 每个solrcore之间是独立的,都可以单独对外提供服务;不同的业务模块可以使用不同的solrcore来提供搜索和索引服务。
在使用solr时,要先在schema.xml文件中配置solrcore的一些数据信息,包括Field和FieldType的定义等信息,在solr中,Field和FieldType都需要先定义后使用。
定义Field域
<field name="id" type="string" indexed="true" stored="true" required="true" multiValued="false" />
Name:指定域的名称
Type:指定域的类型
Indexed:是否索引
Stored:是否存储
Required:是否必须
multiValued:是否多值,比如商品信息中,一个商品有多张图片,一个Field像存储多个值的话,必须将multiValued设置为true。
----------------------------------------------
动态域
<dynamicField name="*_i" type="int" indexed="true" stored="true"/>
Name:指定动态域的命名规则
------------------------------------------------
指定唯一键
<uniqueKey>id</uniqueKey>
其中的id是在Field标签中已经定义好的域名,而且该域要设置为required为true。
一个schema.xml文件中必须有且仅有一个唯一键
-----------------------------------------------
复制域
<copyField source="cat" dest="text"/>
Source:要复制的源域的域名
Dest:目标域的域名
由dest指的的目标域,必须设置multiValued为true。
-------------------------------------------------
定义域的类型
<fieldType name="text_general" class="solr.TextField" positionIncrementGap="100">
<analyzer type="index">
<tokenizer class="solr.StandardTokenizerFactory"/>
<filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" />
<!-- in this example, we will only use synonyms at query time
<filter class="solr.SynonymFilterFactory" synonyms="index_synonyms.txt" ignoreCase="true" expand="false"/>
-->
<filter class="solr.LowerCaseFilterFactory"/>
</analyzer>
<analyzer type="query">
<tokenizer class="solr.StandardTokenizerFactory"/>
<filter class="solr.StopFilterFactory" ignoreCase="true" words="stopwords.txt" />
<filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="true"/>
<filter class="solr.LowerCaseFilterFactory"/>
</analyzer>
</fieldType>
Name:指定域类型的名称
Class:指定该域类型对应的solr的类型
Analyzer:指定分析器
Type:index、query,分别指定搜索和索引时的分析器
Tokenizer:指定分词器
Filter:指定过滤器
-------------------------------------------------
使用ikanalyzer进行中文分词
<!-- Chinese -->
<fieldType name="text_zh" class="solr.TextField">
<analyzer class="org.wltea.analyzer.lucene.IKAnalyzer"> </analyzer>
</fieldType>
<field name="content_zh" type="text_zh" indexed="true" stored="true"></field>
我们在java程序中使用solr时,需要使用solrj,这是solr服务器的java客户端。其操作逻辑如下:
接下来通过代码演示操作solr:
package com.itszt.solr; import org.apache.solr.client.solrj.SolrQuery;
import org.apache.solr.client.solrj.SolrServerException;
import org.apache.solr.client.solrj.impl.HttpSolrServer;
import org.apache.solr.client.solrj.response.QueryResponse;
import org.apache.solr.common.SolrDocument;
import org.apache.solr.common.SolrDocumentList;
import org.apache.solr.common.SolrInputDocument;
import org.junit.Test; import java.io.IOException;
import java.util.Collection;
import java.util.List;
import java.util.Map;
import java.util.Set; /**
* 测试solr
*/
public class TestUpdate {
//products中,product_price的type为text_zh
// //products2中,product_price的type为float
//更换另一个solr-core //测试插入数据
@Test
public void testInsertData() throws IOException, SolrServerException {
HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
SolrInputDocument solrInputDocument = new SolrInputDocument();
solrInputDocument.addField("id","10086");
solrInputDocument.addField("product_name","大红花");
solrInputDocument.addField("product_price","28.89");
solrInputDocument.addField("product_description","这朵大红花就是好好看");
solrServer.add(solrInputDocument);
solrServer.commit();
} //测试更新数据
@Test
public void testUpdateData() throws IOException, SolrServerException {
HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
SolrInputDocument solrInputDocument = new SolrInputDocument();
solrInputDocument.addField("id","10086");
solrInputDocument.addField("product_name","大红花");
solrInputDocument.addField("product_price","28.79");
solrInputDocument.addField("product_description","这朵大红花在加工后就是好好看");
solrServer.add(solrInputDocument);
solrServer.commit();
} //测试删除数据
@Test
public void testDelteData() throws IOException, SolrServerException {
HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
//solrServer.deleteById("10086");
solrServer.deleteByQuery("product:10086");
solrServer.commit();
} //测试查询数据
@Test
public void testQueryDatas() throws SolrServerException {
HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2");
SolrQuery solrQuery = new SolrQuery();
solrQuery.setQuery("product_name:花儿");
QueryResponse queryResponse = solrServer.query(solrQuery);
SolrDocumentList results = queryResponse.getResults();
for(SolrDocument result:results){
// System.out.println("result = " + result);
Collection<String> fieldNames = result.getFieldNames();
for(String fieldName:fieldNames){
System.out.println(fieldName+" ---> " + result.get(fieldName));
}
}
} //测试查询高亮度显示的数据
@Test
public void testQueryDatasHl() throws SolrServerException {
HttpSolrServer solrServer = new HttpSolrServer("http://localhost:8090/solr/products2"); SolrQuery solrQuery = new SolrQuery();
solrQuery.setQuery("product_name:家居");
solrQuery.setFields("product_name,product_price");
solrQuery.setFilterQueries("product_price:[10 TO 100]");
solrQuery.setSort("product_price",SolrQuery.ORDER.asc);
solrQuery.setHighlight(true);
solrQuery.set("hl.fl","product_name"); QueryResponse queryResponse = solrServer.query(solrQuery); SolrDocumentList results = queryResponse.getResults();
System.out.println("查询回来的数据量:" + results.size()); for(SolrDocument result:results){
Collection<String> fieldNames = result.getFieldNames();
for(String fieldName:fieldNames){
System.out.println(fieldName+"--->"+result.get(fieldName));
System.out.println("----------------------");
}
} System.out.println("获取高亮数据:");
Map<String, Map<String, List<String>>> highlighting = queryResponse.getHighlighting();
Set<String> keySet1 = highlighting.keySet();
for(String key1:keySet1){
System.out.println("key1 = " + key1);
Map<String, List<String>> map2 = highlighting.get(key1);
System.out.println("map2 = " + map2);
Set<String> keySet2 = map2.keySet();
for(String key2:keySet2){
System.out.println("key2 = " + key2);
}
}
}
}