solr与.net系列课程(四)solr查询参数的讲解与.net如何获取solr数据
上一节我们完成了solr连接数据库,细心的朋友会发现一个问题,就是solr其实和语言没有任何关系,配置完成后任何语言都可以直接调用,本章我们主要对solr的查询做出讲解,然后就是新接触的人最关心的.net如何获取solr中的数据.
本节我准备了一个300万左右的数据表,为大家做演示
然后我们开始配置schema.xml 文件:
<field name="id" type="string" indexed="true" stored="true" required="true" />
<field name="title" type="text_cn" indexed="true" stored="true" multiValued="false" />
<field name="area" type="string" indexed="true" stored="true" />
<field name="industry" type="string" indexed="true" stored="true" />
<field name="industrys" type="string" indexed="true" stored="true" />
<field name="body" type="smartChnText" indexed="true" stored="true"/>
<field name="adddate" type="date" indexed="true" stored="true" multiValued="false"/>
<field name="columns" type="smartChnText" indexed="true" stored="true"/>
<field name="sorts" type="string" indexed="true" stored="true"/>
<field name="url" type="string" indexed="true" stored="true" required="true" />
<field name="orderColumn" type="string" indexed="true" stored="true"/>
<field name="phase" type="string" indexed="true" stored="true"/>
<field name="phasetype" type="string" indexed="true" stored="true"/>
<field name="pfund" type="tfloat" indexed="true" stored="true"/>
<field name="flag" type="string" indexed="true" stored="true" />
这里说明一下,数据表中的数据可以选择行的存入solr中,想存哪个就配置哪个就行了
type="text_cn" 就是我配置的ik分词器,type="smartChnText"是solr自带的分词器,分词效果一般,但也要配置,直接在配置ik分词器的位置粘贴如下代码即可:
<!-- 加入smartcn 中文分词器 text_newcn-->
<fieldType name="smartChnText" class="solr.TextField" > <analyzer class="org.apache.lucene.analysis.cn.smart.SmartChineseAnalyzer"/> </fieldType>
这里强调一下,分词器有很多种,想要哪种就用哪种
配置完成后开始配置data-confing.xml文件
<?xml version="1.0" encoding="UTF-8"?>
<dataConfig>
<dataSource driver="com.microsoft.sqlserver.jdbc.SQLServerDriver" url="jdbc:sqlserver://192.168.0.8;DatabaseName=BHI_DATABASE" user="sa" password="123"/>
<document name="Info">
<entity name="Biddings" pk="OriginalID" transformer="ClobTransformer" query="SELECT OriginalID,'项目标讯' as orderColumn, '项目标讯' as columns ,'${dataimporter.last_index_time}' as ColumnID,dbo.ShowLabelName(Area) as Area,Pfund,ColumnID as flag,category,dbo.ShowLabelName(Industry) as Industry, Industry as Industrys,Title,( dbo.fun_joinInfo(OriginalID) + CONVERT(VARCHAR(MAX),description) ) AS description,AddDate FROM BHI_DATABASE.dbo.Info_Bidding"
deltaImportQuery="SELECT OriginalID,'项目标讯' as orderColumn, '项目标讯' as columns ,'${dataimporter.last_index_time}' as ColumnID,dbo.ShowLabelName(Area) as Area,Pfund,ColumnID as flag,category,dbo.ShowLabelName(Industry) as Industry,Industry as Industrys,Title,( dbo.fun_joinInfo(OriginalID) + CONVERT(VARCHAR(MAX),description) ) AS description,AddDate FROM BHI_DATABASE.dbo.Info_Bidding where adddate > '${dataimporter.last_index_time}'"
deltaQuery="SELECT OriginalID FROM BHI_DATABASE.dbo.Info_Bidding where adddate > '${dataimporter.last_index_time}'"> <field column="OriginalID" name="id" />
<field column="title" name="title" />
<field column="area" name="area" />
<field column="industry" name="industry" />
<field column="industrys" name="industrys" />
<field column="description" name="body" />
<field column="adddate" name="adddate" />
<field column="ColumnID" name="sorts" />
<field column="columns" name="columns" />
<field column="OriginalID" name="url" />
<field column="orderColumn" name="orderColumn" />
<field column="Pfund" name="pfund" />
<field column="category" name="phase" />
<field column="flag" name="flag" /> </entity> </document>
这里我没有用简单的select id,name ...from 表名这种简单的sql语句,而是写了一个带有别名,函数的sql语句,就是告诉大家,这里可以写任何sql语句,但视图,表连接最好不要使用,要使用表连接的话我上节课已经讲解了,想用的朋友可以回去看看.
Solr 是如何查询的呢?这里先列出solr查询所需要的参数
常用
q - 查询字符串,必须的。
fl - 指定返回那些字段内容,用逗号或空格分隔多个。
start - 返回第一条记录在完整找到结果中的偏移位置,0开始,一般分页用。
rows - 指定返回结果最多有多少条记录,配合start来实现分页。
sort - 排序,格式:sort=<field name>+<desc|asc>[,<field name>+<desc|asc>]… 。示例:(inStock desc, price asc)表示先 “inStock” 降序, 再 “price” 升序,默认是相关性降序。
wt - (writer type)指定输出格式,可以有 xml, json, php, phps, 后面 solr 1.3增加的,要用通知我们,因为默认没有打开。
fq - (filter query)过虑查询,作用:在q查询符合结果中同时是fq查询符合的,例如:q=mm&fq=date_time:[20081001 TO 20091031],找关键字mm,并且date_time是20081001到20091031之间的。官方文档:http://wiki.apache.org/solr/CommonQueryParameters#head-6522ef80f22d0e50d2f12ec487758577506d6002
不常用
q.op - 覆盖schema.xml的defaultOperator(有空格时用"AND"还是用"OR"操作逻辑),一般默认指定
df - 默认的查询字段,一般默认指定
qt - (query type)指定那个类型来处理查询请求,一般不用指定,默认是standard。
其它
indent - 返回的结果是否缩进,默认关闭,用 indent=true|on 开启,一般调试json,php,phps,ruby输出才有必要用这个参数。
version - 查询语法的版本,建议不使用它,由服务器指定默认值。
那么我们来实际查询一个试试
Selet * from table where area=’重庆’ and columns=’项目标讯’ --这个转换成solr语句怎么写?
http://127.0.0.1:8080/solr/collection1/select?q=area:重庆&fq=columns:项目标讯&wt=xml&indent=true
或
http://127.0.0.1:8080/solr/collection1/select?q=*:*&fq=area:重庆&fq=columns:项目标讯&wt=xml&indent=true
q是主查询 fq是辅查下(可以多个)
我们来看看效果,直接在浏览器中输入上面的地址:
像不像我们使用的ajax请求,请求链接获取数据
我想查询部分字段怎么办呢,使用fl参数
http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:重庆&fq=columns:项目标讯&wt=json&indent=true
看看效果,这个返回json数据:
现在我们练习一个
Select top 2 title,orderColumn,area,columns,id from table where area=山东 OR area= 福建 and columns=项目标讯 order by adddate desc
转换为solr语句:http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:福建+OR+area:山东&fq=columns:项目标讯 &wt=json&indent=true&&start=0&rows=2&sort=adddate desc
上面列出的查询条件都可以*组合( OR 和 AND 要大写,小写有时不出数据)
好了下面在就该说一下大家最关心的问题了,.net如何获取这些数据(这里先使用最原始的方式)
首先创建个程序,随便创建个aspx页面,在后台输入如下代码
using System;
using System.Collections.Generic;
using System.Linq;
using System.Web;
using System.Web.UI;
using System.Web.UI.WebControls;
using System.Net;
using System.IO;
using System.Text; namespace solr实例
{
public partial class _Default : System.Web.UI.Page
{
protected void Page_Load(object sender, EventArgs e)
{
string solr_url = @"http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:山东 OR area:福建 &fq=columns:项目标讯&wt=xml&indent=true&&start=0&rows=10&sort=adddate desc"; WebRequest wr = WebRequest.Create(solr_url);
Stream s = wr.GetResponse().GetResponseStream();
StreamReader sr = new StreamReader(s, Encoding.UTF8);
string result = sr.ReadToEnd();
}
}
}
执行以下看看 result中有没有数据?
这样我们就得到数据了,但是这是一个字符串啊,怎么使用呢,我我这里使用数据契约将上述内容转化为数据实体,数据契约不了解的话去网上查一查,很好理解的.
首先创建契约类
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Runtime.Serialization;
namespace ClassLibrary1
{
[DataContract]
public class Solr_Projects
{ [DataMember(Name = "responseHeader")]
public Solr_Projects_ResponseHeader ResponseHeader { get; set; } [DataMember(Name = "response")]
public Response Response { get; set; }
} [DataContract]
public class Solr_Projects_ResponseHeader
{ [DataMember(Name = "status")]
public string Status { get; set; } [DataMember(Name = "QTime")]
public string QTime { get; set; } [DataMember(Name = "params")]
public Params Params { get; set; }
} [DataContract]
public class Params
{ [DataMember(Name = "indent")]
public string Indent { get; set; } [DataMember(Name = "start")]
public string Start { get; set; } [DataMember(Name = "q")]
public string Q { get; set; } [DataMember(Name = "wt")]
public string Wt { get; set; } [IgnoreDataMember]
//[DataMember(Name = "fq")]
public string Fq { get; set; } [DataMember(Name = "version")]
public string Version { get; set; } [DataMember(Name = "rows")]
public string Rows { get; set; }
} [DataContract(Name = "response")]
public class Response
{ [DataMember(Name = "numFound")]
public string NumFound { get; set; } [DataMember(Name = "start")]
public string Start { get; set; } [DataMember(Name = "solrUrl")]
public string SolrUrl { get; set; } [DataMember(Name = "docs")]
public Docs[] Docs { get; set; }
} [DataContract]
public class Docs
{ [DataMember(Name = "title")]
public string Title { get; set; } //[IgnoreDataMember]
[DataMember(Name = "orderColumn")]
public string OrderColumn { get; set; } [IgnoreDataMember]
//[DataMember(Name = "body")]
public string Body { get; set; } [DataMember(Name = "area")]
public string AreaName { get; set; } [DataMember]
public string AreaID { get; set; } [DataMember(Name = "columns")]
public string Columns { get; set; } [DataMember(Name = "id")]
public string Id { get; set; } [IgnoreDataMember]
//[DataMember(Name = "url")]
public string Url { get; set; } [DataMember(Name = "phase")]
public string PhaseID { get; set; } [DataMember]
public string PhaseName { get; set; } [DataMember(Name = "adddate")]
public string AddDate { get; set; } [DataMember(Name = "industry")]
public string IndustryName { get; set; } [DataMember]
public string IndustryId { get; set; }
[DataMember(Name = "phasetype")]
public string PhaseType { get; set; } [DataMember(Name = "pfund")]
public string Pfund { get; set; } [DataMember(Name = "categroy")]
public string Category { get; set; }
}
}
然后我们就可以用这个契约类去获取数据了(上面的属性是和数据对应的,名称相同的就会存储相应的数据,没有的就不存,我这个里面数据比较多,实际上只用了五个字段)
using System;
using System.Collections.Generic;
using System.Linq;
using System.Web;
using System.Web.UI;
using System.Web.UI.WebControls;
using System.Net;
using System.IO;
using System.Text;
using ClassLibrary1;
using System.Runtime.Serialization;
using System.Web.Script.Serialization;
using System.Runtime.Serialization.Json;
namespace solr实例
{
public partial class _Default : System.Web.UI.Page
{
protected void Page_Load(object sender, EventArgs e)
{
string solr_url = @"http://127.0.0.1:8080/solr/collection1/select?fl=title,orderColumn,area,columns,id&q=*:*&fq=area:山东 OR area:福建 &fq=columns:项目标讯&wt=json&indent=true&&start=0&rows=10&sort=adddate desc"; WebRequest wr = WebRequest.Create(solr_url);
Stream s = wr.GetResponse().GetResponseStream();
StreamReader sr = new StreamReader(s, Encoding.UTF8);
string result = sr.ReadToEnd();
Solr_Projects solr_result; //反序列化
using (MemoryStream ms = new MemoryStream(Encoding.UTF8.GetBytes(result)))
{
DataContractJsonSerializer serializer = new DataContractJsonSerializer(typeof(Solr_Projects));
solr_result = (Solr_Projects)serializer.ReadObject(ms);
} solr_result.Response.SolrUrl = solr_url + "&numFound=" + solr_result.Response.NumFound;
Docs[] docs = solr_result.Response.Docs;//获取需要展示信息的对象 }
} }
看看结果:
我的语句中只查询了五个字段,所以其他的都是null,好了,现在字符串已经转换为数据实体了,数据实体我们就可以想怎么办就怎么办了,这里说明一下,这是最原始的的使用方式,url需要,自己去拼接
我们.net中有solr的客户端 ,叫solrnet,它是专门操作solr查询与获取数据的,非常方便好用,这个我以后会教大家怎么使用,今天就先讲的这里吧.
qq群: 424259523