湖南SEO今天和大家探讨的是中文搜索引擎的汉语分词技术。我们知道搜索查询以及建立索引的根本是关键字，特别是对于中文，不同的分词会有不同的含义。中文搜索引擎必须会智能的切词分词，才能将相关网页建立类似索引库，在用户查询时返回响应的查询结果。而这个结果是否是用户需要的结果，根本就在于搜索引擎的分词是否和用户查询的关键字切词结果一致。国内各大搜索引擎和google一起，一些用户不乐意用，为什么?因为很多时候，搜出来的结果并不是用户希望得到的结果。当初比较有名的百度的广告：你知道我们不知道你知道。或许有些许嘲笑google中文分词技术的意味，当年的google可是花了很大的精力来研究中文分词。建立了庞大的数据字典并和百度一样实现了智能的词典重建。中文分词技术属于自然语言处理技术范畴，对于一句话，我们可以根据自己的理解去区分哪些是词和 哪些不是词。但换成是计算机的话，搜索引擎只能是通过分词算法去理解了。讲了这么多，湖南seo无非就是想告诉大家，要做中文的优化会分词是必须的，网站的分词处理得当将有利 于目标关键词在搜索引擎中的排名。。搜索引擎根据自己的分词技术来建立相关索引返回查询结果。那么我们做优化就是要将自己的关键字配合搜索引擎的分词，将我们的关键字以最快的反应时间被搜索引擎拉到相应的索引库，并给予一定的排名。OK ，下面我们步入正文。
湖南Suho网络科技
目前的机械分词算法主要分为三大类：基于字符串匹配的分词方法、基于理解的分词方法和基于统计的分词方法以及语言模型方法，最短路径算法等等。 本文来自:湖南seo
1、基于字符串匹配的分词方法 这种方法又叫做机械分词方法，它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行匹配，若在词典中找到某个字符串，则 匹配成功(识别出一个词)。按照扫描方向的不同，串匹配分词方法可以分为正向匹配和逆向匹配;按照不同长度优先匹配的情况，可以分为最大(最长)匹配和最 小 (最短)匹配;按照是否与词性标注过程相结合，又可以分为单纯分词方法和分词与标注相结合的一体化方法。 常用的几种机械分词方法如下：
1)正向最大匹配法(由左到右的方向);
2)逆向最大匹配法(由右到左的方向);
3)最少切分(使每一句中切出的词数最小，也叫双向最大匹配)。 还可以将上述各种方法相互组合，例如，可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。由于汉语单字成词的特点，正向最小匹 配和逆向最小匹配一般很少使用。一般说来，逆向匹配的切分精度略高于正向匹配，遇到的歧义现象也较少。统计结果表明，单纯使用正向最大匹配的错误率 为 1/169，单纯使用逆向最大匹配的错误率为1/245。但这种精度还远远不能满足实际的需要。实际使用的分词系统，都是把机械分词作为一种初分手段，还 需通过利用各种其它的语言信息来进一步提高切分的准确率。
一种方法是改进扫描方式，称为特征扫描或标志切分，优先在待分析字符串中识别和切分出一些带有明显特征的词，以这些词作为断点，可将原字符串分 为较小的串再来进机械分词，从而减少匹配的错误率 。 另一种方法是将分词和词类标注结合起来，利用丰富的词类信息对分词决策提供帮助，并且在标注过程中 又反 过来对分词结果进行检验、调整，从而极大地提高切分的准确率。
为了让大家更好的理解，用我看过一个例子来说明下。比如我们搜：毛泽东北京华烟云。（这个例子比较久，本人懒，就懒得去找其他有歧义的词了，O(∩_∩)O）。
湖南Suho网络科技
如果按正向最大匹配，根据字典查询，就是毛泽东/北京/华/烟云.如果按照这个分词的话，搜索引擎会根据这个分词结果就行一个索引的查询，很明显应该不会有这样一个索引库，所以，搜索引擎就会找到最接近匹配的索引结果。将毛泽东 北京 烟云切口 查找相关索引，并返回结果。 copyright 湖南Suho网络科技
