深度解析阿里国际站搜索引擎倒排索引的分词抓取逻辑

倒排索引是搜索引擎常用的一种检索匹配方式,也是被验证为搜索单词到数据文档映射关系的最佳实现方式之一。阿里巴巴国际站也不例外,国际站的搜索系统算法也遵循SEO搜索逻辑的底层理念,比如阿里的HA3搜索引擎就使用了倒排召回,正排过滤,粗排算分等计算逻辑模块。也是有小伙伴问祥助阿里搜索引擎的一个标题抓取思路是怎么样的,所以这篇文章为主的祥助用搜索引擎的SEO处理逻辑机制分享一下倒排索引的思路逻辑,帮助大家更好的理解搜索系统的抓取排名是怎么样的一个逻辑思路。

搜索引擎索引构建流程图
小箭头图标

搜索引擎原理

首先搜索引擎,包括阿里巴巴搜索系统的总体思路都是:搜索蜘蛛Spider开始出发,对全网的页面/商品进行从爬取-解析-索引-排名的流程。我们常说的爬虫或蜘蛛,就是这么一个可爱的处理小机器人。可以把全网理解为一个庞大的蜘蛛网,上面遍布着很多页面/产品,这个搜索小爬虫会顺着蜘蛛网进行爬取,获取这些页面/产品的信息。

比如祥助在搜索框输入power bank这个关键词并点击search按钮,当系统接收到祥助发起的这个查询请求时,主要会经过下列的流程化路径:

  • 搜索系统的分词模块引擎对祥助发起的原始Query查询请求(即power bank)进行分析,产生对应的terms,存储到数据表。
  • terms在倒排索引中的词项列表中查找对应的terms的结果列表。
  • 对结果列表数据进行微运算,如:计算文档静态分,文本相关性,类目相关性等。
  • 应用深度模型算法引擎,进行线性聚合处理,产品去重,店铺打散等深度操作。
  • 基于上述运算的最终综合得分对文档进行综合排序,最后返回结果给用户。

当然这个是简化的流程,还有很多细化的操作模型比如千人千面逻辑下的各种标签和特征的识别以及判断。其中倒排索引也就是开端针对搜索Query查询的分词和分析是很重要的一步,这个也是大家写标题的时候会产生的疑问点,我写的标题,搜索系统是怎么进行处理的呢?

音符跳动小图标

倒排索引原理

首先搜索引擎使用倒排索引(Inverted-index)来组织数据,会将词进行拆分分析来对比文档进行匹配,或者说产品/页面。比如检索关键词后有两个结果页面或者说商品页面。


{"id":1,"title":"I love google search engines.","tag":12345}
{"id":2,"title":"I search keywords in google.","tag":54321}

搜索系统对这两个检索到的title标题会 可以分词

  • “I / love / google / search / engines”
  • “I / search / keywords / in / Google “

    搜索引擎或者说搜索系统会将祥助检索结果页面的2个示例页面/产品的标题进行分词操作,得到的每一个词元,比如说”love”,称作一个term,那么倒排索引存储的数据将会变成:

title
term文档id
I1,2
love1
Search1,2
engines1
Keywords2
In2
Google1,2
分词倒排表

搜索引擎将上述标题进行拆分和数据存储后,搜索引擎会使用倒排索引的引擎来进行模糊匹配,以上文为例,祥助输入”google search engines”执行Query查询搜索行为时:

  • 首先输入词也进行分词”google/search/engines”,然后用得到的term去和前面存储的索引数据结构进行比对,得到:”google”->{1,2},“search”->{1,2},” engines “->{1}
  • 然后google-search-engines->1得到文档1为结果,这样就完成了针对祥助搜索需求的一个匹配模型。

    那么问题来了,因为祥助搜索的是google search engines,而页面标题也含google search engines,这个词的结构都是一致的。但是我们说阿里有广泛模糊匹配模式,客户搜索的词在产品的标题不一定是完全一样出现的。这就涉及到一个匹配模糊度的问题了。

动态电波小图标

  祥助举个例子,假如阿里设置搜索引擎系统的匹配度为100%,依旧输入”google search engines”,如果匹配度是100%,那么结果就是含google search engines这个query查询词的搜索结果判断={1},如果匹配度降到60%(搜索词越短,其范围越模糊),那么结果可以是:
“google”+”search,”google”+”engines”,”search”+”engines”={1,2}

模糊匹配

     其中有个细节要注意,比如祥助如果只搜索engines,搜索词的长度和结构很短,那么匹配度会降级降低,只要有一个term符合匹配就会输出当作结果。所以阿里的相关性计算会加入很多非相关性特征,也可以理解为文本相关性是硬特征,也是最初始的匹配特征。Power bank这个产品词绝大部分商家都能在文本相关性上用对,做到倒排索引,正排过滤,类目正确等都不会出现产品存在错误问题。

     所以为什么阿里巴巴的信保模型,买家行为等对排名很重要,也是因为不管是倒排索引,类目正确等文本相关操作,商家都不容易犯错,都容易做到优秀。那搜索系统怎么判断谁排前面呢?那就要加入软特征来做甄别了。哪个产品的信保走的多,点击率高,买家标签和商品SKU标签匹配计算等,就是附加的深度匹配模型计算的流程了。

知识星球优惠券

给TA打赏
共{{data.count}}人
人已打赏
数据分析

如何判断阿里国际站客户询盘的来源设备渠道端口

2021-9-14 20:22:23

数据分析

绘制阿里巴巴国际站店铺收到询盘转化时间点的分布数据图

2022-7-10 20:51:41

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索
Download
Aicomce-阿里国际站运营必备软件
数据优化,市场分析,选品辅助,黑科技项
x