码迷SEO:解密摩天楼内容助手工具原理

自媒体 思享 451浏览
摘要:
大家好,我是代码迷。摩天大楼内容助手已经通过在线机器学习验证集实验,以及多个网站的实战验证,证明通过相关性重建SEO内容不仅有效,而且稳如狗!摩天内容助手的底层核心原理是TFIDF算法。如果你是一个经验丰富的SEO专家,并且觉得你了解摩天大楼的所有原理,我建议你只需阅读这篇文章的结尾。

大家好,我是码迷,摩天楼内容助手历经线上机器学习验证集实验验证,以及多个网站实战验证,证明通过相关性重新构建SEO内容,上排名不仅有效,而且稳如狗!

摩天楼SEO工具底层算法核心TF-IDF,主要策略是增加相关词的覆盖率,以及高优布局关键词密度,从而在百度谷歌等搜索引擎内容质量这一项上的排名加分,获取超高分值。

在过去的一年当中,码迷潜心拜读了很多SEO培训课程,很大部分培训老师都会把TF-IDF算法作为课程的一部分介绍给大家。所以说,如果你现在还没关注TF-IDF算法,那就真的有些晚了。摩天楼内容助手的底层核心原理就是TFIDF算法。

如果你是经验丰富的SEO专家,觉得摩天楼原理讲的你都明白,建议你直接看本文末尾就行了。小白可以往下继续看咯!

什么是TF-IDF

百度百科是这样说的:

“TF-IDF是一种统计方法,用以评估一字词对于一个文件集或一个语料库中的其中一份文件的重要程度。字词的重要性随着它在文件中出现的次数成正比增加,但同时会随着它在语料库中出现的频率成反比下降。TF-IDF加权的各种形式常被搜索引擎应用,作为文件与用户查询之间相关程度的度量或评级。”

tf-idf

大家看了定义之后跟我一样是懵的吧,为了便于大家理解,码迷举一个简单易懂的栗子。

假如说我们在百度上搜索“水果”这个词,百度爬虫抓取的网站内容有下面5个,你觉得哪个内容排名第一?

  • - 内容1: 水果有水果,水果,水果,水果,水果
  • - 内容2: 水果有苹果,桃子,西瓜,菠萝,梨子
  • - 内容3: 蔬菜都很好吃,我最爱吃茄子了
  • - 内容4: 苹果,梨子都是很好吃的水果
  • - 内容5:好吃的水果有西瓜,苹果,葡萄,其他水果还有菠萝,猕猴桃

相信很多人心里面有了答案,大家凭直觉,内容2 跟 内容5 应该排名靠前,内容5很可能是第1,内容2是排名第2。

其实按照TF-IDF算法也能得出这个结论,那么TF-IDF是怎么做的,请大家跟上我的步伐。

TF-IDF算法的计算步骤

第1步:计算逆文档频率

我们先统计各个词语被包含的文章数。比如“水果”被4篇文章(内容1、2、4、5)引用,4就是“水果”的逆文档频率。

分词后,各个单词的逆文档频率如下:

水果=4、苹果=3、好吃=2、菠萝=2、西瓜=2、梨子=2,桃子=1、猕猴桃=1、蔬菜=1,茄子=1

逆文档频率

PS: IDF= log(语料库中的文件总数 / 包含词语 t 的文件数目),为了便于理解,这里做了精简。

按照我们的直觉,如果一篇文章把逆文档频率最高的前面的词都包含了,说明这篇文章内容更贴合用户意图,更受到搜索引擎喜欢。回到例子,"水果、苹果"是本例中重要性最高的2个词,如果内容中包含“水果、苹果”,那么这篇内容质量就越好。

所以把包含“水果、苹果”的内容拿出来,就是比较靠谱的内容了:

  • - 内容2: 水果有苹果,桃子,西瓜,菠萝,梨子
  • - 内容4: 苹果,梨子都是很好吃的水果
  • - 内容5: 好吃的水果有西瓜,苹果,葡萄,其他水果还有菠萝,猕猴桃

第2步:计算词频(TF)

我们把内容1、内容3砍掉了,剩下的内容2、内容4、内容5怎么排序。我们想一下,一个词语在内容中出现的次数越高,也说明这个词语对这篇文章更重要。回到本例,“水果”是我们的核心词,那么因为内容5中出现“水果”两次,内容2、内容4次数是1,那么内容5胜出。最后的排序结果如下

  • - 内容5: 好吃的水果有西瓜,苹果,葡萄,其他水果还有菠萝,猕猴桃 (第一名)
  • - 内容2: 水果有苹果,桃子,西瓜,菠萝,梨子(第二名)
  • - 内容4: 苹果,梨子都是很好吃的水果(第三名)
  • -内容1: 水果有水果,水果,水果,水果,水果(相关度不够,被剔除)
  • -内容3: 蔬菜都很好吃,我最爱吃茄子了( 相关度不够,被剔除 )

以上是砍了又砍的TF-IDF算法简化解读版,真实的TFIDF算法比这个要正规复杂很多,这里只是让大家get到重点,码迷的目的就达到了。

TF-IDF与SEO

TF-IDF对SEO非常重要!非常重要!非常重要!重要的事情说三遍!

我们可以看到,TFIDF算法,不仅可以衡量关键词对页面的重要性,更能衡量文章的广度相关性。对于百度、360、google来说,TFIDF算法的出现屏蔽了一大批用关键词密度来获取排名的SEO小白,同时提升了搜索质量啊,真是一箭双雕。

百度百科里面说了:“除了TF-IDF以外,因特网上的搜索引擎还会使用基于链接分析的评级方法,以确定文件在搜寻结果中出现的顺序。”。意思是什么?你排名可以由下面的公式决定。文章得分=TFIDF得分+链接得分,百度搜索引擎在用TFIDF!!

那么有人站出来问了,码迷啊,人家只是在百度百科里面说,百度也没有说用TFIDF算法啊,有本事亮出实锤来。好吧~咱往下接着看。

首先,百度在用TFIDF算法

百度专利中使用TFIDF的实锤,请查看百度专利文档《CN102737018A-基于非线性统一权值对检索结果进行排序的方法及装置-公开》。搜索算法来去匆匆,百度算法更新迭代也非常快,但是TFIDF算法有点不同,它是目前最核心的搜索算法之一。

CN102737018A-基于非线性统一权值对检索结果进行排序的方法及装置-公开

GOOGLE也用TFIDF算法

google承认在搜索中使用的TFIDF算法:原文链接:https://www.searchenginejournal.com/google-tf-idf/304361/

谷歌使用TFIDF算法

TFIDF得分占极高比重

如果搜索引擎确定使用TF-IDF对网页内容作为评判质量的因子,那么这个比重有多大?码迷知道,现在的搜索引擎一般用如下的算法计算网站页面得分:score(页面得分) = TFIDF分 * x + 链接分 * y + 用户体验分 * z(其中x+y+z=100%;);

大约在2G左右的谷歌搜索资料中,码迷做了人工智能训练,预测TFIDF分值大约占百度40%左右的权重,谷歌更是达到了50%。推导过程大家可以参考码迷的另外一篇博文:《SEO工具:摩天楼内容助手底层算法细节以及开发过程

链接分,通过快排朋友透露,权重大约占百度20%左右,谷歌尚不清楚。

用户体验得分(可以通过刷快排提高)的比率,百度在40%左右,Google则没有找到相关快排技术文档。

所以说,在中国做SEO:

排名得分=40%的内容质量(TFIDF)+40%的用户体验分(快排)+20%的链接分(域名+外链),TFIDF重要程度不言而喻。

摩天楼使用了TF-IDF Plus

摩天楼在初期的版本中使用了基本的TF-IDF公式,但是在实验过程中,做了几个网站都没有做到首页,也是抑郁了很长时间。

后来机缘巧合经过高人指点,使用了稍微复杂的BM25算法。BM25算法其实是TFIDF相关性的升级版本,主要引入了文档长度、关键词权重等可调节的参数。

其中BM25算法公式中的k参数,由样本库学习计算获得。经过机器学习后的K参数,样本库排序得分基本与谷歌的搜素排序一致。而百度则因为广告太多,干扰项太多一直没法验证,不过通过实战案例验证,K参数的取值也八九不离十。

BM25算法

如何使用摩天楼提高TF-IDF得分

第1步 写内容

定位好目标核心搜索词,然后候选好3个左右的长尾关键词,定好你的网站标题。写好你的标题,然后按照标题认真写好你的SEO内容。白帽SEO同学可以搞原创,黑帽同学可以做采集做拼凑(此处省略几万字)。。。

第2步 通过摩天楼内容助手评分

经码迷独家开发的摩天楼内容助手,会从5个维度对你的标题内容做评测,摩天楼还会跟踪不同的相关词,帮你测量你在众多竞争对手中的排名得分,这些都是很干很干的SEO技巧,对于帮助了解竞争对手的内容有莫大的帮助。

第3步 重新优化内容

摩天楼内容助手会很清楚的告诉你,你应该减少哪些词,应该增加哪些关键词。你按照摩天楼内容助手的建议去做就行了,整个过程会有点枯燥,但是码迷已经实操过多起案例,很有效果。

第4步 再次通过摩天楼内容助手评分

这是一个反复优化验证的过程,一般情况下你把TOP50左右的相关词全覆盖了,你的网站内容基本上能拿到全网质量TOP2的排名。然后根据词频建议调整TOP10相关词的词频,基本上就是全网第一了。

摩天楼真的对SEO有提升吗?

开发过程验证

在写这篇文章之前,码迷其实已经测试了TFIDF算法超过一年。起初码迷花了大概三个月的事件研究了百度、好搜、神马的相关搜索专利,其中百度居多,也通过百度专利以及百度的朋友得知百度确实是在用TFIDF之后,很天真的做了摩天楼内容助手第一版,然后拿网站做小白鼠,嗯,基本都失败了。

正当毫无头绪的时候,18年11月份跟回国探亲的同学(留美博士)讨论了一下,其实TFIDF算法是对的,但是系数不对,打分算法也不对(博士就是博士哈)。

19年1月份左右,码迷修正了算法,并且通过训练了百万级的验证集数据,获得了最优系数参数。随后准备100个自然搜索词,验证新相关性算法预测的排名与实际排名的重合度(反面交叉验证),数据基本符合预期。

整个的开发验证过程,大家可以参考《码迷:分享摩天楼内容助手底层算法细节及开发过程

成功案列验证

为了验证摩天楼工具确实有用,我们不仅通过实战正面验证取得了很好的效果,也通过现有搜索引擎结果中交叉验证证明摩天楼内置的算法不仅有效还很准。大家可以到《摩天楼内容助手案例专区》查看最近案例。

国外TFIDF工具很流行

目前码迷在国内市面上甚至培训机构中,并没有找到一款类似摩天楼内容助手这样的TFIDF深度解析工具,但不排除有大佬内部开发的哈。

国外的TFIDF工具主要有2款,而且也确实经过了很多大牛们的验证(国外的SEO大神Matt亲自验证了text-tools管用,国外SEO大神的博文:https://diggitymarketing.com/tfidf-for-seo/)。

我们知道百度技术上一直跟着google学,如果TFIDF用在GOOGLE上管用,用在百度上则是先知先行,再明智不过了。

总结

首先摩天楼内容助手并不是一款黑帽专属SEO工具,但也可以配合黑帽手段达到更好的效果;其次,码迷觉得,摩天楼内容助手更是一款需要静下心来,认认真真做内容的白帽SEO工具,很多SEO站长总想做快排做泛目录上排名,可是你们想想如果大家都不产生优质内容,百度拿不到好的内容,只能让SEO市场越来越小,越来越烂.

所以SEO同行们一定要不忘初心,方可始终;有时候做优化,更多的是需要大家慢下来,以慢打快,十拿九稳.

最后,摩天楼内容助手只做SEO工具链中的内容构建工具,它很年轻,所以算法也不是百分百的完美,但是从数据化指导的科学SEO优化角度来讲,确实能够为大家开辟一片新天地!省力省时捷径,希望大家能够宽容,也感谢大家宝贵的反馈.

码迷再次感谢阅读完本文的SEO新手、SEO大佬们、SEO培训老师们,感谢你们的支持!

推荐阅读

怎么靠养站卖站赚钱,附子SEO:差异化

一年没冒泡了,朋友圈也关了一年。这一年我什么都没做,建了200个网站。之所以在这个时候分享这样一篇文章,是想告诉那些还在依赖SEO的朋友,或者来一炮。但这并不意味着这项业务不能做。主要还是做好差异化才有生存的机会。每一个养卖网站的SEO都希望有一个或......

SEO88论坛网址是什么

看到有人说SEO88论坛,但是我百度却找不到这个网站,是被K了吗,还是已经停止运营了。...

js实现内容超出一定高度后折叠 点击展开收起

200px以外的部分内容被隐藏,底部显示蒙版图层和查看全文按钮。类似的效果请见csdn的博客内容页。#渐变{宽度:100%;高度:50px位置:绝对;底部:0;左:0;背景:-moz-linear-gradient;背景:-WebKit-gradie......