当前位置:首页 >  站长 >  搜索优化 >  正文

「案例解读」解决网站不收录的必备思路

 2019-03-11 16:02  来源:A5专栏  我来投稿

  各种互联网项目,新手可操作,几乎都是0门槛

网站不收录可谓说是老生常谈了,太多SEO从业者有遇到这样的问题而无从下手,导致苦恼万分。我们解决网站不收录的问题前,应该思考一个问题:“让网站收录的影响因素都有哪些呢?”,先弄明白这件事情,然后再去解决收录的问题就会变得很有头绪。

下面我以一个案例的形式针对性的描述下如果一步一步解决网站不收录。

我在刚加入环球网校的时候,他们的网站已经将近1年的时间在百度的收录少之又少。在我去应聘的时候,CEO知道我在SEO方面有些能力,就令我尽快解决网站不收录的问题。

首先,我只是听到公司的人和我说这个网站不收录,那到底是哪里不收录、怎么不收录我完全不清楚,所以我开始了数据整理和问题排查的工作。

将网站按照类型做分类,分为了频道页、列表页、专题页、聚合页以及新闻页5类。然后核技术沟通将这5类URL全部导出给我(新闻页,由于很多考试相关的新闻具有时效性,所以我只导出了30天的数据),然后我按照不同的分类开始收录查询工作。最后收录查询的结果如下:

如上图,我发现公司人员和我反馈的网站不收录,具体的问题是在新闻页。而环球网校的新闻是面向考试的信息发布、资料发布等。是具有一定时效性的文章,按理说这么大的网站应该秒收才对。

于是,我和相关人员要了网站最近7天的网站日志,技术给我的是原始的网站日志,既包含了爬虫数据也包含了用户数据等等,没办法,只能自己清洗一下这些数据了。

SEO清洗网站爬虫日志的流程

1、我先按照user-agent包含baiduspider的进行过滤,只保留包含baiduspider的数据,这样我就拥有了百度爬虫的数据;

2、但百度爬虫数据中,也有很多假爬虫,按照ip反查的思路,我先把所有baiduspider的ip地址拿下来,然后去重;

3、得到600多个不重复的唯一ip地址。我对这些ip地址通过程序批量识别真假爬虫,最后是真爬虫的ip地址有82个;

4、我再在第一步的所有爬虫数据中进行过滤,只保留ip地址为真的百度爬虫的这82个。最后得到的数据就是真的爬虫数据了;

5、我将最近7天内发布的url在这个清洗后的日志中进行查询,最后发现所有的新页面在发布后的1分钟内爬虫都有抓取,可想抓取是多么的及时,并且在第二天、第三天都还会有对这篇文章的抓取。

最终我看到爬虫抓取的行为数据表现很好,应该不是抓取上出了问题。

然而,在我分析日志之前,也和技术、产品、运维同步了一个需求,我需要1年前网站突然开始不收录那个大概时间节点他们各部门都做了什么改动。就在我分析完日志的晚上,技术老大找到我说,他想起来当年是因为网站被攻击,大量注入了很多的垃圾数据后,网站收录才出现异常的。

我可能知道问题就出在这里,但为了更全面的考究问题,我还是让他们按规定把之前做的一些改动同步给我。

第二天早上我就开始围绕网站被攻击的问题与技术进行了彻底的排查,看网站之前被注入的垃圾信息有没有清除干净。最后确认垃圾信息早就彻底清除了,且正确返回了404状态码和404错误页面。

然后我怀疑是不是百度没有修正我们的状态,被攻击的时候开始不收录正常,毕竟检测到了我们网站的风险,那时隔一年还是如此,一定是百度的问题。我通过百度的反馈中心详细的说明了问题的始末,然后百度的技术也在一直排查,我等了有一周时间没见回复,其他部门也把之前的一些调整和改动都给我了,我也确认那时大家的做法没有问题。

于是,我主动联系了百度站长平台的朋友,希望他们能够尽快处理,查明问题。

可最后我得到的结论是百度也没发现什么问题,据说几个部门的技术针对我的问题还各自筛查一遍,没找到问题。好吧,百度的兄弟已经给足了面子,能这么帮咱跟进需求很到位了。还是靠自己,这毕竟是我入职CEO的第一个托付,一定要搞定。

我也找了我们的编辑,询问并且检查文章本身的质量问题,大家和几年前一样,一直按部就班的发着信息,没什么变化。及时性、可读性、需求满足度都可以保证。具体是哪出了问题呢?

我思前想后,会想到问题的本质是开始于网站被攻击开始的,那如果真的是百度没反应过来的话,我就要让百度重新对我的新闻页进行计算,以重新评估这类页面。于是我有了对新闻页改版的念头。

开始与产品沟通,但他们忙,无奈下,我独挑大梁,自己画原型开干了。

通过对页面的重新设计、丰富了内链的链接策略,也增加了很多广告自定义的场景。通过20多天的努力,新的页面上线了。

由于网站每天发布的新闻很多,大约在几百条,所以我写了一个收录查询的程序,每天这个程序都会自动帮我查收录,然后以excel附件的形式发到我的邮箱,我进行查看。

就在新版的新闻页上线的第4天,收录率从之前每天的1~5个,突然有100多个了,收录率之前都是零点零几,现在有40%多了,又过一天82%,再过一天79%,又过一天85%,就这样80%上下持续了一周的时间,到了下周突然达到了97%,而且是秒收的。然后中间也有个别的天是浮动的。但整体都在95%上下。

到这,我认为收录问题彻底解决了,很多编辑的同事也早就知道了这个事情。现在几年过去了,我策划的新闻页仍在,且收录情况一直良好。

下图是我刚查询环球网校最近一天的收录情况:

时间上有10分钟前、15分钟的。由于你也想查一下的话,而且整体数量也在几百条的数量上。

那我们来总结一下当网站不收录后的解决这个问题的思路:

1、锁定网站不收录的是哪类型的页面,就像案例所说,最终我锁定到了新闻页;

2、思考网站不收录的这个时间点内,对网站有改动权限的人都做了什么,这些改动会不会是网站不收录的原因;

3、分析网站的日志,看不收录的那个网站类目是不是有抓取,没抓取就是抓取问题,有抓取就不存在问题;

4、当网站改动上没问题,抓取没问题。就在站长工具反馈中进行详细的反馈;

5、反馈的同时也可以对该类型的模版页面进行适当的调整,例如增加链接入口、增加网页丰富度,新闻页提高原创比例,文章内容的质量程度。

6、要是还不能收录的话,就对当前类型的模版页面进行大改版,重构页面进行尝试。

我从业的公司以及帮助一个企业解决网站不收录问题不下15个了,一直沿用这套思路,本文案例网址:(www.hqwx.com)

责任编辑:陈龙   /   作者:赵彦刚

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关文章

  • 熊掌号推广的意义何在?

    从“有问题找百度”开始,我们就在心中种下百度的种子。从百度问问到百度地图、再到百度百科、百度文库,百度视频、百度音乐等等,可以说百度就像空气一样渗透在我们的生活。抖音无音亦可,搜无百度不成,这已经是既定的事实。百度的用户,经过二十年的沉淀,习惯已难以改变。所以,当百度变革时,我们必须要跟着百度的步伐

    标签:
    熊掌号推广
  • 熊掌号收录没排名,收录没有问题,教你三步走解决问题

    首先我们先来明确一下现在排名等于什么,排名=熊掌号运营指数+SEO技术

    标签:
    熊掌号排名
  • 熊掌号排名如何优化 一招教你搞定它

    随着百度搜索引擎对于熊掌号越来越重视,很多seo的大咖们也纷纷的把目光转向了百度熊掌号。前不久,百度曾发文称欲将80%的手机端流量给熊掌号,经过一段时间的跟踪之后,可以确定百度确实在这样做。既然如此,那么如何优化好熊掌号已经成为seo优化师门的重点研究对象,笔者最近做了一些测试,并且得出了一点小心得

    标签:
    熊掌号排名
  • 全新的熊掌号指数机制你了解吗?

    近些阶段忙着公司和一些客户的站点内容上线,一直没有在博客更新太多文章,本想每周更新一篇相关的具备一定知识点的内容,鉴于较忙,就一直拖拖拉拉了。前几天去了北京参加熊掌号线下公开课,之前一直有站长朋友问我为什么他们的熊掌号指数近期一直在下降,我们每天都在提交优质的内容,也提交着原创的内容呢,指数就是上不

    标签:
    熊掌号指数
  • 熊掌号指数下跌是怎么回事,这3个原因你一定要知道

    近期原创及内容质量的参考权重逐步增加,会导致帐号指数波动,目前有以下几种变化情况:

    标签:
    熊掌号指数
  • 小嵘SEO优化:SEO每天的日常工作流程

    身为1名SEO人员,必须对网站设定目标并每天开展追踪报告并立即调整对策,进而运用最少的時间做最高效率的事,而日常工作也是确保网站优化顺利开展为本质。一名SEOer,下边的日常事儿应当也是您每日该做的。

  • 新手seo该如何提升关键词排名?

    一个网站的流量主要来源于直接访问,搜索引擎和外部链接这三种方式,一个网站最主要的流量来源于各种排名非常好的目标关键词,如果关键词没有排名一切皆无。那么哪些因素会影响关键词在搜索引擎上的自然搜索排名呢,这是大部分新手seoer最为头疼的问题。

  • 平头哥SEO讲述网站优化排名的技巧

    为什么同样选择的平头哥SEO公司提供的网站,一样的网页设计公司,一样的网站程序,为什么你的排名会那么差,他的排名确那么好?为什么你的网站做了很久的优化工作,排名一直在50名以后,平头哥SEO告诉你,网站排名需要进行优化,而优化需要SEO优化技巧。

  • SEO优化中查询检索词与加#搜索的操作方法

    最近看见一篇在讲查询词,检索词的文章,平头哥SEO也有这样的亲身实践经历。其实查询词与检索词在我们互联网日常生活中,经常被使用到。但是,大多数的人都没有很好的去了解查询词和检索词,被他们一贯认为成是寻找词。

  • 小程序SEO优化分析

    小程序与公众号一样,名称具有唯一性,谁先注册,谁先使用,后面的人就无法再使用这个名称的了。并且认证后得到的推荐权重也相对靠前。根据用户的搜索习惯和产品特性,尽可能多的注册小程序名称,更有可能被用户搜索到。我们要做的就是优化小程序标题。

榜单

热门排行

信息推荐

扫一扫关注最新创业资讯
博评网