批量检测被百度收录的死链的方法

softyun3年前网站建设52

前段时间服务器被入侵,挂了很多博彩之类的黑页,而且全部被百度收录。

现在把漏洞补好了,但删除黑页文件以后成了死链,要怎么让百度删除收录呢?

在网上找了一下,似乎只有检测网址是否被收录的工具,而没有检测收录的是不是死链的工具。

自己理清了下思路,找办法找出了所有被收录的死链,并写下这篇文章。

不知道有没有更好的方法,大家可以告诉我,先分享给大家,如果有大神请忽视或者告诉我更好的方法,一起学习交流吧。

下面教程开始

先在百度找到xenu可以模拟爬虫爬取所有连接,我下载了个汉化版。

我们先用这个工具查询所有被收录的页面。

打开软件,填入简版百度site网站地址,之所以用简版是可以减少链接查询时间和内容。(请把xxx.bizcn换成你的网址)

baidu/s?ie=utf-8&tn=baidulocal&wd=site%3Axxx.bizcn

等待检测完成。

点击导出为制表符分隔的文件。

导出的文件,我们可以看到格式是:网址+空格+状态码

那么写一个正则,把需要的网址提取出来就行,比如baidu下的404页面就是

/http:\/\/baidu(.*?)\s404/i

(以baidu开头,\s代表空格,404,/i代表匹配大小写)

不会正则怎么办?

为了方便大家,我把文件作了修改,大家只要把head改成标致性开头,state改成状态码就行,file改成导出的文件路径就行。

head怎么改,举个例子,

你的网站是baidu/abc,那么你就写baidu/

你的网站是abc.baidu.com/abc,那么你就写abc.baidu.com/

把正则写入php,在php环境下运行get.php。那么结果就出来了。

这时你只需要全选,复制到一个txt文件,上传到网站空间,再到百度站长平台死链提交填入文件路径就行就可以。

我们知道,思路是通过爬取找出所有被收录的链接,然后按条件列出来而已。

这样的话,只要把开头输入的site网址改一下,也可以查询其他搜索引擎的收录。

把正则改一下,可以获得如标题等其他内容。在此就不一一叙述。
来源:卢松松博客 微信/QQ号:13340454,欢迎分享本文,转载请保留出处!


免责声明:本文内容来自用户上传并发布,站点仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。请核实广告和内容真实性,谨慎使用。

相关文章

国外免费CDN加速及防护:CloudFlare注册使用教程

 这次网站被攻击,接连发生流量被刷爆和cpu资源超标,逼得我不得不去认真做下网站防护工作。安装使用CDN工具是其中一个比较好的方式。国内也有很多免费CDN工具,都是需要网站备案后才能使用。网站没有备案...

90后新手,做网站4个月经验总结

 我,一个小小的90后草根站长,14年年底接触建站,到现在刚刚半年多。半年来,做了三个网站,前两个由于种种原因相继夭折,不再多提,现在一直在运营的网站,域名是创建于2015年3月2日,加上备案时间,做...

如何让软文更好阅读?

我们松松软文遇到过很多客户,不会写文章,也不明白如何发文章,今天我们的文章就为大家介绍一下写软文的小技巧,希望对大家有所帮助! 1. 控制软文标题与正文的字数 软文的标题应该控制在16-20个字之间,...

安全狗安全云主机背后的故事

 云主机是新一代的主机租用服务,它整合了高性能服务器与优质网络带宽,有效解决了传统主机租用价格偏高、服务品质参差不齐等缺点,可全面满足中小企业、个人站长用户对主机租用服务低成本、高可靠、易管理的需求。...

详解HTTPS改造全过程

作为SEO人员,需要了解最新的搜索引擎动态,如去年百度推出的MIP改造,后来推出的熊掌号,2018年下半年又将对HTTPS站点的扶持态度,包括平台支持、抓取支持、展现支持和其他支持。 今天,笔者就给大...

新站结合熊掌号的实际操作 实现当天收录

小生初来乍到就谈及SEO,恐大神耻笑,但您们并不认识我,所以笑笑我也没关系。我不会SEO,更不会网络流传的灰帽、黑帽SEO,只会看看百度站长的白皮书和做好自己的本职工作。 直接进入正题:熊掌号的实际...