国外虚拟主机 国外空间 国际域名 美国主机
hostgator虚拟主机
OverseaHosting.com为您提供准确及时的海外网站空间和虚拟主机及域名信息,以及丰富的技术文档和工具,帮助您轻松选择合适的国外虚拟主机,优化设计和推广自己的网站。

搜索引擎蜘蛛(Spider)模拟器

作者/来源:Overseahosting.com
蜘蛛程序对网页数据的抓取是通过读取网页文本内容,并顺着页面中的链接层层深入,从而获得对全站内容的抓取。有一些网页制作技术如框架结构(frame:帧)、Flash等生成的网页内容是蜘蛛程序比较排斥、不愿意抓取的,因此内嵌于其中的文字或链接往往被蜘蛛忽略了,从而影响到对全站重要数据的抓取。要想知道某个网页的内容能否被Google蜘蛛正常抓取到,可以借用蜘蛛模拟程序,它罗列出一页中能够读到的所有文本,以及能够进入的所有链接,以帮助诊断重要网页内容是否可见。

  使用方法:输入被查询页面的URL提交,显示结果分别是被抓取的文本和链接。如果是乱码,可点击浏览器的“查看”-“编码”-“简体中文”

  在线检测地址: http://www.spannerworks.com/spidersimulator.0.html

  可以选择不同搜索引擎,查看不同的效果。

发表评论:
昵称 *

邮箱 *

评论* (最长不超过500汉字)