剖析搜索引擎蜘蛛工作原理
SEO 搜索引擎技术，以抓取网络中海量信息为主导。随着各式各样的信息增长，该技术作用变得越来越凸出。作为SEO技术人员，虽没必要像ZAC对搜索引擎优化技术了解的很透彻，但是分析了解搜索引擎蜘蛛其对文件的处理方法、研究其搜索与更新策略，都是SEOer该有的、该学习的业务发展方向(需要)。任何一个网站只要内容(更新)、外链(数量质量)都能看到搜索引擎对该网站做出相对应的分析，进而增加页面权重。了解搜索引擎技术，从而为我们根据实质性的原理来进行搜索引擎优化，这才是SEO明智之举，而不是每天单纯的在那发外链、更新网站内容....，所以，我们就下面简单介绍搜索引擎核心检索技术。
　　首先；蜘蛛工作原理：
　　通常我们说的网络蜘蛛也就是搜索引擎蜘蛛，是通过链接地址来寻找网页的。搜索引擎蜘蛛名称根据搜索引擎的不同而不同。但它的原理都相同的，都是由一个起始链接开始抓取网页内容，同时也采集网页上的链接，并将这些链接作为它下一步抓取的链接地址，如此循环，直到达到某个停止条件后才会停止。停止条件的设定通常是以时间或是数量为依据，可以以链接的层数来限制网络蜘蛛的爬取。同时页面信息的重要性为客观因素决定了蜘蛛对该网站页面的检索。
　　其实，站长工具中的搜索引擎蜘蛛模拟器也就是用了这个原理，基于结果如何(准不准)，我没去考证过，有兴趣的站长们可以去试试。基于这蜘蛛工作原理，站长都会不自然的增加页面关键词出现次数，虽然对密度产生量的变化，但对蜘蛛而言并没达到一定质的变化，这点在搜索引擎优化过程中应该要避免的。
　　其次；搜索引擎蜘蛛与网站的交互问题：
　　基于搜索引擎技术基础看出，当蜘蛛爬行抓取到网站时，通常会去检索一个文本文件Robots.txt，这个文件通常存放在网站的根目录下。它是专门用来同网络蜘蛛交互用的专用文件。这也就是很多SEOer老是去屏蔽网站页面不想被搜索引擎抓取的原因。但它也是一个网站和搜索引擎蜘蛛对话的重要工具，但蜘蛛是否都遵循站长对其实施的规则呢? 其实蜘蛛遵循不遵循重点还是得看蜘蛛本身，素质高的会遵循规则，反之亦然。
　　另外，在网站中放入一个叫做sitmap的网页，并将它作为网站的入口文件，这也是蜘蛛与网站的交互方法。对于交互性的SEO手段，我们了解了就可以针对性的做出符合搜索引擎蜘蛛喜好的网站地图。