隨著搜索引擎的不斷發(fā)展與升級(jí)，搜索引擎的蜘蛛也變得越來(lái)越智能了，所以為了要弄清楚蜘蛛的工作原理，為了更好的優(yōu)化自己的網(wǎng)站我們就必須不斷的去研究蜘蛛。下面解釋一下蜘蛛的基本工作原理：
　　蜘蛛工作的第一步：爬行你網(wǎng)站的網(wǎng)頁(yè)，尋找合適的資源。
　　蜘蛛它有一個(gè)特性，那就是他的運(yùn)動(dòng)軌跡通常都是圍繞著蜘蛛絲而走的，而我們之所以將搜索引擎的機(jī)器人命名為蜘蛛其實(shí)就是因?yàn)檫@個(gè)特性。當(dāng)蜘蛛來(lái)到你的網(wǎng)站之后，它就會(huì)順著你網(wǎng)站中的鏈接(蜘蛛絲)不斷的進(jìn)行爬行，因此如何讓蜘蛛能夠更好的在你的網(wǎng)站中進(jìn)行爬行就成為了我們的重中之重。
　　這個(gè)時(shí)候我們經(jīng)常會(huì)建議站長(zhǎng)們用的手法就是在網(wǎng)站上多一些調(diào)用，這些調(diào)用均是調(diào)用網(wǎng)站內(nèi)部的一些文章，這種做法是大多數(shù)站長(zhǎng)的選擇，不論是相關(guān)閱讀，還是推薦閱讀，亦或者是其它的排行榜之類(lèi)等。
　　蜘蛛工作的第二步：抓取你的網(wǎng)頁(yè)。
　　引導(dǎo)蜘蛛的爬行這只是一個(gè)開(kāi)始，一個(gè)好的開(kāi)始意味著你將有一個(gè)高起點(diǎn)。通過(guò)自己的內(nèi)鏈設(shè)計(jì)，使得網(wǎng)站中不存在任何死角，蜘蛛可以輕松的到達(dá)網(wǎng)站中的每一個(gè)頁(yè)面，這樣蜘蛛在進(jìn)行第二步工作——抓取的時(shí)候，將會(huì)事半功倍。
　　而在這一步抓取的過(guò)程中我們又需要注意的就是要精簡(jiǎn)網(wǎng)站的結(jié)構(gòu)，將那些不必要、不需要的多余代碼去掉，因?yàn)檫@些都將會(huì)影響蜘蛛抓取網(wǎng)頁(yè)的效率與效果。另外還需要大家注意的事情就是通過(guò)我們都不建議網(wǎng)站中放入FLASH，因?yàn)橹┲雽?duì)于FLASH是不好抓取的，過(guò)多的FLASH會(huì)導(dǎo)致蜘蛛放棄抓取你網(wǎng)站的頁(yè)面。
　　蜘蛛工作的第三步：優(yōu)質(zhì)的文章，能夠極大的提高蜘蛛抓取頁(yè)面的幾率。
　　到底是外鏈為皇還是內(nèi)容為皇這個(gè)已經(jīng)不重要了，但僅僅只是從這句話中我們就能清楚的知道內(nèi)容的重要性了。同樣的，蜘蛛也非?？粗貎?nèi)容，一篇優(yōu)質(zhì)的原創(chuàng)文章可以很好的打動(dòng)蜘蛛，讓蜘蛛僅僅只是爬了一遍就迫不及待的將其帶回。而相反，一篇抄襲、復(fù)制而來(lái)的文章，很有可能蜘蛛需要反復(fù)爬行幾次、甚至幾十次才有可能將其帶回，并且還極有可能根本就無(wú)視其存在。
　　當(dāng)然這也不是絕對(duì)的，我們說(shuō)的只是一個(gè)相對(duì)而言的東西，在同等條件下的兩篇文章，優(yōu)質(zhì)的原創(chuàng)文章更加容易被蜘蛛所接受。
　　蜘蛛工作的第四步：頁(yè)面放出。
　　這里我們所說(shuō)的頁(yè)面放出指的是在搜索引擎中可以被正常搜索到了，之所以說(shuō)第四步是這一步而不是索引，是因?yàn)镾EOER應(yīng)該盡量簡(jiǎn)化研究的過(guò)程。
　　當(dāng)蜘蛛將頁(yè)面抓取完成之后帶回索引庫(kù)之后，一切的一切就將不再是我們所能夠控制的了，所以在這里跳過(guò)了索引這一步而是直接談到放出頁(yè)面這一步。