1、搜索引擎蜘蛛能不能找到網(wǎng)頁(yè)
要讓搜索引擎發(fā)現(xiàn)網(wǎng)站首頁(yè)，就必須要有外部鏈接連到首頁(yè)，找到首頁(yè)后，蜘蛛沿著內(nèi)部鏈接找到更深的內(nèi)容頁(yè)，所以要求網(wǎng)站要有良好的結(jié)構(gòu)，符合邏輯，并且所有頁(yè)面可以通過(guò)可爬行的普通HTML鏈接達(dá)到a JavaScript鏈接、Flash 中的鏈接等搜索引擎蜘蛛般不能跟蹤爬行，就會(huì)造成收錄問(wèn)題。
網(wǎng)站所有頁(yè)面離 首頁(yè)點(diǎn)擊距離不能太遠(yuǎn)，最好在四五次點(diǎn)擊之內(nèi).要被搜索引擎收錄.頁(yè)而需要有最基本的權(quán)重，良好的網(wǎng)站鏈接結(jié)構(gòu)可以適當(dāng)傳遞權(quán)重，使盡量多的頁(yè)面達(dá)到收錄門(mén)檻。
2、找到網(wǎng)頁(yè)后能不能抓取頁(yè)面內(nèi)容
被發(fā)現(xiàn)的URL必須是可以被抓取的。數(shù)據(jù)庫(kù)動(dòng)態(tài)生成、帶有過(guò)多參數(shù)的 URL、SessionID、整個(gè)頁(yè)面是 Flash，框架結(jié)構(gòu)(frame)，兩疑的轉(zhuǎn)向、大量復(fù)制內(nèi)容等都可能使搜索引擎敬而遠(yuǎn)之。
某些文件站長(zhǎng)可能不希望被收錄，除了不鏈接到這些文件，更保險(xiǎn)的方法是使用robots文件或meta robots標(biāo)簽禁止收錄。
3、抓取頁(yè)面后怎樣提煉有用信息
關(guān)鍵詞在頁(yè)面重要位置的合理分布、重要標(biāo)簽的撰寫(xiě)、HTML代碼精簡(jiǎn)，起碼的兼容性等 以幫助搜索引擎理解頁(yè)而內(nèi)容，提取有用信息。
只有搜索引擎能順利找到所有頁(yè)面，抓取這些頁(yè)面并提取出其中真正有相關(guān)性的內(nèi)容，網(wǎng)站才可以被視為是搜索引擎友好的。
北京網(wǎng)站設(shè)計(jì)網(wǎng)上搜索引擎不友好的網(wǎng)站比比皆是，尤其是一些中小企業(yè)網(wǎng)站。不過(guò)這樣的網(wǎng)站不太好舉例，沒(méi)得到網(wǎng)站主人的許可就當(dāng)做負(fù)面案例討論非常不恰當(dāng)，在zaccode.com 網(wǎng)站看到一個(gè)會(huì)員詢問(wèn)搜索引擎不收錄他們的內(nèi)頁(yè)是怎么回事.筆者點(diǎn)擊過(guò)去看了一下，不由得驚呼，這個(gè)網(wǎng)站簡(jiǎn)直是集搜索引擎不友好之大成，是個(gè)相當(dāng)不錯(cuò)的反面教材。
本文地址：http://m.murenxiang.com.cn//article/2766.html
