上一篇我們說了有關(guān)asp防采集常用的六種方法,有些方法對(duì)搜索引擎收錄有較大影響,那咱們這篇文章就講講asp既有效防采集,又不影響搜索引擎收錄的方法,目前絕大多數(shù)采集程序都是靠分析規(guī)則來進(jìn)行采集的,如分析分頁文件名規(guī)則、分析頁面代碼規(guī)則,那咱們就采集如下對(duì)策迎敵了:
一、分頁文件名規(guī)則防采集對(duì)策
大部分采集器都是靠分析分頁文件名規(guī)則,進(jìn)行批量、多頁采集的。如果別人找不出你的分頁文件的文件名規(guī)則,那么別人就無法對(duì)你的網(wǎng)站進(jìn)行批量多頁采集。
實(shí)現(xiàn)方法:
我認(rèn)為用MD5加密分頁文件名是一個(gè)比較好的方法,說到這里,有人會(huì)說,你用MD5加密分頁文件名,別人根據(jù)此規(guī)則也可以模擬你的加密規(guī)則得到你的分頁文件名。
我要指出的是我們加密分頁文件名時(shí),不要只加密文件名變化的部分,如果I代表分頁的頁碼,那么我們不要這樣加密 page_name=Md5(I,16)&”.htm”
最好給要加密的頁碼上再跟進(jìn)一個(gè)或多個(gè)字符,如:page_name=Md5(I&”任意一個(gè)或幾個(gè)字母”,16)&”.htm”
因?yàn)镸D5是無法反解密的,別人看到的會(huì)頁字母是MD5加密后的結(jié)果,所以加人也無法知道你在 I 后面跟進(jìn)的字母是什么,除非他用暴力****MD5,不過不太現(xiàn)實(shí)。
二、頁面代碼規(guī)則防采集對(duì)策
如果說我們的內(nèi)容頁面無代碼規(guī)則,那么別人就無法從你的代碼中提取他們所需要的一條條內(nèi)容,所以我們要的這一步做到防采集,就要使代碼無規(guī)則。
實(shí)現(xiàn)方法:使對(duì)方需要提取的標(biāo)記隨機(jī)化
1、定制多個(gè)網(wǎng)頁模板,每個(gè)網(wǎng)頁模板里的重要HTML標(biāo)記不同,呈現(xiàn)頁面內(nèi)容時(shí),隨機(jī)選取網(wǎng)頁模板,有的頁面用CSS+DIV布局,有的頁面用table布局,此方法是麻煩了點(diǎn),一個(gè)內(nèi)容頁面,要多做幾個(gè)模板頁面,不過防采集本身就是一件很煩瑣的事情,多做一個(gè)模板,能起到防采集的作用,對(duì)很多人來說,都是值得的。
2、如果嫌上面的方法太麻煩,把網(wǎng)頁里的重要HTML標(biāo)記隨機(jī)化,也可以。
做的網(wǎng)頁模板越多,html代碼越是隨機(jī)化,對(duì)方分析起內(nèi)容代碼時(shí),就越麻煩,對(duì)方針對(duì)你的網(wǎng)站專門寫采集策略時(shí),難度就更大,在這個(gè)時(shí)候,絕大部分人,都會(huì)知難而退,因?yàn)檫@些人就是因?yàn)閼?,才?huì)采集別人網(wǎng)站數(shù)據(jù)嘛!再說一下,目前大部分人都是拿別人開發(fā)的采集程序去采集數(shù)據(jù),自己開發(fā)采集程序去采集數(shù)據(jù)的人畢竟是少數(shù)。
還有些簡(jiǎn)單的思路提供給大家:
1、把對(duì)數(shù)據(jù)采集者重要,而對(duì)搜索引擎不重要的內(nèi)容用客戶端腳本顯示
2、把一頁數(shù)據(jù),分為N個(gè)頁面顯示,也是加大采集難度的方法
3、用更深層的連接,因?yàn)槟壳按蟛糠植杉绦蛑荒懿杉骄W(wǎng)站內(nèi)容的前3層,如果內(nèi)容所在的連接層更深,也可以避免被采集。不過這樣可能會(huì)給客戶造成瀏覽上的不便。
如:
大多網(wǎng)站都是 首頁—-內(nèi)容索引分頁—-內(nèi)容頁
如果改成:
首頁—-內(nèi)容索引分頁—-內(nèi)容頁入口—-內(nèi)容頁
注:內(nèi)容頁入口最好能加上自動(dòng)轉(zhuǎn)入內(nèi)容頁的代碼
其實(shí),只要做好防采集的第一步(加密分頁文件名規(guī)則),防采集的效果就已經(jīng)不錯(cuò)了,還是建議兩條反采集方法同時(shí)使用,給采集者增加采集難度,使得他們知難頁退。
上篇文章內(nèi)容回顧:asp防采集常用的六種方法