二、从获取代码中提取所有用的数据
　　目前我掌握的方法有：
　　1、用ASP内置的MID函数截取需要的数据
　　CODE:[Copy to clipboard]Function body(wstr,start,over)
　　’-----------------翟振恺(小琦)
　　start=Newstring(wstr,start)
　　’设置需要处理的数据的唯一的开始标记
　　over=Newstring(wstr,over)
　　’和start相对应的就是需要处理的数据的唯一的结束标记
　　body=mid(wstr,start,over-start)
　　’设置显示页面的范围
　　’-----------------翟振恺(小琦)
　　End Function
　　调用方法：body(被采集的页面的内容,开始标记,结束标记)
　　2、用正则获取需要的数据
　　CODE:[Copy to clipboard]Function body(wstr,start,over)
　　’-----------------翟振恺(小琦)
　　Set xiaoqi = New Regexp’设置配置对象
　　xiaoqi.IgnoreCase = True’忽略大小写
　　xiaoqi.Global = True’设置为全文搜索
　　xiaoqi.Pattern = "”&start&“.+?”&over&“"’正则表达式
　　Set Matches =xiaoqi.Execute(wstr)’开始执行配置
　　set xiaoqi=nothing
　　body=""
　　For Each Match in Matches
　　body=body&Match.Value ’循环匹配
　　Next
　　’-----------------翟振恺(小琦)
　　End Function
　　调用方法：body(被采集的页面的内容,开始标记,结束标记)
　　采集程序祥细思路：
　　1、取得网站的分页列表页的每页地址
　　目前绝大部分动态网站的分页地址都有规则，如:
　　动态页
　　第一页：index.asp?page=1
　　第二页：index.asp?page=2
　　第三页：index.asp?page=3
　　.....
　　静态页
　　第一页：page_1.htm
　　第二页：page_2.htm
　　第三页：page_3.htm
　　.....
　　取得网站的分页列表页的每页地址，只需要用变量替代每页地址的变化的字符即可如：page_<%="&page&"%>.htm

2、获取被采集网站的分页列表页内容
　　3、从分页列表代码中提取被采集的内容页面的URL连接地址
　　绝大部分分页页面里的内容页连接也有固定规则，如：
　　<a href="url1">连接1</a> <br>
      <a href="url2">连接2</a> <br>
      <a href="url3">连接3</a> <br>
　用以下代码就可以获得一个URL连接集合
　　CODE:[Copy to clipboard]’-----------------翟振恺(小琦)
　　Set xiaoqi = New Regexp
　　xiaoqi.IgnoreCase = True
　　xiaoqi.Global = True
　　xiaoqi.Pattern = ””“.+?”““
　　Set Matches =xiaoqi.Execute(页面列表内容)
　　set xiaoqi=nothing
　　url=""
　　For Each Match in Matches
　　url=url&Match.Value
　　Next
　　’-----------------翟振恺(小琦)
　　4、取得被采集的内容页面内容，根据”提取标记“从被采集的内容页面分别截取要取得的数据
　　因为是动态生成的页面，大多数内容页面内都有相同的html标记，我们可以根据这些有规则的标记提取需要的各个部分的内容。
　　如：
　　每个页面都有网页标题，用我上面写的MID截取函数就可以获得之间的值，也可以用正则表达式来获得。
　　例：body("","")
　　介绍完采集器的祥细原理后，就开始说一下防采集的策略。
　　目前防采集的方法有很多种，先介绍一下常见防采集策略方法和它的弊端及采集对策：
　　一、判断一个IP在一定时间内对本站页面的访问次数，如果明显超过了正常人浏览速度，就拒绝此IP访问
　　弊端：
　　1、此方法只适用于动态页面，如：asp\jsp\php等...静态页面无法判断某个IP一定时间访问本站页面的次数
　　2、此方法会严重影响搜索引擎蜘蛛对其收录，因为搜索引擎蜘蛛收录时，浏览速度都会比较快而且是多线程。此方法也会拒绝搜索引擎蜘蛛收录站内文件
　　采集对策：只能放慢采集速度，或者不采
　　建议：做个搜索引擎蜘蛛的IP库，只允许搜索引擎蜘蛛快速浏览站内内容。搜索引擎蜘蛛的IP库的收集，也不太容易，一个搜索引擎蜘蛛，也不一定只有一个固定的IP地址。
　　评论：此方法对防采集比较有效，但却会影响搜索引擎对其收录。
　　二、用javascript加密内容页面
　　弊端：此方法适用于静态页面，但会严重影响搜索引擎对其收录情况，搜索引擎收到到的内容，也都是加密后的内容
　　采集对策：建议不采，如非要采，就把解密码的JS脚本也采下来。
　　建议：目前没有好的改良建议
　　评论：建议指望搜索引擎带流量的站长不要使用此方法。
　　三、把内容页面里的特定标记替换为”特定标记+隐藏版权文字“
　　弊端：此方法弊端不大，仅仅会增加一点点的页面文件大小，但容易反采集
　　采集对策：把采集来的含有隐藏版权文字内容的版权文字替掉，或替换成自己的版权。
　　建议：目前没有好的改良建议
　　评论：自己感觉实用价值不大，就算是加上随机的隐藏文字，也等于画蛇添足。
　　四、只允许用户登陆后才可以浏览
　　弊端：此方法会严重影响搜索引擎蜘蛛对其收录
　　采集对策：目前落伍已经有人发了对策文章 ，具体对策就看这个吧《ASP小偷程序如何利用XMLHTTP实现表单的提交以及cookies或session的发送》
　　建议：目前没有好的改良建议
　　评论：建议指望搜索引擎带流量的站长不要使用此方法。不过此方法防一般的采集程序，还是有点效果的。
　　五、用javascript、vbscript脚本做分页
　　弊端：影响搜索引擎对其收录
　　采集对策：分析javascript、vbscript脚本，找出其分页规则，自己做个对应此站的分页集合页即可。
　　建议：目前没有好的改良建议
　　评论：感觉懂点脚本语言的人都能找出其分页规则
　　六、只允许通过本站页面连接查看，如：Request.ServerVariables("HTTP_REFERER")
　　弊端：影响搜索引擎对其收录
　　采集对策：不知道能不能模拟网页来源。。。。目前我没有对应此方法的采集对策
　　建议：目前没有好的改良建议
评论：建议指望搜索引擎带流量的站长不要使用此方法。不过此方法防一般的采集程序，还是有点效果的。
　　从以上可以看出，目前常用的防采集方法，要么会对搜索引擎收录有较大影响，要么防采集效果不好，起不到防采集的效果。那么，还有没有一种有效防采集，而又不影响搜索引擎收录的方法呢?那就请继续往下看吧，精彩的地方马上呈献给大家。
　　下面就是我的防采集策略，防采集而又不防搜索引擎
　　从前面的我讲的采集原理大家可以看出，绝大多数采集程序都是靠分析规则来进行采集的，如分析分页文件名规则、分析页面代码规则。
　　一、分页文件名规则防采集对策
　　大部分采集器都是靠分析分页文件名规则，进行批量、多页采集的。如果别人找不出你的分页文件的文件名规则，那么别人就无法对你的网站进行批量多页采集。
　　实现方法：
　　我认为用MD5加密分页文件名是一个比较好的方法，说到这里，有人会说，你用MD5加密分页文件名，别人根据此规则也可以模拟你的加密规则得到你的分页文件名。
　　我要指出的是我们加密分页文件名时，不要只加密文件名变化的部分
　　如果I代表分页的页码，那么我们不要这样加密
　　page_name=Md5(I,16)&".htm"
　　最好给要加密的页码上再跟进一个或多个字符，如：page_name=Md5(I&"任意一个或几个字母",16)&".htm"
　　因为MD5是无法反解密的，别人看到的会页字母是MD5加密后的结果，所以加人也无法知道你在 I 后面跟进的字母是什么，除非他用暴力****MD5，不过不太现实。

上一页  [1] [2] [3] [4] 下一页