大数据时代下,大数据是基础,只有有了行业客户大数据才谈得上筛选行业精准优质客户,才可能促成交易,提高销量和效益。
大数据采集推动着数据分析,数据分析推动发展。企业在采集数据的同时,还要防止自己的数据被采集。目前防采集的方法有很多种,介绍一下常见防采集策略方法和它的弊端及采集对策:
一、判断一个IP在一定时间内对本站页面的访问次数,如果明显超过了正常人浏览速度,就拒绝此IP访问
弊端: 1、此方法只适用于动态页面,如:asp\jsp\php…静态页面无法判断某个IP一定时间访问本站页面的次数; 2、此方法会严重影响搜索引擎蜘蛛对其收录,因为搜索引擎蜘蛛收录时,浏览速度都会比较快而且是多线程。此方法也会拒绝搜索引擎蜘蛛收录站内文件;
采集对策:只能放慢采集速度,或者不采;
建议:做个搜索引擎蜘蛛的IP库,只允许搜索引擎蜘蛛快速浏览站内内容。搜索引擎蜘蛛的IP库的收集,也不太容易,一个搜索引擎蜘蛛,也不一定只有一个固定的IP地址;
评论:此方法对防采集比较有效,但却会影响搜索引擎对其收录。
二、用javascript加密内容页面
弊端:此方法适用于静态页面,但会严重影响搜索引擎对其收录情况,搜索引擎收到到的内容,也都是加密后的内容;
采集对策:建议不采,如非要采,就把解密码的JS脚本也采下来;
建议:目前没有好的改良建议;
评论:建议指望搜索引擎带流量的站长不要使用此方法。
三、把内容页面里的特定标记替换为“特定标记+隐藏版权文字”
弊端:此方法弊端不大,仅仅会增加一点点的页面文件大小,但容易反采集;
采集对策:把采集来的含有隐藏版权文字内容的版权文字替掉,或替换成自己的版权;
建议:目前没有好的改良建议;
评论:自己感觉实用价值不大,就算是加上随机的隐藏文字,也等于画蛇添足。
四、只允许用户登陆后才可以浏览
弊端:此方法会严重影响搜索引擎蜘蛛对其收录;
采集对策:目前落伍;
建议:目前没有好的改良建议;
评论:建议指望搜索引擎带流量的站长不要使用此方法。不过此方法防一般的采集程序,还是有点效果的。
五、用javascript、vbscript脚本做分页
弊端:影响搜索引擎对其收录;
采集对策:分析javascript、vbscript脚本,找出其分页规则,自己做个对应此站的分页集合页即可;
建议:目前没有好的改良建议;
评论:感觉懂点脚本语言的人都能找出其分页规则。
六、只允许通过本站页面连接查看,如:Request.ServerVariables("HTTP_REFERER")
弊端:影响搜索引擎对其收录
采集对策:不知道能不能模拟网页来源。目前没有对应此方法的采集对策;
建议:目前没有好的改良建议;
评论:建议指望搜索引擎带流量的站长不要使用此方法。不过此方法防一般的采集程序,还是有点效果的。
以上就是目前常用的防采集方法,随着网络技术的不断发展,更多的爬虫技术和防范技术也不断在更新,除了自身学习跟随步伐,也可以找专业的公司团队来处理。
声明
一、本站原创内容,其版权属于本网站所有。其他媒体、网站或个人转载使用时不得进行商业性的原版原式的转载,也不得歪曲和篡改本网站所发布的内容。如转载须注明文章来源。
二、本网站转载其它媒体作品的目的在于传递更多信息,并不代表本网站赞同其观点和对其真实性负责;如侵犯你的权益请告诉我们立即删除;其他媒体、网站或个人转载使用自负法律责任。
本文标签:采集
已有1位网友发表了看法:
不离不弃 评论于 [2022-12-17 05:50:24] 回复ta
速上=你好,您的软件我用的都很舒服,符合我的用户习惯,特此感谢!