火车头采集网站经验，及如何防止被采集的技巧！

一、谈火车头采集器的由来

火车头：我们的这个采集器最早是从05年底开始有这个想法的，当时也是和大家一样，个人站长，添加管理维护网站很辛苦，一篇篇修改复制发布最开始也是 接触dede 然后发现他有个外部的c#采集器。不知道有多少人也记得，我的思路基本是从这个dedespider学来的，原来真的不懂什么，到后来学会php 和.net,所以只要大家有兴趣，技术上的问题都可以克服，讲到现在的采集，其实采集只能替代站长部分手工的操作。我们不建议大规模得制造垃圾站(全盘得 采集复制别人的站点)，所以我们现在的软件的功能越做越多，但新用户缺越来越不会用了。

搜外网：https://www.seowhy.com/course/182

我们现在有一批很忠实的会员，他们一直在靠采集器更新网站。迅速的采集然后百度搜录带来巨大的流量的时代已经不在，站长还是要关注内容，靠采集器采集 的数据一样要注意，前期只能做为一个数据填充，可以稍微大的。但时间长了，目标就要把垃圾数据也要变成精品，否则做不长久

二、关于采集网站的经验

火车头：我们现在在更新这个采集器，在数据采集方面也积累了一些经验，增加更多功能以适应新形式下的采集

1.别人经常采的网站不要去采

2.太容易采的网站不要去采

3.不要一次性采集太多，一定要注意后期处理(后面详续)

4.做好关键词，tag的采集分析

5.自己网站要有自己的定位，不采与自己网站无关的内容

6.采集也要有持续性，经常更新，自动采集功能我们也有，但还是建议大家人工也参与一些审核，或定时，乱序发布

后期处理，要想法子做到让搜索引擎那看不出来两片文章的相同，这里面应该有很多SEO高手，那我不献丑了。我说下我们现在实现的功能，大家可以把这些混用，达到改变内容伪原创：

1.给标题。内容分词

2.使用同义词近义词替换，排除敏感词，不同的标签之间数据融合，指如标题内容之间数据的相互替换

3.给文章加上摘要

4.为文章标题等生成拼音地址

5.采集一些其他编码的网站，我们可以做到简繁体转化，可以采集中文网站翻译成英文(虽然比较垃圾，但应该可以算是原创)

我们也发现，高难度采集的网站一般内容质量都非常好，采集其实有时也是一件很有乐趣的事情，需要你学习一些采集相关的知识。

三、关于防采集的方法

火车头：下面讲一些主要的防采集方法。可以说是攻防对战吧。打开一个网页实际就是一个Http请求浏览器。百度蜘蛛，小到我们的采集器使用的都是一个 原理，模拟http请求，所以我们同样能模拟出浏览器。百度蜘蛛出来所以绝对的防采集根本不存在，只是难度的高低。或者你认为搜索引擎的搜录也无所谓了。 你可以用一些非常强大的activex,flash,全图片文字的形式，这个我们无能为力。

普通的防采集方法有

1、来源判断

2、登录信息判断 Cookie

3、请求次数判断。如一段时间内请求多少，非常规操作则封IP

4、发送方式判断 POST GET 使用JS，Ajax等请求内容

举例：

1.2不用说了，论坛，下载站等。。

3、一些大网站，需要配置服务器，单纯靠脚本判断资源消耗比较大

4、如一些招聘站，asp.net的分页，Web2.0站的ajax请求内容

当然我们后面还发现一些杀手锏，今天第一次在这里给大家公布出来~~ 有优质内容需要防采集的朋友可以考虑试下

1、网页默认deflate压缩输出(gzip容易一点，容易解压) 我们普通的浏览器和baidu支持识别gzip,deflate输出内容

2、网页内容不定时 � 内容自动截断，这两点基本可以防主大部分主流软件采集及web采集程序了~

主要想要表达的一点，大家在做站时一定要注意技术的提高，比如我们里面有后期外部php及.net接口处理采集数据。或者干脆你自己做一个发布时 的接口程序自己入库。我们伪原创做得再好，一样有非常多的会员使用，那样又不原创了，采集一样需要技术，只有你通过采集器获得了没有多少人有的数据，你才 是唯一了。

发布时间：2019-11-05

推荐阅读：

1. 正确了解SEO，不被传说的高大上SEO技术误导
2. 百度小程序有哪些入口，通过哪些方式进入百度小程序？
3. 帝国cms的安全防护措施的设置方法，让你网站更更安全。
4. 提升关键词排名，链接瞄文本顺序猜想
5. SEO书籍:《增长密码:大型网站百万流量运营之道》-胡勇