本文目录一览：
- 1、SEO里的蜘蛛是什么意思？
- 2、网站SEO：提高搜索引擎蜘蛛爬取的技巧有哪些
- 3、SEO优化中的蜘蛛陷阱怎样去避免
- 4、SEO网站优化搜索引擎蜘蛛抓取预处理过程？
- 5、seo网站优化中怎样增加百度蜘蛛抓取
SEO里的蜘蛛是什么意思？
搜索引擎蜘蛛，是搜索引擎自己研发的一个搜索引擎抓取程序。它主要抓取互联网上的上的网页、图片、视频等内容，方便搜索引擎对这些内容进行索引， 然后用户就可以在搜索引擎里搜索他们想要的内容，出现他们需要的结果。由于抓取程序的在互联网上不停地爬，就好比蜘蛛在他的网上爬取一样，所以大家给“搜索引擎抓取程序”取名叫蜘蛛。
网站SEO：提高搜索引擎蜘蛛爬取的技巧有哪些
SEO是一套系统工程，是从网站建设之初就的开始的，贯穿从建站到运营的方方面面。不管是个人网站，还是门户，搜索引擎都是一个很重要的流量来源，SEO显得尤为重要。
搜索引擎优化，即SEO(Search Engine Optimization)，是为了提升网站在搜索引擎搜索结果中的收录数量和排序位置，为了从搜索引擎中获取更多免费流量、高质量用户，针对搜索引擎的检索特点、排序规律，合理调整优化网站设计和建设方法，使其符合搜索引擎的检索规则的网站建设、网站运营行为。除此之外，SEO工作还有利于搜索引擎快速收录新页面，提高收录覆盖率的效果。
SEO是一套系统工程，是从网站建设之初就的开始的，贯穿从建站到运营的方方面面。不管是个人网站，还是门户，搜索引擎都是一个很重要的流量来源，SEO显得尤为重要。
个人网站大多网站结构简单，应对调整反应速度快，更容易符合SEO的规范。从这个角度讲，个人站长大可不必羡慕大型网站有资金有技术，各有各的优势。本文主要从以下方面分享个人网站在建站运营中的seo技巧。
域名空间
在技术控前面的文章中分享过，建站的必要条件——域名和空间。首先说域名，除了简单易纪，使用常用后缀外，域名要选择和网站主题相关。如网站是科技主题，在域名中可以包含“tech”。这样就会提高网站的辨识度。如果网站内容与域名相符，会在搜索引擎的排名中有好的表现。如果有多个域名，要选用一个主域名，其他域名301重定向到主域名。空间一定要稳定，速度越快，单位时间内蜘蛛爬的越多，越有利于排名。如果您的网站经常打不开，影响用户的体验，也会影响Spider抓取你的网站，如果经常发生，不但网友不会来了，Spider也不会来了。会影响您网站的收录，更不用说排名。
树型扁平结构
层级分明的树状扁平结构是较理想的网站部署结构，每个页面与其父子页面有链接关联，可以帮助用户快速定位到感兴趣的频道、正文，也有利于搜索引擎理解网站结构层次和更好的爬取内容。在url设置上, 目录层级不要太深，尽量在4层以内，目录名称要有意义，如：“ /123456.html”。网站url中尽量不包含中文字符，由于编码问题会影响网页的收录。搜索引擎推荐使用面包屑导航，如 牛思新闻网中国新闻北京新闻新闻标题” 间隔符用大于号“”。 在的写法中要倒过来，新闻标题_北京新闻_中国新闻_牛思新闻网，间隔符用下横杠“_”。
文章标题
文章标题中要准确包含文章概要，并且包含文章的主关键词。这个主关键词就是你希望在搜索引擎中排名的关键词。以”笔记本”为例。在百度中搜索“笔记本”，在搜索结果中，几乎每页的标题都含有“笔记本”。如果您发了一篇关于笔记本的文章，写的内容很好，可是标题中没有提到“笔记本”这3个字，那么，客户就很难在搜“笔记本”这个关键词的结果中找到您的文章。另外标题是极重要的内容。大幅修改，可能会带来大幅波动。所以请慎重对待网页标题。如无必要，尽量不做大幅修改。
文章内容
文章内容要丰富,最好是原创内容。另外搜索引擎不能识别flash、frame、ajax，所以文章内容要中，要尽量少使用。如果一定要使用，可以建立文字版的索引页。文章正文标题要使用标签，文章配图要加alt标签。
关键词
关键词要围绕网站主题来选，个人网站关键词一般都比较集中，要选择百度指数相对高，竞争相对低的。首先从百度指数，百度相关搜索量等等进行综合的数据分析，然后选择适合网站目标关键词，也可以从竞争网站那里查找。分析每个关键词，百度下这个关键词，然后查看排在百度首页网站的类型，如果第一页都是网站首页来做关键词优化的话，那么就说明这个关键词的竞争性比较强。如果这个关键词的竞价排名有好几个位置，那么我们就可以知道这个关键词的竞争性就比较强。还需要参考网站的年代、网站的规模、外链数量、PR 值、seo操作手段是否成熟。
我们选好了关键词，要围绕关键词来组织内容。关键词要在文章页面有所体现。主要出现在title 标签中，Meta 标签中，网页正文标题中，文章主体内容中，图片alt 标签中，文字链接中。要阅读体验好就可以，不能生硬的套用。
链接
有人认为外链很重要，用各种途径发展外链，其实内链也同等重要。
上面说的几点都是 seo 基础的知识，但是完全运用好也不是容易的事，需要站长的执行力。搜索引擎的实质就是为了用户快速准确的查找出用户想要的信息，而网站就是帮助搜索引擎为用户提供他想要的信息。你提供的内容优质，符合搜索规范，搜索引擎自然会给你的网站好的排名。
SEO优化中的蜘蛛陷阱怎样去避免
1、 登录要求
有些企业站和个人站设置一定要用户注册登录后，才能看到相关的文章内容，这种对蜘蛛不是很友好，因为蜘蛛无法提交注册，更无法输入用户名和密码登录查看内容。对于蜘蛛来说，用户直接点击查看到的内容也是蜘蛛所能看到的内容。如果你的网站有这种情况，请取消这一功能，但网站如果有VIP用户或部分资源，是可以这样设置的。
2、动态URL
动态URL可以简单理解为在URL中加入过多的符号或者网址参数，虽然随着搜索引擎的技术发展，动态URL对于蜘蛛的抓取已经越来越不是问题了，但是从搜索引擎友好度上讲，静态哪陷是伪静态相对来说都比动态URL要好。URL优化将在本章第6节中讨论。 ／
3、强制用Cookies
强制用Cookies对于搜索引擎来说相当于直接禁用了Cookies，而有些网站为了实现某些功能。会采取强制Cookies，例如跟踪用户访问路径，记住用户信息，甚至是盗取用户隐私等，如果用户访问这类站点时没有启用Cookies，所显示的页面就会不正常。所以，对于蜘蛛来讲，同样的网页无法正常访问。
4、 框架结构
早期框架网页到处被泛滥使用，而现在很多网站已经很少使用了，一是因为现在随着各大CMS系统的开发问世，网站维护相对越来越简单了，早期网站使用框架是因为对网站页面的维护有一定的便利性，现在已经大可不必了，而且不利于搜索引擎收录也是框架越来越少被使用的原因之一。
5、各种跳转
对搜索引擎来说，只对301跳转相对来说比较友好，对其他形式的跳转都比较敏感。如JavaScritp跳转、MetaRefresh跳转、Flash跳转、302跳转。
有些网站的做法很让人无奈，当打开网页后，会自动转向其他页面，如果打开的页面和你要找的页面丰体相关．+扫．笪讨很去，佃是很大部分的网站转向让你无任何理由和目的，这种转向不推荐大家使用，如果非要做转向，只推荐用301永久跳转，可以将权重进行传递，除此转向其他都不推荐，因为很多其他转向欺骗用户和搜索引擎，也是黑帽的一种手段，建议大家不要使用。
6、Flash
有的网站页面使用Flash视觉效果是很正常的，例如用Flash做的Logo、广告、图表等，这些对搜索引擎抓取和收录是没有问题的，但很多网站的首页是一个大的Flash文件，这种就叫蜘蛛陷阱。在蜘蛛抓取时，HTML代码中只是一个链接，并没有文字，虽然大的Flash效果看上去很好，外观看着也很漂亮，但可惜搜素引擎看不到，无法读取任何内容，所以，为了能体现网站优化的最好效果，不提倡这种Flash作为首页图片。
7、采用session id的页面
有的销售类站点为了分析用户的某些信息，会采用会话ID来跟踪用户。访问站点时，每个用户访问都会增加一次：?ssion id而加人到URL中。同样，蜘蛛的每一次访问也会被当作一个新用户。每次蜘蛛访问的URL中都会加入一个。Ession id，产生同一个页面但URL不同的情况，这种情况会产生复制内容页面，造成高度重复的内容页，同时也是最常见的蜘蛛陷阱之一。
8、JavaScript跳转
虽然现在搜索引擎对于JavaScript里的链接可以跟踪，甚至尝试拆解分析，但是我们最好不要寄望于搜索引擎自己克服困难。虽然通过JavaScript可以做一些效果不错的导航，但是CSS同样也可以做到。为了提高网站对搜索引擎的友好度，使网页能够更好地蜘蛛爬行，尽量不要采用JavaScript当然，在SEO中，JavaScript有一个好处就是站长不希望被收录的页面或者友情链接可以采用JavaSc:npt。当然，有一种方法可以消除JavaScript蜘蛛程序陷阱，即使用noscript标签。noscript标签是为不支持JavaScript的浏览器提供备选的代码。蜘蛛程序不会执行JavaScript，因此，它们通过处理noscript代码来代替。在SEO中，JavaScript也有一个好处就是站长不希望被收录的页面或者友情链接可以采用JavaScript。
SEO网站优化搜索引擎蜘蛛抓取预处理过程？
1、提取文字 现在的搜索引擎还是以文字内容为基础，蜘蛛抓取到的页面中的HTML代码，除了用户在浏览器上可以看到的可见文字处，还包含了大量的HTML格式标签，JavaScript 程序等无法用于排名的内容，搜索引擎预处理首先要做的就是从HTML文件中去除标签、程序，提取出可以用于排名处理的网页面文字内容。2、中文处理分词是中文搜索引擎特有的步骤。搜索引擎存储和处理页面及用户搜索都是以词为基础的。英文等语言单词与单词之间有空格分隔，搜索引擎索引程序可以直接把句子划分为单词的集合。而中文词与词之间没有任何分隔符，一个句子中所有字和词都是连在一起的。搜索引擎必须首先分辨哪几个词组成一个词，哪些字本身就是一个词。比如“公务员考试”将被分词为“公务员”和“考试”两个词。3、去停止词无论是英文还是中文，页面内容中都会有一些出现频率很高，却对内容没有任何影响的词，如“的”、“地”、“得”之类的助词，“阿”、“哈”、“呀”之类的感叹词，“从而”、“以”、“却”之类的副词或介词。这些词被称为停止词，因为它们对页面的主要意思没什么影响。英文中的常见停止词有the ,a ,an ,to ,of 等。4、去除噪音 绝大部分页面上还有一部分内容对页面主题也没有什么贡献，比如版权声明文字，导航条、广告等。以常见的博客导航为例，几乎每个博客页面上都会出现文章分类、历史存档等导航内容，这些页面本身与“分类”、“历史”这些词都没有任何关系。用户搜索“历史”、“分类“ 这些关键词时仅仅因为页面上有这些词出现而返回博客贴子是毫无意义的，完全不相关。所以这些区城都司于噪声，对页面主题只能起到分散作用。5、去重 去重的基本方法是对页面特征关系 词计算指指纹，也就是说从页面主体内容中选取最有的一部分关键词（经常是出现频率最高的关系词），然后计算这些关键词的数字指纹。这些关键词选取是在分词、去停止词、消噪之后。通常选取10个特征关键词就可以达到比较高的计算准备性，再选取更多词对去重准确性提高的贡献也就不大了。6、正向索引7、倒序索引8、链接关系计算页面上有哪些链接指向哪些其他页面，每个页面有哪些导入链接，链接使用了什么锚文字，这些复杂的链接指向关系形成了网站和页面的链接权重9、特殊文件处理 除了HTML文件外，搜索引擎通常还能抓取和索引以文字为基础的多种文件类型，如PDF、Word、WPS、XLS、PPT、TXT文件等。我们在搜索结果中也经常会看到这些文件类型。但目前的搜索引擎还不能处理图片、视频、Flash这类非文字内容，也不能执行脚本和程序
seo网站优化中怎样增加百度蜘蛛抓取
网站排名好不好，流量多不多，其中一个关键的因素就是网站收录如何，尽管收录不能直接决定网站排名，但是网站的基础就是内容，没有内容想做好排名难上加难，好的内容能得到用户和搜索引擎的满意，可以让网站加分，从而促进排名，扩大网站的曝光页面。
具体参看一下几点：
1.网站及页面权重。
权重高、资格老、有权威的网站蜘蛛是肯定特殊对待的，这样的网站抓取的频率非常高，搜索引擎蜘蛛为了保证高效，对于网站不是所有页面都会抓取的，而网站权重越高被爬行的深度也会比较高，相应能被抓取的页面也会变多，这样能被收录的页面也会变多。
2.网站服务器。
网站服务器是网站的基石，网站服务器如果长时间打不开，那么这相当与闭门谢客，蜘蛛想来也来不了。百度蜘蛛也是网站的一个访客，如果服务器不稳定或是比较卡，蜘蛛每次来抓取都比较艰难，并且有的时候一个页面只能抓取到一部分，这样久而久之，百度蜘蛛的体验越来越差，自然会影响对网站的抓取
3.网站的更新频率。
蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取了。页面内容经常更新，蜘蛛就会更加频繁的访问页面，但是蜘蛛不是你一个人的，不可能就在这蹲着等你更新，所以我们要主动向蜘蛛示好，有规律的进行文章更新，这样蜘蛛就会根据你的规律有效的过来抓取，不仅让你的更新文章能更快的抓取到，而且也不会造成蜘蛛经常性的白跑一趟。
4.文章的原创性。
优质的原创内容对于百度蜘蛛的诱惑力是非常巨大的，蜘蛛存在的目的就是寻找新东西，所以网站更新的文章不要采集、也不要每天都是转载，我们需要给蜘蛛真正有价值的原创内容，蜘蛛能得到喜欢的，自然会对你的网站产生好感，经常性的过来觅食。
5.扁平化网站结构。
蜘蛛抓取也是有自己的线路的，在之前你就给他铺好路，网站结构不要过于复杂，链接层次不要太深，如果链接层次太深，后面的页面很难被蜘蛛抓取到。
6.网站程序。
在网站程序之中，有很多程序可以制造出大量的重复页面，这个页面一般都是通过参数来实现的，当一个页面对应了很多URL的时候，就会造成网站内容重复，可能造成网站被降权，这样就会严重影响到蜘蛛的抓取，所以程序上一定要保证一个页面只有一个URL，如果已经产生，尽量通过301重定向、Canonical标签或者robots进行处理，保证只有一个标准URL被蜘蛛抓取。
7.外链建设。
大家都知道，外链可以为网站引来蜘蛛，特别是在新站的时候，网站不是很成熟，蜘蛛来访较少，外链可以增加网站页面在蜘蛛面前的曝光度，防止蜘蛛找不到页面。在外链建设过程中需要注意外链的质量，别为了省事做一些没用的东西，百度现在对于外链的管理相信大家都知道，我就不多说了，不要好心办坏事了。
8.内链建设。
蜘蛛的爬行是跟着链接走的，所以内链的合理优化可以要蜘蛛抓取到更多的页面，促进网站的收录。内链建设过程中要给用户合理推荐，除了在文章中增加锚文本之外，可以设置相关推荐，热门文章，更多喜欢之类的栏目，这是很多网站都在利用的，可以让蜘蛛抓取更大范围的页面。
9.首页推荐。
首页是蜘蛛来访次数最多的页面，也是网站权重最高的页面，可以在首页设置更新版块，这样不仅能让首页更新起来，促进蜘蛛的来访频率，而且可以促进更新页的抓取收录。同理在栏目页也可以进行此操作。
10.检查死链，设置404页面
搜索引擎蜘蛛是通过链接来爬行搜索，如果太多链接无法到达，不但收录页面数量会减少，而且你的网站在搜索引擎中的权重会大大降低。蜘蛛在遇见死链就像进了死胡同，又得折返重新来过，大大降低蜘蛛在网站的抓取效率，所以一定要定期排查网站的死链，向搜索引擎提交，同时要做好网站的404页面，告诉搜索引擎错误页面。
11.检查robots文件
很多网站有意无意的直接在robots文件屏蔽了百度或网站部分页面，却整天在找原因为什么蜘蛛不来抓取页面，百度是怎么收录你的网页?所以有必要时常去检查一下网站robots文件是否正常。
12.建设网站地图。
搜索引擎蜘蛛非常喜欢网站地图，网站地图是一个网站所有链接的容器。很多网站的链接层次比较深，蜘蛛很难抓取到，网站地图可以方便搜索引擎蜘蛛抓取网站页面，通过抓取网站页面，清晰了解网站的架构，所以建设一个网站地图不仅提高抓取率还能获得蜘蛛好感。
13.主动提交
每次更新完页面，主动把内容向搜索引擎提交一下也是一个不错的办法，只不过不要没收录就一直去提交，提交一次就够了，收不收录是搜索引擎的事，提交不代表就要收录。
14.监测蜘蛛的爬行。
利用网站日志监测蜘蛛正在抓取哪些页面、抓取过哪些页面，还可以利用站长工具对蜘蛛的爬行速度进行查看，合理分配资源，以达到更高的抓取速度和勾引更多的蜘蛛。
总结：网站要获得更多的收录就需要做好搜索引擎蜘蛛的抓取优化工作，只有提高了网站整体的抓取率，才能提高相应的收录率，这样网站的内容才能获得更多展示和推荐，网站排名才能得到提高。底子打好才能往上爬，基础建设始终是网站优化的根本。