这张图很形象的说明了搜索引擎的Spider在抓取网页时

这张图很形象的说明了搜索引擎的Spider在抓取网页时

一些不友好的元素会对其形成较坏的影响

Orphan Pages；Spider是根据链接抓取网页，没有链接的网页，自然使spider抓取困难。

Unfriendly SEO-CMS System；CMS对SEO不友好的话，会对spider形成一定的干扰，比如js、ajax、链接分布、frame结构等等。

Cloaking；比如隐藏文字、没有任何内外链的网页，都会使spider出现问题。

Session Based Coding；URL根据访问者的cookie随机变换、html代码中大量的字符，这些session闯下的祸，对于一个不依赖SEO的网站来说可能没什么，但是对于一个基于SEO的网页来说可是致命的。

没有处理错误页面；如404跳转等