抓取异常的原因有哪些

一、网站异常

1、dns异常

　　当Baiduspider无法解析您网站的IP时，会出现DNS异常。可能是您的网站IP地址错误，或者域名服务商把Baiduspider封禁。请使用WHOIS或者host查询自己网站IP地址是否正确且可解析，如果不正确或无法解析，请与域名注册商联系，更新您的IP地址。

2、连接超时

　　抓取请求连接超时，可能原因服务器过载，网络不稳定

3、抓取超时

　　抓取请求连接建立后，下载页面速度过慢，导致超时，可能原因服务器过载，带宽不足

4、连接错误

　　无法连接或者连接建立后对方服务器拒绝

二、链接异常

1、访问被拒绝

　　爬虫发起抓取，httpcode返回码是403

2、找不到页面

　　爬虫发起抓取，httpcode返回码是404

3、服务器错误

　　爬虫发起抓取，httpcode返回码是5XX

4、其他错误

　　爬虫发起抓取，httpcode返回码是4XX，不包括403和404