当前位置:首页 > 开发 > 互联网 > 正文

Scrapy抓取网页时出现CRC check failed 0x471e6e9a != 0x7c07b839L的错误

发表于: 2012-06-19   作者:酷的飞上天空   来源:转载   浏览:
摘要: Scrapy版本0.14.4 出现问题现象: ERROR: Error downloading <GET http://xxxxx  CRC check failed   解决方法   1.设置网络请求时的header中的属性'Accept-Encoding': '*;q=0'   明确表示不支持任何形式的压缩格式,避免程序的解压

Scrapy版本0.14.4

出现问题现象:

ERROR: Error downloading <GET http://xxxxx  CRC check failed

 

解决方法

 

1.设置网络请求时的header中的属性'Accept-Encoding': '*;q=0'

 

明确表示不支持任何形式的压缩格式,避免程序的解压缩操作

这个方法不一定有效,具体根据服务器的返回情况。如果服务器忽略此属性则此方法无效。

 

 

2.重新安装scrpay,下载当前版本的一个分支。

 

参考https://github.com/scrapy/scrapy/pull/109

分支地址:https://github.com/redapple/scrapy/tree/http11/scrapy

其实就是扩展了http1.1的DOWNLOAD_HANDLERS

 

注:此扩展需要Twisted-12.1.0的版本 Twisted-12.0.0的版本会提示找不到HTTPConnectionPool

Scrapy抓取网页时出现CRC check failed 0x471e6e9a != 0x7c07b839L的错误

  • 0

    开心

    开心

  • 0

    板砖

    板砖

  • 0

    感动

    感动

  • 0

    有用

    有用

  • 0

    疑问

    疑问

  • 0

    难过

    难过

  • 0

    无聊

    无聊

  • 0

    震惊

    震惊

编辑推荐
Scrapy是Python开发的一个快速,高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构
我们使用dmoz.org这个网站来作为小抓抓一展身手的对象。 新建项目 (Project):新建一个新的爬虫项目
Python抓取框架:Scrapy的架构 Written by 标点符 on 2011年07月3日 in 程序设计 最近在学Python,
Python抓取框架:Scrapy的架构 最近在学Python,同时也在学如何使用python抓取数据,于是就被我发现
在ubuntu环境下,使用scrapy定时执行抓取任务,由于scrapy本身没有提供定时执行的功能,所以采用了c
最近在学Python,同时也在学如何使用python抓取数据,于是就被我发现了这个非常受欢迎的Python抓取
在BlackBerry PlayBook NDK 2.0环境安装好后,因为环境变量设置的原因,有时NDK 2.0启动时会出现“L
解决方法1:装了迅雷7后地址栏后面有个迅雷的标志,点一下关闭即可! 解决方法2:打开迅雷设置,取
最近在学Python,同时也在学如何使用python抓取数据,于是就被我发现了这个非常受欢迎的Python抓取
这种问题,通常出现在添加第三方库文件或者多人开发时。 这种问题一般是找不到文件而导致的链接错误
版权所有 IT知识库 CopyRight © 2009-2015 IT知识库 IT610.com , All Rights Reserved. 京ICP备09083238号