最新消息:20190717 VPS服务器:Vultr新加坡,WordPress主题:大前端D8,统一介绍入口:关于

【已解决】PySpider中self.crawl访问百度网页挂掉无响应

pyspider crifan 90浏览 0评论
折腾:
【已解决】PySpider模拟请求小花生api接口出错:requests.exceptions.HTTPError HTTP 500 Internal Server Error
期间,用代码:
class Handler(BaseHandler):
    crawl_config = {
        'headers': {
            "Host": "www.xiaohuasheng.cn:83",
            "User-Agent": UserAgentNoxAndroid,
            "Content-Type": "application/json",

            "userId": UserId,
            # "userId": "1134723",
            "Authorization": Authorization,
            "timestamp": Timestamp,
            "signature": Signature,

            "cookie": "ASP.NET_SessionId=dxf3obxgn5t4w350xp3icgy0",
            # "Cookie2": "$Version=1",
            "Accept": "*/*",
            "Accept-Encoding": "gzip, deflate",
            "cache-control": "no-cache",

            "Connection": "keep-alive",
            # "content-length": "202",
        },
    }


    def on_start(self):
        # for debug
        self.crawl("http://www.baidu.com")
竟然死掉了:
难道是执行了js导致很慢?那多等等
好像也不对,去掉:
# "content-length": "202",
结果可以返回了。
【总结】
此处PySpider中,由于之前调试其他问题,给headers加上了
"content-length": "202"
导致后续用普通的:
self.crawl("http://www.baidu.com")
都无法正常返回,而挂掉,没有响应了。
解决办法:
去掉headers中的content-length即可。
不过又出现其他问题:
【已解决】PySpider中执行self.crawl出错:NotImplementedError self.__call__() not implemented

转载请注明:在路上 » 【已解决】PySpider中self.crawl访问百度网页挂掉无响应

发表我的评论
取消评论

表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
19 queries in 0.094 seconds, using 9.30MB memory