scrapy利用自带的retry设置重试次数

[scrapy] 2024-04-29 圈点438

摘要:scrapy自带scrapy.downloadermiddlewares.retry.RetryMiddleware中间件,如果想通过重试次数,可以进行如下操作:

scrapy自带scrapy.downloadermiddlewares.retry.RetryMiddleware中间件,如果想通过重试次数,可以进行如下操作:


参数配置:

RETRY_ENABLED: 是否开启retry

RETRY_TIMES: 重试次数

RETRY_HTTP_CODECS: 遇到什么http code时需要重试,默认是500,502,503,504,408,其他的,网络连接超时等问题也会自动retry的


在配置文件中启用即可。

scrapy  

感谢反馈,已提交成功,审核后即会显示