Scrapy工作流

[scrapy] 2024-04-27 圈点370

摘要:Scrapy工作流简单介绍:一般情况下,只要parse和pipeline,其他的scrapy都帮我们搞定了,只要专注于解析数据、生成新请求和存储。

Scrapy工作流介绍:


发起请求->下载中间件处理请求->下载数据得到response->中间件对response做处理->parse函数解析response,提取你要的信息->生成item(或request)->pipeline处理item


一般情况下,只要parse和pipeline,其他的scrapy都帮我们搞定了,只要专注于解析数据、生成新请求和存储。

Scrapy  

感谢反馈,已提交成功,审核后即会显示