python爬虫中meta参数的使用

python爬虫中meta参数的使用

说明

1、meta可以在不同的解析函数中传输数据,meta参数对应的值必须是字典。

2、meta通过Request产生时传进去,通过Response对象中取出来。

3、meta字典中有一个固定的键proxy,表示代理ip。

实例

def parse(self, response):
    ...
    yield scrapy.Request(detail_url, callback=self.parse_detail, meta={'item': item})
    ...
 
 
def parse_detail(self,response):
    # 获取之前传入的item
    item = response.meta['item']


微信扫描下方的二维码阅读更多精彩内容

python爬虫中meta参数的使用


感谢对大飞哥的支持

相关新闻