Scrapy-Redis是Scrapy的分布式扩展模块,有了它,我们就可以方便地实现Scrapy分布式爬虫的搭建。本节中,我们将介绍Scrapy-Redis的安装方式。
相关链接
- GitHub:https://github.com/rmax/scrapy-redis
- PyPI:https://pypi.python.org/pypi/scrapy-redis
- 官方文档:http://scrapy-redis.readthedocs.io
pip安装
这里推荐使用pip安装,命令如下:
1 |
pip3 install scrapy-redis |
wheel安装
此外,也可以到PyPI下载wheel文件安装(详见https://pypi.python.org/pypi/scrapy-redis#downloads),如当前的最新版本为0.6.8,则可以下载scrapy_redis-0.6.8-py2.py3-none-any.whl,然后通过pip安装即可:
1 |
pip3 install scrapy_redis-0.6.8-py2.py3-none-any.whl |
测试安装
安装完成之后,可以在Python命令行下测试:
1 |
$ python3 |
如果没有错误报出,则证明库已经安装好了。