安装好了 Scrapyd 之后,我们可以直接请求它提供的 API 即可获取当前主机的 Scrapy 任务运行状况。
如某台主机的 IP 为 192.168.1.1,则可以直接运行如下命令获取当前主机的所有 Scrapy 项目:
1 |
curl http://localhost:6800/listprojects.json |
运行结果:
1 |
{"status": "ok", "projects": ["myproject", "otherproject"]} |
返回结果是 JSON 字符串,通过解析这个字符串我们便可以得到当前主机所有项目。
但是用这种方式来获取任务状态还是有点繁琐,所以 ScrapydAPI 就为它做了一层封装,下面我们来看下它的安装方式。
相关链接
- GitHub:https://pypi.python.org/pypi/python-scrapyd-api/
- PyPi:https://pypi.python.org/pypi/python-scrapyd-api
- 官方文档:http://python-scrapyd-api.readthedocs.io/en/latest/usage.html
pip 安装
推荐使用 Pip 安装,命令如下:
1 |
pip install python-scrapyd-api |
验证安装
安装完成之后便可以使用 Python 来获取主机状态了,所以如上的操作便可以用 Python 代码实现:
1 |
from scrapyd_api import ScrapydAPI |
运行结果:
1 |
["myproject", "otherproject"] |
这样我们便可以用 Python 直接来获取各个主机上 Scrapy 任务的运行状态了。