Crawlab - 基于Celery的分布式爬虫管理平台

admin 2023年5月30日12:02:57评论16 views字数 663阅读2分12秒阅读模式

####################
免责声明:工具本身并无好坏,希望大家以遵守《网络安全法》相关法律为前提来使用该工具,支持研究学习,切勿用于非法犯罪活动,对于恶意使用该工具造成的损失,和本人及开发者无关。
####################

Crawlab介绍

Crawlab是一款基于Celery的爬虫分布式爬虫管理平台,支持多种编程语言以及多种爬虫框架

Crawlab - 基于Celery的分布式爬虫管理平台

Crawlab的架构跟Celery非常相似,但是加入了包括前端、爬虫、Flower在内的额外模块,以支持爬虫管理的功能。

Crawlab - 基于Celery的分布式爬虫管理平台

Crawlab安装

# 安装后台类库pip install -r requirements.txt
# 安装前台类库cd frontendnpm install

更改配置文件config.py,配置API和数据库连接。

# 运行服务python manage.py serve

https://github.com/tikazyq/crawlab

侵权请私聊公众号删文

 热文推荐  


欢迎关注LemonSec
觉得不错点个“赞”、“在看“

原文始发于微信公众号(LemonSec):Crawlab – 基于Celery的分布式爬虫管理平台

特别标注: 本站(CN-SEC.COM)所有文章仅供技术研究,若将其信息做其他用途,由用户承担全部法律及连带责任,本站不承担任何法律及连带责任,请遵守中华人民共和国安全法.
  • 我的微信
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2023年5月30日12:02:57
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                  Crawlab - 基于Celery的分布式爬虫管理平台 https://cn-sec.com/archives/1772653.html

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: