Crawlab 是基于 Celery 的分布式爬虫管理平台,可以集成任何语言和任何框架。自今年三月份上线以来受到爬虫爱好者们和开发者们的好评,不少使用者还表示会用 Crawlab 搭建公司的爬虫平台。经过近 3 个月的迭代,我们陆续上线了定时任务、数据分析、网站信息、可配置爬虫、自动提取字段、下载结果、上传爬虫等功能,将 Crawlab 打造得更加实用,更加全面,能够真正帮助用户解决爬虫管理困难的问题。
但是,不断有朋友提出来 Crawlab 存在部署复杂的问题。从安装 Crawlab 到最终打开界面需要大概 10-20 分钟的时间,而这还不包括数据库的安装和环境的配置。如果要将 Crawlab 部署在生产环境,或者用作分布式管理的话,部署将更加困难。因此,本篇文章将详细介绍 Crawlab 的部署,帮助开发者们更加方便地部署爬虫管理平台。