通过scrapy框架,爬虫获取某图片站点美女(仅供交流学习使用,请勿非法获取使用其它站点数据)
请先部署mysql、redis、proxy_pool服务,推荐以docker方式部署
1)mysql、redis部署,参考官方文档;
2)proxy_pool部署,参考链接: https://github.com/jhao104/proxy_pool?tab=readme-ov-file#docker-image
git clone https://github.com/sunnywalden/scrapy_beauty.git
pip install -r requirements.txt
scrapy crawl siwa
代理使用了jhao104的proxy_pool项目,在此感谢!