在线时间:8:00-16:00
迪恩网络APP
随时随地掌握行业动态
扫描二维码
关注迪恩网络微信公众号
开源软件名称:JSpider开源软件地址:https://gitee.com/dongzhongzhidong/jspider开源软件介绍:JSpider 3.2 BETA
快速入门自定义爬取await import('https://cdn.jsdelivr.net/npm/js-spider/dist/JSpider.esm.min.js').then({JSpider}=>{ window.JSpider = JSpider;});// 导入插件,JSpider 还有很多功能插件const { Request, // 请求库 Download, // 下载库} = JSpider.plugins;let urls = ['https://.....']// 您的爬取路径数组const spider = new JSpider()spider.pipeline( Request(), Plugin((data) => { data return data; }), Download());spider.crawl(urls);spider.start();// 等待下载完成! !> 更多自定义代码教程 注意事项1. CORS 和 CSP (Content Security Policy) 协议导致您无法爬取到数据。CORS 和 CSP 是浏览器的安全策略,与 JSpider 无关,我推荐您遵守。很多网站使用了这两种协议来防止 Javascript 语言在浏览器中为所欲为,所以如果您使用的是 Chrome,可以在 Chrome 插件商店 中搜索 CORS 和 CSP,安装相应的插件即可解除这两个协议的报错。我无法保证这些插件的安全性,所以在此不推荐。 License自 3.2 版本之后的版本都设置为 Apache-2.0, 3.2 之前版本均为 MIT License Copyright © KonghaYao Apache-2.0 licensed |
请发表评论