• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    公众号

jvppeteer: Java Headless 浏览器 抓取页面

原作者: [db:作者] 来自: 网络 收藏 邀请

开源软件名称:

jvppeteer

开源软件地址:

https://gitee.com/fanyong920/jvppeteer

开源软件介绍:

Jvppeteer

下载最新版本的chromuim Maven Central Issue resolution status Quality Gate Status

本库的灵感来自 Puppeteer(Node.js), API 也与其基本上保持一致,做这个库是为了方便使用 Java 操控 Chrome 或 Chromium

Jvppeteer 通过 DevTools 控制 Chromium 或 Chrome。默认情况下,以 headless 模式运行,也可以通过配置运行'有头'模式。

你可以在浏览器中手动执行的绝大多数操作都可以使用 Jvppeteer 来完成! 下面是一些示例:

  • 生成页面 PDF。
  • 抓取 SPA(单页应用)并生成预渲染内容(即“SSR”(服务器端渲染))。
  • 自动提交表单,进行 UI 测试,键盘输入等。
  • 创建一个时时更新的自动化测试环境。 使用最新的 JavaScript 和浏览器功能直接在最新版本的 Chrome 中执行测试。
  • 捕获网站的 timeline trace,用来帮助分析性能问题。
  • 测试浏览器扩展。

开始使用

以下是使用依赖管理工具(如 maven 或 gradle)的简要指南。

Maven

要使用 maven,请将此依赖添加到pom.xml文件中:

<dependency>  <groupId>io.github.fanyong920</groupId>  <artifactId>jvppeteer</artifactId>  <version>1.1.3</version></dependency>

Gradle

要使用 Gradle,请将 Maven 中央存储库添加到您的存储库列表中:

mavenCentral()

然后,您可以将最新版本添加到您的构建中。

compile "io.github.fanyong920:jvppeteer:1.1.3"

Logging

该库使用 SLF4J 进行日志记录,并且不附带任何默认日志记录实现。

调试程序将日志级别设置为 TRACE。

独立 jar

如果您不使用任何依赖项管理工具,则可以在此处找到最新的独立 jar 。

快速开始

1、启动浏览器

	//设置基本的启动配置,这里选择了‘有头’模式启动	ArrayList<String> argList = new ArrayList<>();    //自动下载,第一次下载后不会再下载    BrowserFetcher.downloadIfNotExist(null);    LaunchOptions options = new LaunchOptionsBuilder().withArgs(argList).withHeadless(false).build();    argList.add("--no-sandbox");    argList.add("--disable-setuid-sandbox");    Puppeteer.launch(options);

在这个例子中,我们明确指明了启动路径,程序就会根据指明的路径启动对应的浏览器,如果没有明确指明路径,那么程序会尝试启动默认安装路径下的 Chrome 浏览器

2、导航至某个页面

	//自动下载,第一次下载后不会再下载    BrowserFetcher.downloadIfNotExist(null);    ArrayList<String> argList = new ArrayList<>();    LaunchOptions options = new LaunchOptionsBuilder().withArgs(argList).withHeadless(false).build();    argList.add("--no-sandbox");    argList.add("--disable-setuid-sandbox");    Browser browser = Puppeteer.launch(options);    Browser browser2 = Puppeteer.launch(options);    Page page = browser.newPage();    page.goTo("https://www.taobao.com/about/");    browser.close();    Page page1 = browser2.newPage();    page1.goTo("https://www.taobao.com/about/");

这个例子中,浏览器导航到具体某个页面后关闭。在这里并没有指明启动路径。argList是放一些额外的命令行启动参数的,在下面资源章节中我会给出相关资料。

3、生成页面的 PDF

	//自动下载,第一次下载后不会再下载    BrowserFetcher.downloadIfNotExist(null);    ArrayList<String> arrayList = new ArrayList<>();    //生成pdf必须在无厘头模式下才能生效    LaunchOptions options = new LaunchOptionsBuilder().withArgs(arrayList).withHeadless(true).build();    arrayList.add("--no-sandbox");    arrayList.add("--disable-setuid-sandbox");    Browser browser = Puppeteer.launch(options);    Page page = browser.newPage();    page.goTo("https://www.baidu.com/?tn=98012088_10_dg&ch=3");    PDFOptions pdfOptions = new PDFOptions();    pdfOptions.setPath("test.pdf");    page.pdf(pdfOptions);    page.close();    browser.close();

在这个例子中,导航到某个页面后,将整个页面截图,并写成PDF文件。注意,生成PDF必须在headless模式下才能生效

4、TRACING 性能分析

	//自动下载,第一次下载后不会再下载    BrowserFetcher.downloadIfNotExist(null);    ArrayList<String> argList = new ArrayList<>();    LaunchOptions options = new LaunchOptionsBuilder().withArgs(argList).withHeadless(true).build();    argList.add("--no-sandbox");    argList.add("--disable-setuid-sandbox");    Browser browser = Puppeteer.launch(options);    Page page = browser.newPage();    //开启追踪    page.tracing().start("C:\\Users\\howay\\Desktop\\trace.json");    page.goTo("https://www.baidu.com/?tn=98012088_10_dg&ch=3");    page.tracing().stop();

在这个例子中,将在页面导航完成后,生成一个 json 格式的文件,里面包含页面性能的具体数据,可以用 Chrome 浏览器开发者工具打开该 json 文件,并分析性能。

5、页面截图

    BrowserFetcher.downloadIfNotExist(null);           ArrayList<String> arrayList = new ArrayList<>();    LaunchOptions options = new LaunchOptionsBuilder().withArgs(arrayList).withHeadless(true).build();    arrayList.add("--no-sandbox");    arrayList.add("--disable-setuid-sandbox");    Browser browser = Puppeteer.launch(options);    Page page = browser.newPage();    page.goTo("https://www.baidu.com/?tn=98012088_10_dg&ch=3");    ScreenshotOptions screenshotOptions = new ScreenshotOptions();    //设置截图范围    Clip clip = new Clip(1.0,1.56,400,400);    screenshotOptions.setClip(clip);    //设置存放的路径    screenshotOptions.setPath("test.png");    page.screenshot(screenshotOptions);

页面导航完成后,设置截图范围以及图片保存路径,即可开始截图。

更多的例子请看这里

资源

  1. Puppeteer中文文档
  2. DevTools Protocol
  3. Chrome命令行启动参数

执照

此仓库中找到的所有内容均已获得 Apache 许可。有关详细信息,请参见LICENSE文件


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
热门推荐
热门话题
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap