在线时间:8:00-16:00
迪恩网络APP
随时随地掌握行业动态
扫描二维码
关注迪恩网络微信公众号
一、前言程序访问 其实在 二、JDBC实现流式查询使用JDBC的 public int execute(String sql, boolean isStreamQuery) throws SQLException { Connection conn = null; PreparedStatement stmt = null; ResultSet rs = null; int count = 0; try { //获取数据库连接 conn = getConnection(); if (isStreamQuery) { //设置流式查询参数 stmt = conn.prepareStatement(sql, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY); stmt.setFetchSize(Integer.MIN_VALUE); } else { //普通查询 stmt = conn.prepareStatement(sql); } //执行查询获取结果 rs = stmt.executeQuery(); //遍历结果 while(rs.next()){ System.out.println(rs.getString(1)); count++; } } catch (SQLException e) { e.printStackTrace(); } finally { close(stmt, rs, conn); } return count; } 「PS」:上面的例子中通过参数 三、性能测试创建了一张测试表
3.1. 测试大数据量普通查询@Test public void testCommonBigData() throws SQLException { String sql = "select * from my_test"; testExecute(sql, false); } 3.1.1. 查询耗时 27w 数据量用时 38 秒 3.1.2. 内存占用情况 使用将近 1G 内存 3.2. 测试大数据量流式查询@Test public void testStreamBigData() throws SQLException { String sql = "select * from my_test"; testExecute(sql, true); } 3.2.1. 查询耗时 27w 数据量用时 37 秒 3.2.2. 内存占用情况 由于是分批获取,所以内存在30-270m波动 3.3. 测试小数据量普通查询@Test public void testCommonSmallData() throws SQLException { String sql = "select * from my_test limit 100000, 10"; testExecute(sql, false); } 3.3.1. 查询耗时 10 条数据量用时 1 秒 3.4. 测试小数据量流式查询@Test public void testStreamSmallData() throws SQLException { String sql = "select * from my_test limit 100000, 10"; testExecute(sql, true); } 3.4.1. 查询耗时 10 条数据量用时 1 秒 四、总结MySQL 流式查询对于内存占用方面的优化还是比较明显的,但是对于查询速度的影响较小,主要用于解决大数据量查询时的内存占用多的场景。 「DEMO地址」:https://github.com/zlt2000/mysql-stream-query 到此这篇关于MySQL中使用流式查询避免数据OOM的文章就介绍到这了,更多相关MySQL 流式查询内容请搜索极客世界以前的文章或继续浏览下面的相关文章希望大家以后多多支持极客世界! |
请发表评论