Sharding Jdbc批量操作引发fullGC解决
正文
周五晚上告警群突然收到了一条告警消息，点开一看，应用 fullGC 了。
于是赶紧联系运维下载堆内存快照，进行分析。
内存分析
使用 MemoryAnalyzer 打开堆文件
mat 下载地址：https://www.jb51.net/zt/matlab.html
下载下来后需要调大一下 MemoryAnalyzer.ini 配置文件里的-Xmx2048m
打开堆文件后如图：
发现有 809MB 的一个占用，应该问题就出在这块了。然后点击 Dominator Tree，看看有什么大的对象占用。
我们找大的对象，一级级往下点看看具体是谁在占用内存。点到下面发现是 sharding jdbc 里面的类，然后再继续往下发现了一个 localCache。
原来是一个本地缓存占了这么大的空间
为什么有这个 LocalCache 呢？
带着这个疑惑我们去代码里看看它是怎么使用的，根据堆内存分析上的提示，我直接打开了 SQLStatementParserEngine 类。
public final class SQLStatementParserEngine {
private final SQLStatementParserExecutor sqlStatementParserExecutor;
private final LoadingCache<String, SQLStatement> sqlStatementCache;
public SQLStatementParserEngine(String databaseType, SQLParserRule sqlParserRule) {
this.sqlStatementParserExecutor = new SQLStatementParserExecutor(databaseType, sqlParserRule);
this.sqlStatementCache = SQLStatementCacheBuilder.build(sqlParserRule, databaseType);
}
public SQLStatement parse(String sql, boolean useCache) {
return useCache ? (SQLStatement)this.sqlStatementCache.getUnchecked(sql) : this.sqlStatementParserExecutor.parse(sql);
}
}
他这个里面有个 LoadingCache 类型的 sqlStatementCache 对象，这个就是我们要找的缓存对象。
从 parse 方法可以看出，它这里是想用本地缓存做一个优化，优化通过 sql 解析 SQLStatement 的速度。
在普通的场景使用应该是没问题的，但是如果是进行批量操作场景的话就会有问题。
就像下面这个语句：
@Mapper
public interface OrderMapper {
Integer batchInsertOrder(List<Order> orders);
}
<insert id="batchInsertOrder" parameterType="com.mmc.sharding.bean.Order" >
insert into t_order (id,code,amt,user_id,create_time)
values
<foreach collection="list" item="item" separator=",">
(#{item.id},#{item.code},#{item.amt},#{item.userId},#{item.createTime})
</foreach>
</insert>
1）我传入的 orders 的个数不一样，会拼出很多不同的 sql，生成不同的 SQLStatement，都会被放入到缓存中
2）因为批量操作的拼接，sql 本身长度也很大。如果我传入的 orders 的 size 是 1000，那么这个 sql 就很长，也比普通的 sql 更占用内存。
综上，就会导致大量的内存消耗，如果是请求速度很快的话，就就有可能导致频繁的 FullGC。
解决方案
因为是参数个数不同而导致的拼成 Sql 的不一致，所以我们解决参数个数就行了。
我们可以将传入的参数按我们指定的集合大小来拆分，即不管传入多大的集合，都拆为{300, 200, 100, 50, 25, 10, 5, 2, 1}这里面的个数的集合大小。如传入 220 大小的集合，就拆为[{200},{10},{10}]，这样分三次去执行 sql，那么生成的 SQL 缓存数也就只有我们指定的固定数字的个数那么多了，基本不超过 10 个。
接下来我们实验一下，改造前和改造后的 gc 情况。
测试代码如下：
@RequestMapping("/batchInsert")
public String batchInsert(){
for (int j = 0; j < 1000; j++) {
List<Order> orderList = new ArrayList<>();
int i1 = new Random().nextInt(1000) + 500;
for (int i = 0; i < i1; i++) {
Order order=new Order();
order.setCode("abc"+i);
order.setAmt(new BigDecimal(i));
order.setUserId(i);
order.setCreateTime(new Date());
orderList.add(order);
}
orderMapper.batchInsertOrder(orderList);
System.out.println(j);
}
return "success";
}
GC 情况如图所示：
cache 里面存有元素：
修改代码后：
@RequestMapping("/batchInsert")
public String batchInsert(){
for (int j = 0; j < 1; j++) {
List<Order> orderList = new ArrayList<>();
int i1 = new Random().nextInt(1000) + 500;
for (int i = 0; i < i1; i++) {
Order order=new Order();
order.setCode("abc"+i);
order.setAmt(new BigDecimal(i));
order.setUserId(i);
order.setCreateTime(new Date());
orderList.add(order);
}
List<List<Order>> shard = ShardingUtils.shard(orderList);
shard.stream().forEach(
orders->{
orderMapper.batchInsertOrder(orders);
}
);
System.out.println(j);
}
return "success";
}
GC 情况如下：
cache 里面存有元素：
可以看出 GC 次数有减少，本地缓存的条数由 600 多减到了 11 个，如果导出堆内存还能看出至少降低了几百 M 的本地内存占用。
另外，这个 cache 是有大小限制的，如果因为一个 sql 占了 600 多个位置，那么其他的 sql 的缓存就会被清理，导致其他 SQL 性能会受到影响，甚至如果机器本身内存不高，还会因为这个 cache 过大而导致频繁的 Full GC
大家以后在使用 Sharding JDBC 进行批量操作的时候就需要多注意了
另附上拆分为固定大小的数组的工具方法如下：
public class ShardingUtils {
private static Integer[] nums = new Integer[]{800,500,300, 200, 100, 50, 25, 10, 5, 2, 1};
public static <T> List<List<T>> shard(final List<T> originData) {
return shard(originData, new ArrayList<>());
}
private static <T> List<List<T>> shard(final List<T> originData, List<List<T>> result) {
if (originData.isEmpty()) {
return result;
}
for (int i = 0; i < nums.length; i++) {
if (originData.size() >= nums[i]) {
List<T> ts = originData.subList(0, nums[i]);
result.add(ts);
List<T> ts2 = originData.subList(nums[i], originData.size());
if (ts2.isEmpty()) {
return result;
} else {
return shard(ts2, result);
}
}
}
return result;
}
}
以上就是Sharding Jdbc批量操作引发fullGC解决的详细内容，更多关于Sharding Jdbc引发fullGC的资料请关注脚本之家其它相关文章！
相关文章
这篇文章主要给大家介绍了关于MyBatis查询、新增、更新与删除操作的相关资料，文中通过示例代码介绍的非常详细，对大家学习或者使用MyBatis具有一定的参考学习价值，需要的朋友们下面来一起学习学习吧2020-06-06
解决HttpServletResponse和HttpServletRequest取值的2个坑
这篇文章主要介绍了解决HttpServletResponse和HttpServletRequest取值的2个坑问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2023-12-12
在Spring中，GET请求和POST请求是两种常见的HTTP请求方法，用于与服务器进行交互，本文详细的介绍一下Spring Get请求与post请求的实现，感兴趣的可以了解一下2023-10-10
这几天学习了HashMap的底层实现,但是发现好几个版本的，代码不一，很多文章都是旧版本JDK1.6.JDK1.7的。现在我来分析下JDK7与JDK8中HashMap的实现过程2021-09-09
目前大多数都在使用java集成 springboot进行开发，本文演示仅仅将 java换成 kotlin，其他不变的情况下进行开发,需要的朋友可以参考下2021-09-09
这篇文章主要介绍了Java中的Native方法，在本文中，我们将看到java中本机native方法的介绍。我们将看到它的基本语法及其工作原理。将有java代码示例展示native本机方法的使用，下面来看看文章的具体介绍2021-12-12
这篇文章主要介绍了Java中的RPC框架Dubbo原理和机制详解,Dubbo 是一款Java RPC框架,致力于提供高性能的 RPC 远程服务调用方案,作为主流的微服务框架之一,Dubbo 为开发人员带来了非常多的便利,需要的朋友可以参考下2024-01-01
JSP request.setAttribute()详解及实例
这篇文章主要介绍了 javascript request.setAttribute()详解及实例的相关资料,需要的朋友可以参考下2017-02-02
最近做了个小项目，该项目包在intellij idea中实现了ssm框架的整合以及实现访问，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2021-05-05
研究nacos时发现,springboot版本可使用@NacosValue实现配置的自动刷新,本文主要介绍了springboot集成nacos实现自动刷新的示例代码,感兴趣的可以了解一下2023-11-11
最新评论