一次线上Flink 背压情况分析之重新认识java dump 文件

news/2024/5/20 1:39:20 标签: json, intellij-idea, gradle

1.背压情况

kafka 不消费,Flink端背压高,发送端情况满,可以看背压图以及看flink 任务 back pressure 是否high

 2.解决问题

thread dump 分析

 3.Thread dump 文件关键信息

可以看到对应的行数代码

分析可能出现异常原因:countDownLatch 没有为0

countDownLatch 使用:

4.java 异常分析

head dump:JVM 内存信息  jmap

Thread dump:线程信息   jstack

JVM Heap dump和Thread dump - 简书 (jianshu.com)

java程序性能分析之thread dump和heap dump - - ITeye博客

Flink 背压排查思路总结:

1.在监控图上找到有反压的最下游Task节点,去Job DAG图中找到该Task的直接下游,问题就出在这个Task(监控图位于Babel流计算运维——流任务监控——指标监控,打开Grafana监控图)
2.在监控图的顶部,Task处选择该Task,过滤掉无关信息
3.查看接收端buffer总体利用率的图,观察各subtask之间是否平衡(都100%表示平衡,部分100%部分0%表示不平衡)
4.选择接收端buffer最高的subtask,找到它所在的container id(如一样高,随意选择一个)
4.去Flink UI打开Task Managers页面,找到这个container,点进去,再点Thread Dump
5.在Thread dump页面里搜索:英文引号+Task名称前缀,找到最后一个匹配的线程
如调用栈显示不全且不足够用于分析,获取完整的调用栈


http://www.niftyadmin.cn/n/1594720.html

相关文章

.NET CF WM上创建快捷方式

2019独角兽企业重金招聘Python工程师标准>>> 创建快捷方式图标可在属性中该,步骤如下: 1. 2 WM设备上本身就支持创建快捷方式,在菜单上选择“复制”,然后其他地方选择“粘贴快捷方式”皆可。 可有时我们需要为用户提供…

Java Thread dump和Head dump 文件分析

Java Thread dump 文件分析 一次线上Flink 背压情况分析之重新认识java dump 文件_诸葛子房的博客-CSDN博客三个实例演示 Java Thread Dump 日志分析 - 旁观者 - 博客园 (cnblogs.com) Java Head dump 文件分析 java dump文件分析_诸葛子房的博客-CSDN博客 一次生产 CPU 100…

数据字典生成工具之旅(1):开篇有益

最近在做公司需求的时候,发现一个很低效的点,在建表的时候需要使用公司自己开发的建模工具进行创建表,一个字段一个字段的复制粘贴让人受不了。于是萌发了自己开发一款工具解决这个低效点。做为开篇将带领大家预览一下工具的整个概况&#xf…

从0到1了解数据库—实现一个自己的数据库

1.简单版本 用Java实现一个简单的DBMS(总结) - 驰 - 博客园 (cnblogs.com) 单文件处理,没有索引功能,没有事务功能 2.成熟版本 wwwyanxin/wyxDBMS: 用Java实现了一个关系型数据库,DBMS数据库管理系统,可使用常用增删改查的SQL语句&#x…

http代理穿透

2019独角兽企业重金招聘Python工程师标准>>> ※HTTP 隧道※ -------- HTTP是基于文本的通过浏览器检索网页的协议。 大多数情况下你躲在代理服务器的后面,通过LAN接入互联网。 在IE的Connection Option中, 你给出你的LAN的设置。 这个代理服务…

maven项目使用 slf4j

1.配置pom文件 2.配置log4j 代码: zhugezifang/test-log (github.com) 参考博客地址 Log4j.properties配置详解 - 莫逸风 - 博客园 (cnblogs.com) Log4j2与Slf4j的最佳实践 - 知乎 (zhihu.com) slf4j-api、slf4j-log4j12、log4j之间关系 - 小路不懂2 - 博客园…

C语言 小游戏之贪吃蛇

还记得非常久曾经听群里人说做贪吃蛇什么的,那时候大一刚学了C语言,认为非常难,根本没什么思路。 前不久群里有些人又在谈论C语言贪吃蛇的事了,看着他们在做,我也打算做一个出来。 如今大三,经过了这一年半…

java 并发编程CAS

参考: (2条消息) AtomicBoolean介绍与使用与compareAndSet原理_帅性而为1号的博客-CSDN博客