怎么提高Flink的执行性能(代码方面)
怎么提高Flink的执行性能(代码方面)
通用的优化方式4. 一些基数较少的并且本身较长维度可以采用数据字典的方式减少网络传输及内存占用、gc开销。
数据类型和序列化Flink支持java、scala基本数据类型，以及java Tuples、scala Case Class、Flink Value，对于这些数据类型，flink会采用自身的序列化反序列化器去做序列化操作，对于其他数据类型，flink会采用kyro方式序列化，kyro序列化方式效率会比flink自带的方式低很多。因此在数据序列化方面我们可以做如下工作
3. 如果使用了lambda或者泛型的话，显式的指定类型信息让flink类型提取系统识别到以提升性能。
多组相同keyby可使用DataStreamUtils在多组keyby的场景可以采用DataStreamUtils.reinterpretAsKeyedStream的方式避免多次shuffle操作
尽量减少状态的大小3. checkpoint频率不宜过高，超时时间不要太长，可以异步化的地方尽量异步化
猜你喜欢LIKE
相关推荐HOT
更多>>
索引有什么作用?在mongodb中索引分为几类
索引(Index)是数据库中的一种数据结构，用来提高数据检索的效率。它们可以帮助数据库系统快速地定位和访问需要的数据。在 MongoDB 中，索引也很...详情>>
2023-04-11 13:43:47
主键约束是什么意思?如何实现mysql主键约束
主键约束是一种在数据库中用于保证表中某个列的唯一性和非空性的约束，该列将成为表的主键。主键的作用是为了唯一标识表中的每一行数据，以方便...详情>>
2023-03-17 16:51:01
eureka和zookeeper的区别对比
Eureka和Zookeeper都是服务发现和注册的工具，但它们有以下几个不同点：架构设计：Eureka采用了集中式的架构，其中一个服务作为Eureka Server，...详情>>
2023-03-07 15:35:18
Zookeeper和Eureka的区别都有哪些？
Zookeeper和Eureka都是分布式系统中常用的服务发现和注册组件，它们的主要区别如下：数据一致性：Zookeeper是一个高度可靠的分布式数据一致性解...详情>>
2023-03-07 15:26:19
zookeeper和eureka的区别介绍
1.架构设计：ZooKeeper是一个分布式的协调服务，它提供了高可用、高可靠性的数据存储和协调服务，可以作为分布式系统中的一个通用组件使用。而E...详情>>
2023-03-03 15:00:46
大数据培训问答更多>>
新大数据都学什么？5大核心知识必学内容有哪些
新大数据报班多少钱？如何选择培训机构
新人工智能学什么？自学可以成才吗
新数据处理包括哪些内容？是不是所有课程需要分别报课
新大数据分析需要学什么？怎么学比较好
新人工智能专业学什么？人工智能有哪些课程
新大数据数据分析师要学什么？好就业吗
大数据面试题库 更多>>
大数据的五个V是什么?
数据及集群管理（三）
数据及集群管理（二）
数据及集群管理（一）
大数据之hbase的优化读数据方面
大数据之hbase的优化写入数据方面
- 北京校区
- 大连校区
- 广州校区
- 成都校区
- 杭州校区
- 长沙校区
- 合肥校区
- 南京校区
- 上海校区
- 深圳校区
- 武汉校区
- 郑州校区
- 西安校区
- 青岛校区
- 重庆校区
- 太原校区
- 沈阳校区
- 南昌校区
- 哈尔滨校区
京公网安备 11010802030320号