spark作业的最大并行度
spark作业的最大并行度=excutor个数*每个excutor的cpu core数 但spark的当前并行度取决于task数，而task数=分区数。
分区数可以通过spark.default.parallelism设置默认分区数，也可以在使用算子时显示地指定分区器和分区数量。
spark官方推荐设置分区数为最大并行度的2-3倍，这样可以保证提前计算的线程立刻被后面的task使用，并且每个task处理的数据量会更少。
猜你喜欢LIKE
相关推荐HOT
更多>>
索引有什么作用?在mongodb中索引分为几类
索引(Index)是数据库中的一种数据结构，用来提高数据检索的效率。它们可以帮助数据库系统快速地定位和访问需要的数据。在 MongoDB 中，索引也很...详情>>
2023-04-11 13:43:47
主键约束是什么意思?如何实现mysql主键约束
主键约束是一种在数据库中用于保证表中某个列的唯一性和非空性的约束，该列将成为表的主键。主键的作用是为了唯一标识表中的每一行数据，以方便...详情>>
2023-03-17 16:51:01
eureka和zookeeper的区别对比
Eureka和Zookeeper都是服务发现和注册的工具，但它们有以下几个不同点：架构设计：Eureka采用了集中式的架构，其中一个服务作为Eureka Server，...详情>>
2023-03-07 15:35:18
Zookeeper和Eureka的区别都有哪些？
Zookeeper和Eureka都是分布式系统中常用的服务发现和注册组件，它们的主要区别如下：数据一致性：Zookeeper是一个高度可靠的分布式数据一致性解...详情>>
2023-03-07 15:26:19
zookeeper和eureka的区别介绍
1.架构设计：ZooKeeper是一个分布式的协调服务，它提供了高可用、高可靠性的数据存储和协调服务，可以作为分布式系统中的一个通用组件使用。而E...详情>>
2023-03-03 15:00:46
京公网安备 11010802030320号