Flink设置并行度的方式和执行级别

摘要:
在Flink中设置并行度的几种方法:在代码中设置setParallelism()全局设置:运算符设置(部分设置):sum(1)。setParallelism(3)客户端CLI设置(或webui直接输入量):修改并行度。配置文件setting/conf/link-conf.yaml 4的默认值。最大并行度设置全局设置:

Flink设置并行度的几种方式

  1. 代码中设置setParallelism()

    • 全局设置:

      env.setParallelism(3); 
    • 算子设置(部分设置):

      sum(1).setParallelism(3)
  2. 客户端CLI设置(或webui直接输入数量):

    ./bin/flink run -p 3
  3.  系统设置:

    修改配置文件设置/conf/flink-conf.yaml的parallelism.defaul数值

      4. 最大并行度设置

    • 全局设置:

      env.setMaxParallelism(n) 
    • 算子设置(部分设置):

      sum(1).setMaxParallelism(n)

      默认的最大并行度是近似于operatorParallelism + (operatorParallelism / 2),下限是127,上线是32768. 

      Flink并行度配置级别:算子>全局env>客户端CLI>配置文件 。

      注意:

    1. .setParallelism()设置的并行度需要小于.setMaxParallelism()设置的最大并行度。
    2. 某些算子无法设置并行度,如socketTextStream
    3. 本地模式并行度默认为cpu核数
    4. 并行度改变会影响任务划分,进而影响task数量,如果taskslots数量不满足要求,会导致任务没有足够的资源分配。

     

    免责声明:文章转载自《Flink设置并行度的方式和执行级别》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

    上篇VirtualBox CentOS7 Mini 安装增强工具5.多项式回归与模型泛化下篇

    宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

    相关文章

    02-NFS存储服务

    1、NFS存储服务概念 NFS 是 Network File System 的缩写及网络文件系统。 NFS 主要功能是通过局域网络让不同的主机系统之间可以共享文件或目录,NFS客户端可以通过挂载的方式将NFS服务端共享数据的文件目录挂载到本地挂载点,这样对本地挂载点目录中的数据进行操作其实就是操作NFS服务端共享数据的文件目录 为什么要使用数据存储共享服务...

    socket网络编程(四)——epoll多路复用问题

    1、epoll诞生的原因 问大家一个问题,如果要设计一款有着千万级别并发的系统,你的客户端和服务端的网络通信底层该怎么设计?我在上一篇文章(socket网络编程(三)——select多路复用问题)中有说到用select可以实现IO多路复用,但是select的设计有瓶颈所在,超过十万的并发效率就非常慢。那么着又该怎么办呢? 于是epoll就腾空出世了! 2、...

    20200311 5. Response

    5. Response 响应( response)对象封装了从服务器返回到客户端的所有信息。在 HTTP 协议中,从服务器传输到客户端 的信息通过 HTTP 头信息或响应的消息体。 5.1 缓冲 Servlet 容器允许但不必为了提高效率而缓冲到客户端的输出。典型的服务器默认都是缓冲的,但允许 servlet 指定缓冲参数。 ServletResponse...

    gRPC学习之四:实战四类服务方法

    欢迎访问我的GitHub https://github.com/zq2599/blog_demos 内容:所有原创文章分类汇总及配套源码,涉及Java、Docker、Kubernetes、DevOPS等; gRPC学习系列文章链接 在CentOS7部署和设置GO GO的gRPC开发环境准备 初试GO版gRPC开发 实战四类服务方法 gRPC-Gatewa...

    C# winform自动更新 (附 demo下载)

    随着需求的变化,如果Server每次更新出新的内容,Client都要重新安装的话。 太过于复杂化。  所以自动更新是很有必要的。 一、.NET自带的更新方式    以服务器端为主  (自动更新,微软爸爸肯定是有的。 有点:简单方便,便于维护; 缺点:用户没有自己的选择权,一切以服务端为主,每次更新之后,都是全新,继承不了上版本的配置;文件安装位置不可控 )...

    WebSocket以及socketIO的使用

    简介 WebSocket 使得客户端和服务器之间的数据交换变得更加简单,允许服务端主动向客户端推送数据。在 WebSocket API 中,浏览器和服务器只需要完成一次握手,两者之间就直接可以创建持久性的连接,并进行双向数据传输。 现在,很多网站为了实现推送技术,所用的技术都是 Ajax 轮询。轮询是在特定的的时间间隔(如每1秒),由浏览器对服务器发出H...