Spark中Worker的主要职责

Worker主要职责如下:

  • 管理当前节点内存、CPU的使用状况;
  • 接收Master分配过来的资源指令,通过ExecutorRunner启动程序分配任务。worker类似于包工头,管理分配新进程,做计算的服务,相当于process服务。

需要注意的是:

  • worker不会汇报当前信息给master,worker心跳给master主要只有workid,它不会发送资源信息以心跳的方式给mater,master分配的时候就知道work,只有出现故障的时候才会发送资源。
  • worker不会运行代码,具体运行的是Executor是可以运行具体appliaction写的业务逻辑代码,操作代码的节点,它不会运行程序的代码的。
点击此处
隐藏目录