Spark中Worker的主要职责
Worker主要职责如下:
- 管理当前节点内存、CPU的使用状况;
- 接收Master分配过来的资源指令,通过ExecutorRunner启动程序分配任务。worker类似于包工头,管理分配新进程,做计算的服务,相当于process服务。
需要注意的是:
- worker不会汇报当前信息给master,worker心跳给master主要只有workid,它不会发送资源信息以心跳的方式给mater,master分配的时候就知道work,只有出现故障的时候才会发送资源。
- worker不会运行代码,具体运行的是Executor是可以运行具体appliaction写的业务逻辑代码,操作代码的节点,它不会运行程序的代码的。