1 个回答
在Spark中,执行器是运行在集群节点上的进程,负责执行任务(Task)。每个执行器都有自己的 JVM,可以在运行时自动启动和关闭,因此可以在不同的节点上运行。执行器根据驱动程序(Driver Program)的指示,从集群管理器(Cluster Manager)中请求资源,并在本地执行任务。每个执行器都负责执行一部分计算任务,并在完成后将结果返回给驱动程序。
执行器在Spark集群中扮演着非常重要的角色。通过将任务分发到不同的执行器上,Spark可以实现分布式计算,并在每个执行器上并行处理数据。这种分布式计算的方式可以提高计算性能和可伸缩性。Spark执行器的设计使得它可以在各种类型的集群管理器上运行,例如Standalone,Apache Mesos和Hadoop YARN等。
执行器在Spark集群中扮演着非常重要的角色。通过将任务分发到不同的执行器上,Spark可以实现分布式计算,并在每个执行器上并行处理数据。这种分布式计算的方式可以提高计算性能和可伸缩性。Spark执行器的设计使得它可以在各种类型的集群管理器上运行,例如Standalone,Apache Mesos和Hadoop YARN等。
发布于:2年前 (2023-03-27) IP属地:四川省
我来回答
您需要 登录 后回答此问题!