罗恩·胡

Apache Spark具有“推测执行”功能，可以处理由于网络、磁盘等环境问题而导致的某个阶段的慢速任务。如果某个阶段某个任务运行缓慢，Spark driver可以在另一台主机上为该任务启动推测任务。在常规任务和它的推测任务之间，Spark系统稍后会从第一个成功完成的任务中获取结果，并杀死较慢的任务。

当我们第一次在LinkedIn上的一个10K+节点的大型集群上默认为所有Spark应用程序启用投机功能时，我们观察到Spark的投机配置参数的默认值在LinkedIn的批处理作业中不起作用。例如，系统启动了太多徒劳的投机任务(即稍后被杀死的任务)。此外，猜测任务并没有缩短洗牌阶段。为了减少无结果的投机任务，我们试图找出根本原因，增强Spark引擎，并仔细调整投机参数。我们分析了启动的推测任务的数量、有结果的和无结果的推测任务的数量，以及它们对应的cpu-内存资源消耗(以千兆字节-小时为单位)。在大型集群上的多租户环境中，我们能够将平均作业响应时间减少13%，将作业运行时间的标准偏差减少40%，并将总资源消耗降低24%。在这次演讲中，我们将分享我们的经验，使投机执行实现良好的工作运行时间减少，同时保持最小的开销。