Python命令高并发集群失效

Python命令高并发集群失效 Apachespark进程隔离并启动共享会话WARN报错

写由新望市

2022年5月19日

问题

ython命令高并发集群

全ython命令失效警告报错消息

WARDN PythonDriverWrapper:启动 replId-61bef-9fc3-1f8f6-2ExportCodeExceptionCode=1: Chown:无效用户

因果

都行spark.databricks.pyspark.enableProcessIsolation truespark.databricks.session.share true设置为集群上Apachespark配置

后两个spark属性冲突并避免集群运行 Python命令

求解

光圈中只允许使用两个特性之一

您必须选择进程隔离或基于需求spark共享会话禁用另一选项

文章有帮助吗