• ADADADADAD

    怎么关闭spark自动广播参数[ 电脑知识 ]

    电脑知识 时间:2024-12-03 15:01:42

    作者:文/会员上传

    简介:

    关闭Spark的自动广播参数可以通过设置spark.sql.autoBroadcastJoinThreshold参数为一个较大的值或者设置为-1来禁用自动广播。具体的操作步骤如下:在启动Spark应用程序的时候

    以下为本文的正文内容,内容仅供参考!本站为公益性网站,复制本文以及下载DOC文档全部免费。

    关闭Spark的自动广播参数可以通过设置spark.sql.autoBroadcastJoinThreshold参数为一个较大的值或者设置为-1来禁用自动广播。具体的操作步骤如下:

      在启动Spark应用程序的时候,可以通过--conf选项来设置spark.sql.autoBroadcastJoinThreshold参数的值。例如:
    ./bin/spark-submit --conf spark.sql.autoBroadcastJoinThreshold=-1 --class your_main_class your_spark_application.jar
      在代码中通过SparkSession对象来设置spark.sql.autoBroadcastJoinThreshold参数的值。例如:
    val spark = SparkSession.builder().appName("YourAppName").config("spark.sql.autoBroadcastJoinThreshold", -1).getOrCreate()

    通过以上两种方式设置spark.sql.autoBroadcastJoinThreshold参数的值为-1,即可关闭Spark的自动广播参数。

    怎么关闭spark自动广播参数.docx

    将本文的Word文档下载到电脑

    推荐度:

    下载
    热门标签: spark