az synapse spark pool
管理 Spark 池。
命令
名称 | 说明 | 类型 | Status |
---|---|---|---|
az synapse spark pool create |
创建 Spark 池。 |
Core | GA |
az synapse spark pool delete |
删除 Spark 池。 |
Core | GA |
az synapse spark pool list |
列出所有 Spark 池。 |
Core | GA |
az synapse spark pool show |
获取 Spark 池。 |
Core | GA |
az synapse spark pool update |
更新 Spark 池。 |
Core | GA |
az synapse spark pool wait |
将 CLI 置于等待状态,直到满足 Spark 池的条件。 |
Core | GA |
az synapse spark pool create
创建 Spark 池。
az synapse spark pool create --name
--node-count
--node-size {Large, Medium, None, Small, XLarge, XXLarge, XXXLarge}
--resource-group
--spark-version
--workspace-name
[--delay]
[--enable-auto-pause {false, true}]
[--enable-auto-scale {false, true}]
[--enable-dynamic-exec {false, true}]
[--max-executors]
[--max-node-count]
[--min-executors]
[--min-node-count]
[--no-wait]
[--node-size-family {HardwareAcceleratedFPGA, HardwareAcceleratedGPU, MemoryOptimized, None}]
[--spark-config-file-path]
[--spark-events-folder]
[--spark-log-folder]
[--tags]
示例
创建 Spark 池。
az synapse spark pool create --name testpool --workspace-name testsynapseworkspace --resource-group rg \
--spark-version 2.4 --node-count 3 --node-size Medium --spark-config-file-path 'path/configfile.txt'
必需参数
Spark 池的名称。
节点数。
属性 | 值 |
---|---|
Parameter group: | Node Arguments |
大数据池中每个节点具有的计算能力级别。
属性 | 值 |
---|---|
Parameter group: | Node Arguments |
接受的值: | Large, Medium, None, Small, XLarge, XXLarge, XXXLarge |
资源组的名称。 可以使用 az configure --defaults group=<name>
配置默认组。
支持的 Spark 版本现在为 2.4。
属性 | 值 |
---|---|
Parameter group: | Component Version Arguments |
工作区名称。
可选参数
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
单位为分钟时的延迟时间。
属性 | 值 |
---|---|
Parameter group: | AutoPause Arguments |
启用自动暂停的标志。
属性 | 值 |
---|---|
Parameter group: | AutoPause Arguments |
接受的值: | false, true |
启用自动缩放的标志。
属性 | 值 |
---|---|
Parameter group: | AutoScale Arguments |
接受的值: | false, true |
指示是否启用动态执行程序分配。
属性 | 值 |
---|---|
Parameter group: | DynamicExecutor Arguments |
接受的值: | false, true |
分配的执行程序的最大数目。
属性 | 值 |
---|---|
Parameter group: | DynamicExecutor Arguments |
最大节点计数。
属性 | 值 |
---|---|
Parameter group: | AutoScale Arguments |
分配的最小执行程序数。
属性 | 值 |
---|---|
Parameter group: | DynamicExecutor Arguments |
最小节点计数。
属性 | 值 |
---|---|
Parameter group: | AutoScale Arguments |
不等待长时间运行的操作完成。
属性 | 值 |
---|---|
默认值: | False |
大数据池提供的节点类型。
属性 | 值 |
---|---|
Parameter group: | Node Arguments |
默认值: | MemoryOptimized |
接受的值: | HardwareAcceleratedFPGA, HardwareAcceleratedGPU, MemoryOptimized, None |
Spark 池属性配置文件的绝对路径。
属性 | 值 |
---|---|
Parameter group: | Environment Configuration Arguments |
Spark 事件文件夹。
属性 | 值 |
---|---|
Parameter group: | Default Folder Arguments |
默认值: | /events |
默认的 Spark 日志文件夹。
属性 | 值 |
---|---|
Parameter group: | Default Folder Arguments |
默认值: | /logs |
空格分隔标记:key[=value] [key[=value] ...]。使用“”清除现有标记。
全局参数
提高日志记录详细程度以显示所有调试日志。
属性 | 值 |
---|---|
默认值: | False |
显示此帮助消息并退出。
仅显示错误,禁止显示警告。
属性 | 值 |
---|---|
默认值: | False |
Output format.
属性 | 值 |
---|---|
默认值: | json |
接受的值: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
增加日志记录详细程度。 使用 --debug 获取完整的调试日志。
属性 | 值 |
---|---|
默认值: | False |
az synapse spark pool delete
删除 Spark 池。
az synapse spark pool delete [--ids]
[--name]
[--no-wait]
[--resource-group]
[--subscription]
[--workspace-name]
[--yes]
示例
删除 Spark 池。
az synapse spark pool delete --name testpool --workspace-name testsynapseworkspace --resource-group rg
可选参数
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
一个或多个资源 ID(以空格分隔)。 它应该是包含“Resource Id”参数的所有信息的完整资源 ID。 应提供 --ids 或其他“Resource Id”参数。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
Spark 池的名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
不等待长时间运行的操作完成。
属性 | 值 |
---|---|
默认值: | False |
资源组的名称。 可以使用 az configure --defaults group=<name>
配置默认组。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
工作区名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
不要提示确认。
属性 | 值 |
---|---|
默认值: | False |
全局参数
提高日志记录详细程度以显示所有调试日志。
属性 | 值 |
---|---|
默认值: | False |
显示此帮助消息并退出。
仅显示错误,禁止显示警告。
属性 | 值 |
---|---|
默认值: | False |
Output format.
属性 | 值 |
---|---|
默认值: | json |
接受的值: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
增加日志记录详细程度。 使用 --debug 获取完整的调试日志。
属性 | 值 |
---|---|
默认值: | False |
az synapse spark pool list
列出所有 Spark 池。
az synapse spark pool list --resource-group
--workspace-name
示例
列出所有 Spark 池。
az synapse spark pool list --workspace-name testsynapseworkspace --resource-group rg
必需参数
资源组的名称。 可以使用 az configure --defaults group=<name>
配置默认组。
工作区名称。
全局参数
提高日志记录详细程度以显示所有调试日志。
属性 | 值 |
---|---|
默认值: | False |
显示此帮助消息并退出。
仅显示错误,禁止显示警告。
属性 | 值 |
---|---|
默认值: | False |
Output format.
属性 | 值 |
---|---|
默认值: | json |
接受的值: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
增加日志记录详细程度。 使用 --debug 获取完整的调试日志。
属性 | 值 |
---|---|
默认值: | False |
az synapse spark pool show
获取 Spark 池。
az synapse spark pool show [--ids]
[--name]
[--resource-group]
[--subscription]
[--workspace-name]
示例
获取 Spark 池。
az synapse spark pool show --name testpool --workspace-name testsynapseworkspace --resource-group rg
可选参数
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
一个或多个资源 ID(以空格分隔)。 它应该是包含“Resource Id”参数的所有信息的完整资源 ID。 应提供 --ids 或其他“Resource Id”参数。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
Spark 池的名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
资源组的名称。 可以使用 az configure --defaults group=<name>
配置默认组。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
工作区名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
全局参数
提高日志记录详细程度以显示所有调试日志。
属性 | 值 |
---|---|
默认值: | False |
显示此帮助消息并退出。
仅显示错误,禁止显示警告。
属性 | 值 |
---|---|
默认值: | False |
Output format.
属性 | 值 |
---|---|
默认值: | json |
接受的值: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
增加日志记录详细程度。 使用 --debug 获取完整的调试日志。
属性 | 值 |
---|---|
默认值: | False |
az synapse spark pool update
更新 Spark 池。
az synapse spark pool update [--delay]
[--enable-auto-pause {false, true}]
[--enable-auto-scale {false, true}]
[--enable-dynamic-exec {false, true}]
[--force {false, true}]
[--ids]
[--library-requirements]
[--max-executors]
[--max-node-count]
[--min-executors]
[--min-node-count]
[--name]
[--no-wait]
[--node-count]
[--node-size {Large, Medium, None, Small, XLarge, XXLarge, XXXLarge}]
[--package]
[--package-action {Add, Remove}]
[--resource-group]
[--spark-config-file-path]
[--subscription]
[--tags]
[--workspace-name]
示例
更新 Spark 池的标记。
az synapse spark pool update --name testpool --workspace-name testsynapseworkspace --resource-group rg \
--tags key1=value1
更新 Spark 池的自动缩放配置。
az synapse spark pool update --name testpool --workspace-name testsynapseworkspace --resource-group rg \
--enable-auto-scale --min-node-count 3 --max-node-count 100
更新 Spark 池的自定义库。
az synapse spark pool update --name testpool --workspace-name testsynapseworkspace --resource-group rg \
--package-action Add --package package1.jar package2.jar
更新 Spark 池的配置文件。
az synapse spark pool update --name testpool --workspace-name testsynapseworkspace --resource-group rg \
--spark-config-file-path 'path/configfile.txt'
更新 Spark 池的动态执行程序分配配置。
az synapse spark pool update --name testpool --workspace-name testsynapseworkspace --resource-group rg \
--enable-dynamic-exec --min-executors 3 --max-executors 10
可选参数
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
单位为分钟时的延迟时间。
属性 | 值 |
---|---|
Parameter group: | AutoPause Arguments |
启用自动暂停的标志。
属性 | 值 |
---|---|
Parameter group: | AutoPause Arguments |
接受的值: | false, true |
启用自动缩放的标志。
属性 | 值 |
---|---|
Parameter group: | AutoScale Arguments |
接受的值: | false, true |
指示是否启用动态执行程序分配。
属性 | 值 |
---|---|
Parameter group: | DynamicExecutor Arguments |
接受的值: | false, true |
强制作的标志。
属性 | 值 |
---|---|
默认值: | False |
接受的值: | false, true |
一个或多个资源 ID(以空格分隔)。 它应该是包含“Resource Id”参数的所有信息的完整资源 ID。 应提供 --ids 或其他“Resource Id”参数。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
库要求文件。
属性 | 值 |
---|---|
Parameter group: | Environment Configuration Arguments |
分配的执行程序的最大数目。
属性 | 值 |
---|---|
Parameter group: | DynamicExecutor Arguments |
最大节点计数。
属性 | 值 |
---|---|
Parameter group: | AutoScale Arguments |
分配的最小执行程序数。
属性 | 值 |
---|---|
Parameter group: | DynamicExecutor Arguments |
最小节点计数。
属性 | 值 |
---|---|
Parameter group: | AutoScale Arguments |
Spark 池的名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
不等待长时间运行的操作完成。
属性 | 值 |
---|---|
默认值: | False |
节点数。
属性 | 值 |
---|---|
Parameter group: | Node Arguments |
大数据池中每个节点具有的计算能力级别。
属性 | 值 |
---|---|
Parameter group: | Node Arguments |
接受的值: | Large, Medium, None, Small, XLarge, XXLarge, XXXLarge |
工作区包名称的列表。
属性 | 值 |
---|---|
Parameter group: | Custom Libraries Arguments |
在 Apache Spark 池中添加或删除工作区包时,必须指定包作。
属性 | 值 |
---|---|
Parameter group: | Custom Libraries Arguments |
接受的值: | Add, Remove |
资源组的名称。 可以使用 az configure --defaults group=<name>
配置默认组。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
Spark 池属性配置文件的绝对路径。
属性 | 值 |
---|---|
Parameter group: | Environment Configuration Arguments |
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
空格分隔标记:key[=value] [key[=value] ...]。使用“”清除现有标记。
工作区名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
全局参数
提高日志记录详细程度以显示所有调试日志。
属性 | 值 |
---|---|
默认值: | False |
显示此帮助消息并退出。
仅显示错误,禁止显示警告。
属性 | 值 |
---|---|
默认值: | False |
Output format.
属性 | 值 |
---|---|
默认值: | json |
接受的值: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
增加日志记录详细程度。 使用 --debug 获取完整的调试日志。
属性 | 值 |
---|---|
默认值: | False |
az synapse spark pool wait
将 CLI 置于等待状态,直到满足 Spark 池的条件。
az synapse spark pool wait --big-data-pool-name
[--created]
[--custom]
[--deleted]
[--exists]
[--ids]
[--interval]
[--resource-group]
[--subscription]
[--timeout]
[--updated]
[--workspace-name]
必需参数
大数据池名称。
可选参数
The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.
等待在“Succeeded”中使用“provisioningState”创建。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
默认值: | False |
等待条件满足自定义 JMESPath 查询。 例如 provisioningState!='InProgress', instanceView.statuses[?code=='PowerState/running']。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
等到删除为止。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
默认值: | False |
等待资源存在。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
默认值: | False |
一个或多个资源 ID(以空格分隔)。 它应该是包含“Resource Id”参数的所有信息的完整资源 ID。 应提供 --ids 或其他“Resource Id”参数。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
轮询间隔(以秒为单位)。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
默认值: | 30 |
资源组的名称。 可以使用 az configure --defaults group=<name>
配置默认组。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
订阅的名称或 ID。 可以使用 az account set -s NAME_OR_ID
配置默认订阅。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
最大等待(以秒为单位)。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
默认值: | 3600 |
等到 provisioningState 更新为“Succeeded”。
属性 | 值 |
---|---|
Parameter group: | Wait Condition Arguments |
默认值: | False |
工作区名称。
属性 | 值 |
---|---|
Parameter group: | Resource Id Arguments |
全局参数
提高日志记录详细程度以显示所有调试日志。
属性 | 值 |
---|---|
默认值: | False |
显示此帮助消息并退出。
仅显示错误,禁止显示警告。
属性 | 值 |
---|---|
默认值: | False |
Output format.
属性 | 值 |
---|---|
默认值: | json |
接受的值: | json, jsonc, none, table, tsv, yaml, yamlc |
JMESPath 查询字符串。 有关更多信息和示例,请参阅 http://jmespath.org/。
增加日志记录详细程度。 使用 --debug 获取完整的调试日志。
属性 | 值 |
---|---|
默认值: | False |