你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

HDInsight 上的 Apache Hadoop 服务所使用的端口

本文档提供在 HDInsight 群集上运行的 Apache Hadoop 服务使用的端口列表。 此外,还提供了用于通过 SSH 连接到群集的端口的信息。

公共端口与非公共端口

基于 Linux 的 HDInsight 群集只在 Internet 上公开三个端口:22、23 和 443。 这些端口使用 SSH 和通过安全 HTTPS 协议公开的服务来保护群集访问的安全。

HDInsight 由在 Azure 虚拟网络上运行的多个 Azure 虚拟机(群集节点)实现。 从虚拟网络内部可以访问不是通过 Internet 公开的端口。 如果通过 SSH 连接到头节点,则可以直接访问群集节点上运行的服务。

重要

如果尚未指定某个 Azure 虚拟网络作为 HDInsight 的配置选项,系统自动创建一个 Azure 虚拟网络。 但无法将其他计算机(例如其他 Azure 虚拟机或客户端开发计算机)加入到此虚拟网络中。

要将其他计算机添加到虚拟网络,必须先创建虚拟网络,然后在创建 HDInsight 群集时指定该网络。 有关详细信息,请参阅为 HDInsight 规划虚拟网络

公共端口

HDInsight 群集中的所有节点都位于 Azure 虚拟网络中。 不能从 Internet 直接访问节点。 使用公共网关可以通过 Internet 访问以下端口(在所有 HDInsight 群集类型中很常见)。

服务 端口 协议 说明
sshd 22 SSH 将客户端连接到主头节点上的 sshd。 有关详细信息,请参阅 将 SSH 与 HDInsight 配合使用
sshd 22 SSH 将客户端连接到边缘节点上的 sshd。 有关详细信息,请参阅 将 SSH 与 HDInsight 配合使用
sshd 23 SSH 将客户端连接到辅助头节点上的 sshd。 有关详细信息,请参阅 将 SSH 与 HDInsight 配合使用
Ambari 443 HTTPS Ambari Web UI。 请参阅使用 Apache Ambari Web UI 管理 HDInsight
Ambari 443 HTTPS Ambari REST API。 请参阅使用 Apache Ambari REST API 管理 HDInsight
WebHCat 443 HTTPS HCatalog REST API。 请参阅将 MapReduce 与 Curl 配合使用
HiveServer2 443 ODBC 使用 ODBC 连接到 Hive。 请参阅 Connect Excel to HDInsight with the Microsoft ODBC driver(使用 Microsoft ODBC 驱动程序将 Excel 连接到 HDInsight)。
HiveServer2 443 JDBC 使用 JDBC 连接到 Apache Hive。 请参阅使用 Hive JDBC 驱动程序连接到 HDInsight 上的 Apache Hive

以下各项适用于特定的群集类型:

服务 端口 协议 群集类型 说明
Stargate 443 HTTPS HBase HBase REST API。 请参阅开始使用 Apache HBase
Livy 443 HTTPS Spark Spark REST API。 请参阅使用 Apache Livy 远程提交 Apache Spark 作业
Spark Thrift 服务器 443 HTTPS Spark 用来提交 Hive 查询的 Spark Thrift 服务器。 请参阅在 HDInsight 上将 Beeline 与 Apache Hive 配合使用
Kafka REST 代理 443 HTTPS Kafka Kafka REST API。 请参阅使用 REST 代理与 Azure HDInsight 中的 Apache Kafka 群集进行交互

身份验证

在 Internet 上公开的所有服务都必须经过身份验证:

端口 凭据
22 或 23 在创建群集期间指定的 SSH 用户凭据
443 在创建群集期间设置的登录名(默认为 admin)和密码

非公共端口

注意

某些服务仅适用于特定的群集类型。 例如,HBase 仅适用于 HBase 群集类型。

重要

某些服务仅在一个头节点上运行一次。 如果尝试连接到主头节点上的服务并收到错误,请重试使用辅助头节点。

Ambari

服务 Nodes 端口 URL 路径 协议
Ambari Web UI 头节点 8080 / HTTP
Ambari REST API 头节点 8080 /api/v1 HTTP

示例:

  • Ambari REST API:curl -u admin "http://10.0.0.11:8080/api/v1/clusters"

HDFS 端口

服务 Nodes 端口 协议 说明
NameNode Web UI 头节点 30070 HTTPS 用于查看状态的 Web UI
NameNode 元数据服务 头节点 8020 IPC 文件系统元数据
DataNode 所有辅助角色节点 30075 HTTPS 用于查看状态、日志等信息的 Web UI。
DataNode 所有辅助角色节点 30010   数据传输
DataNode 所有辅助角色节点 30020 IPC 元数据操作
辅助 NameNode 头节点 50090 HTTP NameNode 元数据检查点

YARN 端口

服务 Nodes 端口 协议 说明
Resource Manager Web UI 头节点 8088 HTTP Resource Manager 的 Web UI
Resource Manager Web UI 头节点 8090 HTTPS Resource Manager 的 Web UI
Resource Manager 管理界面 头节点 8141 IPC 用于应用程序提交(Hive、Hive 服务器、Pig 等)
Resource Manager 计划程序 头节点 8030 HTTP 管理界面
Resource Manager 应用程序界面 头节点 8050 HTTP 应用程序管理器界面的地址
NodeManager 所有辅助角色节点 30050   容器管理器的地址
NodeManager Web UI 所有辅助角色节点 30060 HTTP 资源管理器界面
Timeline 地址 头节点 10200 RPC Timeline 服务 RPC 服务。
Timeline Web UI 头节点 8188 HTTP Timeline 服务 Web UI

Hive 端口

服务 Nodes 端口 协议 说明
HiveServer2 头节点 10001 Thrift 用于连接到 Hive 的服务 (Thrift/JDBC)
Hive 元存储 头节点 9083 Thrift 用于连接到 Hive 元数据的服务 (Thrift/JDBC)

WebHCat 端口

服务 Nodes 端口 协议 说明
WebHCat 服务器 头节点 30111 HTTP 位于 HCatalog 和其他 Hadoop 服务顶层的 Web API

MapReduce 端口

服务 Nodes 端口 协议 说明
JobHistory 头节点 19888 HTTP MapReduce JobHistory Web UI
JobHistory 头节点 10020   MapReduce JobHistory 服务器
ShuffleHandler   13562   将中间映射输出传输到请求化简器

Oozie

服务 Nodes 端口 协议 说明
Oozie 服务器 头节点 11000 HTTP Oozie 服务的 URL
Oozie 服务器 头节点 11001 HTTP Oozie 管理端口

Ambari 指标

服务 Nodes 端口 协议 说明
TimeLine(应用程序历史记录) 头节点 6188 HTTP TimeLine 服务 Web UI
TimeLine(应用程序历史记录) 头节点 30200 RPC TimeLine 服务 Web UI

HBase 端口

服务 Nodes 端口 协议 说明
HMaster 头节点 16000    
HMaster 信息 Web UI 头节点 16010 HTTP HBase 主控 Web UI 的端口
区域服务器 所有辅助角色节点 16020  
区域服务器信息 Web UI  所有辅助角色节点 16030 HTTP HBase 区域服务器 Web UI 的端口
2181 客户端用来连接 ZooKeeper 的端口

Kafka 端口

服务 Nodes 端口 协议 说明
代理 辅助角色节点 9092 Kafka 线路协议 用于客户端通信
  Zookeeper 节点 2181   客户端用来连接 ZooKeeper 的端口
REST 代理 Kafka 管理节点 9400 HTTPS Kafka REST 规范

Spark 端口

服务 Nodes 端口 协议 URL 路径 说明
Spark Thrift 服务器 头节点 10002 Thrift   用于连接到 Spark SQL 的服务 (Thrift/JDBC)
Livy 服务器 头节点 8998 HTTP   用于运行语句、作业和应用程序的服务
Jupyter 笔记本 头节点 8001 HTTP   Jupyter Notebook 网站

示例:

  • Livy:curl -u admin -G "http://10.0.0.11:8998/"。 在此示例中,10.0.0.11 是托管 Livy 服务的头节点的 IP 地址。