linux +正在使用的端口+但没有从netstat返回PID以终止PID

Question

我们有Hadoop集群- linux是rhel 7.5机器

namenode正在使用端口50070

我们可以从日志中看到端口50070正在使用。

但有趣的是，当我们做netstat -tulpn | grep 50070时，找出PID，它的返回就什么都没有了。

netstat -tulpn | grep 50070   ( we not get output ) 

那怎么可能呢？

如何清关港口？

2020-07-18 21:26:22,753 INFO  impl.MetricsSystemImpl (MetricsSystemImpl.java:shutdown(606)) - NameNode metrics system shutdown complete.
2020-07-18 21:26:22,753 ERROR namenode.NameNode (NameNode.java:main(1783)) - Failed to start namenode.
java.net.BindException: Port in use: linux.gg.com:50070
        at org.apache.hadoop.http.HttpServer2.constructBindException(HttpServer2.java:1001)
        at org.apache.hadoop.http.HttpServer2.bindForSinglePort(HttpServer2.java:1023)
        at org.apache.hadoop.http.HttpServer2.openListeners(HttpServer2.java:1080)
        at org.apache.hadoop.http.HttpServer2.start(HttpServer2.java:937)
        at org.apache.hadoop.hdfs.server.namenode.NameNodeHttpServer.start(NameNodeHttpServer.java:170)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.startHttpServer(NameNode.java:942)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:755)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.(NameNode.java:1001)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.(NameNode.java:985)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:1710)
        at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:1778)
Caused by: java.net.BindException: Address already in use
        at sun.nio.ch.Net.bind0(Native Method)
        at sun.nio.ch.Net.bind(Net.java:433)
        at sun.nio.ch.Net.bind(Net.java:425)
        at sun.nio.ch.ServerSocketChannelImpl.bind(ServerSocketChannelImpl.java:223)
        at sun.nio.ch.ServerSocketAdaptor.bind(ServerSocketAdaptor.java:74)
        at org.mortbay.jetty.nio.SelectChannelConnector.open(SelectChannelConnector.java:216)
        at org.apache.hadoop.http.HttpServer2.bindListener(HttpServer2.java:988)
        at org.apache.hadoop.http.HttpServer2.bindForSinglePort(HttpServer2.java:1019)
        ... 9 more
2020-07-18 21:26:22,755 INFO  util.ExitUtil (ExitUtil.java:terminate(124)) - Exiting with status 1
2020-07-18 21:26:22,757 INFO  namenode.NameNode (LogAdapter.java:info(47)) - SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at 
************************************************************/
[root@linux hdfs]#
[root@linux hdfs]#
[root@linux hdfs]# netstat -tulpn | grep 50070 ( no PID number is returned ) 

Answer 1

消息表明问题在于属于Hadoop的HTTP服务器。我认为，在Hadoop2.7.1及以上版本中，端口50070是HDFS的默认端口。

使用netstat -tulpn，您正在查看侦听传入的TCP连接的端口。由于问题在于Hadoop的HTTP服务器，所以根本不需要查看UDP端口，因为HTTP只使用TCP端口。

但是，由于端口号太高，它可能被一个传出连接占用。试一试netstat -tapn | grep 50070。

若要查看可为传出连接动态分配的端口范围，请运行cat /proc/sys/net/ipv4/ip_local_port_range。您可以在net.ipv4.ip_local_port_range = min_value max_value中使用/etc/sysctl.conf[.d]来调整范围，但是在一个有大量传出连接的繁忙服务器上限制范围可能不是个好主意。我的Debian 10的默认范围是从端口32768到60999；企业发行版在默认情况下可能使用扩展范围。

相反，您可能希望为此HDFS web UI选择一个非默认端口，该端口超出了用于传出连接的端口范围。如果未设置属性dfs.namenode.http-address，则hdfs.xml中的属性0.0.0.0:50070的默认值为D7。您可以设置该属性的值为0.0.0.0:。

换句话说，要将端口号设置为例如32070，可以将其添加到hdfs.xml中：

    dfs.namenode.http-address
    0.0.0.0:32070

0.0.0.0的意思是“运行web的系统具有的任何IP地址。”如果系统有多个具有不同地址的网络连接，并且希望仅在一个IP地址中可以访问HDFS，则可以用IP地址替换它。

当然，您还需要记录HDFS现在处于一个非默认端口，以便需要web UI功能的管理员能够找到它。