在线观看不卡亚洲电影_亚洲妓女99综合网_91青青青亚洲娱乐在线观看_日韩无码高清综合久久

鍍金池/ 問答/人工智能  Java/ 內(nèi)網(wǎng)搭建的hadoop分布式環(huán)境,如何通過外網(wǎng)訪問

內(nèi)網(wǎng)搭建的hadoop分布式環(huán)境,如何通過外網(wǎng)訪問

1、搭建的hadoop環(huán)境,datanode使用的都是內(nèi)網(wǎng)ip(172.16.1.142,172.16.1.148),只有142節(jié)點(diǎn)開通了外網(wǎng)ip

2、通過Java遠(yuǎn)程獲取HDFS上的數(shù)據(jù),返回給Java程序的datanode地址都是內(nèi)網(wǎng)ip,Java連接不上,請(qǐng)問怎么辦?

3、設(shè)置了參數(shù)configuration.set("dfs.client.use.datanode.hostname", "true"); 報(bào)錯(cuò)信息如下:

2018-08-17 14:22:38,670 INFO [org.apache.hadoop.hdfs.DFSClient] - Exception in createBlockOutputStream
java.io.IOException: Got error, status message , ack with firstBadLink as 172.16.1.148:50010
    at org.apache.hadoop.hdfs.protocol.datatransfer.DataTransferProtoUtil.checkBlockOpStatus(DataTransferProtoUtil.java:140)
    at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.createBlockOutputStream(DFSOutputStream.java:1363)
    at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.nextBlockOutputStream(DFSOutputStream.java:1266)
    at org.apache.hadoop.hdfs.DFSOutputStream$DataStreamer.run(DFSOutputStream.java:449)
2018-08-17 14:22:38,673 INFO [org.apache.hadoop.hdfs.DFSClient] - Abandoning BP-1760557445-172.16.1.142-1534486349045:blk_1073741829_1005
2018-08-17 14:22:38,701 INFO [org.apache.hadoop.hdfs.DFSClient] - Excluding datanode DatanodeInfoWithStorage[172.16.1.148:50010,DS-dd301dfb-ae4e-4adc-8152-e11bbf0880e0,DISK]### 問題
回答
編輯回答
只愛你

hadoop連接很特殊,根據(jù)主機(jī)名連接,而且要求每個(gè)節(jié)點(diǎn)必須都能訪問到,因此你用普通的端口映射的方案是無法解決的。

你必須使用VPN的方案連接,如果覺得VPN太重,只是臨時(shí)連接測試一下的話,也可以考慮sshuttle方案。具體看我的blog: https://www.jianshu.com/p/edc...

2018年5月23日 05:30