成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

零基礎搭建Hadoop大數據處理-環境

大數據 Hadoop
由于Hadoop需要運行在Linux環境中,而且是分布式的,因此個人學習只能裝虛擬機,本文都以VMware Workstation為準,安裝CentOS7,具體的安裝此處不作過多介紹,只作需要用到的知識介紹。

由于Hadoop需要運行在Linux環境中,而且是分布式的,因此個人學習只能裝虛擬機,本文都以VMware Workstation為準,安裝CentOS7,具體的安裝此處不作過多介紹,只作需要用到的知識介紹。

VMware的安裝,裝好一個虛擬機后利用復制虛擬機的方式創建后面幾個虛擬機,省時省力,需要注意的是需要修改每個虛擬機的IP與主機名。

所有虛擬機采用NAT模式上網,而且要保證與物理主機的IP互相能訪問。

需要注意的幾個問題。nat如果上網首先需要查看物理機(pc機)這個服務器已經啟動。上網的原理:流量是走的物理網卡,但是它的ip,卻是和物理機沒有關系的。也就是說,無論你怎么更換網絡環境,你的虛擬機都不需要做改變。這就是它的優點。

 

大數據處理環境 

 首先在安裝VMware 之后,我們會看到多了兩個網卡 

這個如果經過網絡配置的折磨,應該能找到著兩個網卡:vmnet1和vmnet8,這里講的是vmnet8。 

 

重點看右側第三圖你會看到ip地址,這個ip地址,因個人而異,也就是說不同網絡,不同環境,這個ip變化的概率是很大的。可能是192.168.0.1等等。這里也相當于我們編程的一個變量,這里是需要你根據你的環境來賦值的,建議vmnet1到vmnet8分別設置192.168.10.1到192.168.80.1,好作區分。

上面我們通過看到的虛擬機網卡的ip,為了避免混肴,上面的虛擬網卡和本地網絡適配器處于同一界面。如下圖:

 

而下面則是在打開虛擬機之后,通過菜單彈出

 

彈出之后,我們在看一下虛擬機的(交換機)vmnet8.

可以看到vmnet8子網ip和虛擬機網卡是出于同一個網段的。

同時在右側net設置界面,我們可以看到網關為:192.168.106.2,改成192.168.80.2 虛擬機的設置會用到。

Linux基礎知識

Linux的學習也是一個過程,因為可能你連最簡單的開機和關機命令都不會,更不要談配置網絡。這里面給大家提供剛開始學習所查閱的資料和經驗總結。

首先我們需要使用一些命令,進行網絡配置,但是在網絡配置中,這里面又必須懂得虛擬機的一些知識,所以前面的虛擬機知識需要掌握扎實一些。

在此注意CentOS7與CentOS6的命令有些不同,會一些常用命令是必備,每次開機或啟動解壓安裝授權都是最基本的知識,其它的可以暫時不用學。

CentOS中安裝java環境

下載對應32或64位jdk,設置好JDK環境變量PATH,具體的配置可自行Google。

環境準備

修改機器名,每個系統中都要修改成這樣。

打開終端,切換到root用戶下修改機器名稱。

  1. $ sudo su 
  2. $ vim /etc/sysconfig/network 
  3. 在其中添加“HOSTNAME=H32” 

添加每個服務器IP對應的機器名

三個ip地址都添加到各自的/etc/hosts文件中

每個系統中都要修改成這樣

  1. #編輯hosts     
  2. vim /etc/hosts 

 

關閉SELinux

  1. #編輯 SELinux 配置文件 
  2. vim /etc/selinux/config 
  3. #改狀態 
  4. SELINUX=disabled 

SSH設置

進入H30,查看ssh是否安裝,如果有,繼續,沒有安裝下。

  1. rpm -qa|grep ssh  
 

時間服務器安裝

這里需要安裝時間服務器,其他的服務器通過這個來進行多機器時間的同步,分布式部署時機器時間不一致會導致數據錯誤或組件內通訊錯誤。

安裝httpd服務

httpd是Apache超文本傳輸協議(HTTP)服務器的主程序。被設計為一個獨立運行的后臺進程,它會建立一個處理請求的子進程或線程的池。

安裝yum-utils

yum install yum-utils 用于在線yum安裝 它是基於RPM包管理,能夠從指定的服務器自動下載RPM包并且安裝,可以自動處理依賴性關系,并且一次安裝所有依賴的軟體包,無須繁瑣地一次次下載、安裝。yum提供了查找、安裝、刪除某一個、一組甚至全部軟件包的命令,而且命令簡潔而又好記。(需要機器能訪問外網)

準備資源和環境

下載Centos 7.2 的iso安裝鏡像,jdk1.8 for Linux壓縮包,hadoop2.7.3壓縮包(本來用hadoop3,發現后面不兼容hive的***版本)

Java基礎知識

由于Hadoop框架源碼都是以java來寫,因此***都以java作為開發的***語言,雖然說有些用C#做了封裝,但性能已大打折扣。(這就是為什么說Java的學大數據有很大的優勢,其它語言的還需要重新學習Java)

Eclipse IDE使用

Linux和Windows下源碼編譯技術

還有最重要的是你的網速要好,因為安裝過程中會下載依賴包,網不好會卡到你懷疑人生。

***還需要有耐心,每臺機子的環境都不一樣,而且每個人下載的包的版本也有可能不一樣 會導致各種問題,此時就需要耐心的去看日志,不停的嘗試和仔細的對比安裝步驟,可能就是少了個變量 或大小寫錯誤或是要重啟。

環境準備就這么多,下一章開始講如何安裝Hadoop集群。 

 

責任編輯:龐桂玉 來源: 36大數據
相關推薦

2017-05-05 09:53:34

Hadoop大數據處理

2017-05-11 17:36:50

2022-10-14 15:44:03

大數據Hadoop

2015-05-05 11:18:18

大數據Hadoop技術處理

2011-09-01 15:12:43

SQL ServerHadoop

2015-03-30 10:48:17

大數據大數據處理Hadoop

2018-01-22 08:33:28

SparkHadoop計算

2011-12-08 09:56:14

Hadoop

2012-05-31 14:37:10

Hadoop大數據

2013-12-30 10:40:12

大數據處理大數據Hadoop

2021-03-15 22:56:55

大數據技術高薪

2013-12-27 16:15:11

Hadoop大數據處理

2018-12-07 14:50:35

大數據數據采集數據庫

2020-11-02 15:56:04

大數據數據庫技術

2017-01-23 13:40:43

2021-07-20 15:37:37

數據開發大數據Spark

2016-11-25 13:05:18

2017-07-21 14:22:17

大數據大數據平臺數據處理

2020-07-22 08:13:22

大數據

2022-11-17 11:52:35

pandasPySpark大數據
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 成人在线不卡 | 日本在线看片 | 精品免费国产一区二区三区四区介绍 | 国产精品视频网 | 亚洲精品一二三区 | 在线播放国产一区二区三区 | 91精品久久久久久久 | 成人性视频在线播放 | 国产精品亚洲精品 | 日本欧美在线视频 | 中国美女一级黄色片 | 国产一级精品毛片 | 免费性视频 | 中文字幕国产精品 | 97国产在线视频 | 亚洲精品视频免费观看 | 国产成人精品一区二区 | 黄色亚洲 | 九九综合 | 国产日韩欧美 | 国产高清免费视频 | 久久久久国产一区二区三区 | 99亚洲精品 | 男人天堂网址 | 91麻豆精品国产91久久久更新资源速度超快 | 91精品国产91久久久久久密臀 | 韩日在线视频 | 美日韩免费 | 久久区二区 | 在线播放中文字幕 | 国产午夜精品久久久久免费视高清 | 大陆一级毛片免费视频观看 | 狠狠av | 不卡一二三区 | 日韩欧美一区二区三区四区 | 91在线看片 | 欧美色999 | 中文字幕日韩在线 | 欧美性一区二区三区 | 91精品久久久久久久久久入口 | 中文av字幕 |