CDH大數據安裝手冊--基礎環境準備

CDH大數據安裝手冊

1.基礎環境準備

機器硬件配置

操作系統要求CentOS7.4。

安裝介質說明

除了系統自帶的OS源,我們會把其他安裝包整合到一個獨立的源。所有服務器都會使用該源,方便統一管理。

該源會包括

--Cloudera Manager 5.11.2

--CDH 5.11.2 Parcel

--Cloudera Manager所需依賴包

--mysql-connector-java-5.1.46.tar.gz

-]其他工具

Yum源和parcel下載文件配置

在1號機?(host1)進行以下操作

--復制centos base,Cloudera Manager yum源和CDH parcel到apache httpd目錄 (/var/www/html) 并建立yum源。這里CDH_install_repos為預先下載的yum源,依賴包,和parcel安裝文件。/YOUR_BASE_YUM 為手動下載的CentOS源

--安裝和啟動所需服務和功能。


--配置源文件。(建議用hostname或fqdn)

cat>/etc/yum.repos.d/cloudera-manager.repo<<EOF

[cloudera-manager]

name= cloudera-manager

baseurl=http://host1/cm

gpgkey = http://host1/cm/RPM-GPG-KEY-cloudera ???

gpgcheck = 0

EOF

--查看httpd服務時否正常啟動,??用瀏覽器打開以下連接。

http://?host1/cm



系統設置

Hostname配置

--確認每臺機器/etc/hostname都有正確hostname

--確認/etc/hosts里面已正確配置所有機器的ip和hostname

--MySQL數據庫(主)機器名暫定為mysql-host, ip地址為10.53.5.91?(host1), 故在/etc/hosts里面需為10.53.5.91增加以下信息

192.168.0.1? ?host1 mysql-host


時區設置

--查看每臺機器的時區,命令:timedatectl

--默認是美國時區,修改成中國時區,命令:timedatectl set-timezone Asia/Shanghai

--用date命令查看時間可以看到時區,但是沒有timedatectl的信息全,所以盡量兩個命令都用一下,安裝cdh過程中,如果各個主機時區不一樣會有提示;但是如果安裝好了cdh,再改時區,不會有提示,所以先設置好時區再安裝cdh,避免不必要的問題;

集群節點互信通信認證

1)生成key

在主節點執行如下命令:

# cd ~

# ssh-keygen -t rsa

# cd .ssh

# cat *.pub > authorized_keys


在各分節點執行如下命令:

# cd ~

# ssh-keygen -t rsa

# ssh-copy-id -i 【主節點】


在主節點授權authorized_keys文件:

# chmod 600 authorized_keys


2)KEY分發

需要在主節點配置其他全部分節點,在主節點執行如下命令:

# scp /root/.ssh/authorized_keys 【分節點】:/root/.ssh/

# scp /root/.ssh/authorized_keys 【分節點】:/root/.ssh/

# scp /root/.ssh/authorized_keys 【分節點】:/root/.ssh/


3)SSH登錄操作

配置好公鑰后,需要分別用戶主機名或ip地址互相 ssh 登錄一下,確認是否可以免密登錄。

登錄命令如:

# ssh 【用戶名】@【主機】


為所有節點配置yum

在yum源所在機器(1號機)上執行以下命令,把yum源配置發布到其他所有機器.

for i in {2..6}

do

??sudo rm -f /etc/yum.repos.d/*.repo

??sudo scp /etc/yum.repos.d/cloudera-manager.repo 192.168.1.${i}:/etc/yum.repos.d/

done

復制mysql connector jar

把mysql connector jar復制到所有機器。

假設jar所在路徑為/YOUR_DOWNLOAD_PATH,

NTP服務配置

--在1號機上安裝ntp server

yum install ntp -y #安裝ntp

systemctl?enable ntpd #配置開機自啟動

systemctl start ntpd #啟動ntp

修改/etc/ntp.conf,

--只留一句restrict 10.96.109.0 mask 255.255.255.0 nomodify notrap

--添加server 127.127.1.0 iburst

--添加fudge 127.127.1.0 stratum 8

--添加logfile /var/log/ntp.log

重啟ntp: 執行service ntpd restart


測試:運行命令ntpq -p



--其他機器:

部署/etc/ntp.conf, 文件內容如下

restrict 10.96.109.0 mask 255.255.255.0 nomodify notrap

server 192.168.0.1 iburst

includefile /etc/ntp/crypto/pw

keys /etc/ntp/keys

#或者從2號機抄ntp.conf


#禁用timedatectl:

timedatectl set-ntp false


#同步ntp

ntpdate -q?192.168.0.1

ntpdate -d 192.168.0.1


#重啟服務:

service ntpd restart


添加cronjob 每1小時運行一次ntpdate -q 192.168.0.1


清理openjdk


在所有機器上執行

rpm -e java-1.8.0-openjdk --nodeps

rpm -e java-1.8.0-openjdk-headless --nodeps

其他參數配置

在所有服務器執行以下操作:

Sudo權限:執行命令“visudo”并添加以下sudo rule

%cloudera-scm ALL=(ALL) NOPASSWD: ALL

修改swappiness參數。CDH建議值為1到10之間。執行以下命令,把該值設為1:

vm.swappiness=1

--禁止Transparent Huge Page Compaction。執行以下命令

cat >>?/etc/rc.local << EOF

#!/bin/bash

echo never > /sys/kernel/mm/transparent_hugepage/defrag

echo never > /sys/kernel/mm/transparent_hugepage/enabled

EOF

chmod 755 /etc/rc.local

chmod 755 /etc/rc.d/rc.local

--關閉防火墻。

sudo service iptables stop

sudo chkconfig iptables off

sudo chkconfig iptables –list

#注意:需要清空iptables

iptables -F

sudo systemctl stop firewalld.service

sudo systemctl disable firewalld.service

--禁止selinux。執行以下命令:

if [ -f /etc/selinux/config.backup ]

then

??echo "Skipping backup..."

else

??cp /etc/selinux/config /etc/selinux/config.backup

fi

sed -e "s/^SELINUX.*/SELINUX=disabled/g" /etc/selinux/config.backup > /etc/selinux/config

--重啟服務器。執行命令?“reboot”


--檢查配置是否生效。

[root@ha-node1 ~]# getenforce

Disabled

[root@ha-node1 ~]# cat /sys/kernel/mm/transparent_hugepage/defrag

never

[root@ha-node1 ~]# cat /sys/kernel/mm/transparent_hugepage/enabled

never


MySQL安裝

--刪除操作系統自帶的mariadb組件的步驟如下:

rpm -qa | grep mariadb

rpm -e --nodeps mariadb-libs-5.5.44-2.el7.centos.x86_64

--解壓安裝包

tar -vxf mysql-5.7.17-1.el7.x86_64.rpm-bundle.tar

--安裝MySQL,按以下順序安裝?

rpm -ivh mysql-community-common-5.7.17-1.el7.x86_64.rpm ??

rpm -ivh mysql-community-libs-5.7.17-1.el7.x86_64.rpm ??

rpm -ivh mysql-community-client-5.7.17-1.el7.x86_64.rpm ?

rpm -ivh mysql-community-server-5.7.17-1.el7.x86_64.rpm ?

rpm -ivh mysql-community-devel-5.7.17-1.el7.x86_64.rpm ?


--編輯主、備節點的配置文件 /etc/my.cnf,編輯后重啟MySQL

修改配置文件后,重新啟動MySQL

#禁止MySQL開機自啟動

systemctl disable mysqld

#手動啟動MySQL

systemctl start mysqld

#查看初始管理員密碼;

grep 'temporary password' /var/log/mysqld.log ?

mysql -uroot -p

#隨后輸入密碼,不提供回顯

#允許內網登陸root用戶

ALTER USER 'root'@'localhost' IDENTIFIED BY 'password';

#?允許root用戶從內網登陸,10.x.x.%?假定的內網網段,其中百分號是通配符

GRANT ALL PRIVILEGES ON *.* TO 'root'@'10.x.x.%' IDENTIFIED BY 'password' WITH GRANT OPTION;

FLUSH PRIVILEGES

--]新建用戶和數據庫。(預設密碼為”password”)

到此,cdh基本環境配置好了,接下來繼續講如何安裝cdh并做配置。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,363評論 6 532
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,497評論 3 416
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,305評論 0 374
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,962評論 1 311
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,727評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,193評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,257評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,411評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,945評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,777評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,978評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,519評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,216評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,642評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,878評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,657評論 3 391
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,960評論 2 373

推薦閱讀更多精彩內容