CENTOS6.5インストールCDH5.12.1(1)

注意:高解像度のコード化されていない写真のセットを表示するには、携帯電話を使用して写真を開き、クリックして拡大してください。

1. 概要

このドキュメントでは、主に、オフライン環境でCentOS6.5オペレーティングシステムを使用してCDH5.12.1 EnterpriseEditionを展開するプロセスについて説明します。このインストールドキュメントは、主に4つのステップに分かれています。

  1. 予備準備(ホスト名、ファイアウォールのオフ、SELinuxのオフ、クロック同期などを含む)

  2. ClouderaManagerサーバーをインストールします

  3. CDHクラスターをインストールします

  4. クラスターの整合性チェック(HDFSファイルシステム、MapReduce、Hiveなどのサービスが正常に実行できるかどうかを含む)

このドキュメントでは、Cloudera ManagerとCDHのインストールに焦点を当て、次の前提に基づいています。

  1. オペレーティングシステムのバージョン:CentOS6.5

  2. MySQLバージョン:5.1.73

  3. CMバージョン:CM 5.12.1

  4. CDHバージョン:CDH 5.12.1

  5. ルートを使用してクラスターをデプロイします

  6. CDHとCMのインストールパッケージをダウンロードしました(CDHはパーセルパッケージを使用してインストールします)

2. 準備

2.1 ホスト名とホストの構成

クラスタ内の各ノードは、静的IPアドレスを使用して相互に通信できます。 IPアドレスとホスト名は/ etc / hostsを介して構成され、ホスト名は/ etc / hostnameで構成されます(ホスト名はFQDNフルドメイン名を使用して構成することをお勧めします)。

例としてサーバー(* 172.31.6.148 *)を取り上げます。

/ etc / sysconfig / networkファイルを変更します。

[ root@ip-172-31-6-148~]# vim /etc/sysconfig/network

NETWORKING=yes

NETWORKING_IPV6=no

HOSTNAME=ip-172-31-6-148.fayson.com

注:ホスト名を変更した後、サーバーを再起動する必要があります。

ホスト名が正常に変更されたかどうかを確認します。

[ root@ip-172-31-6-148~]# hostname

[ root@ip-172-31-6-148 ~]#

/ etc / hostsファイルは次のとおりです。

[ root@ip-172-31-6-148~]# more /etc/hosts

127.0.0.1 localhost.localdomain localhost

::1 localhost6.localdomain6 localhost6

172.31.6.148 ip-172-31-6-148.fayson.com

172.31.5.190 ip-172-31-5-190.fayson.com

172.31.10.118 ip-172-31-10-118.fayson.com

172.31.9.33 ip-172-31-9-33.fayson.com

[ root@ip-172-31-6-148 ~]#

上記の2つの手順では、それに応じてクラスター内の他のノードを構成します。

2.2 SELinuxを無効にする

すべてのノードでsudosetenforce0コマンドを実行します

[ root@ip-172-31-6-148~]# sudo setenforce 0

クラスタ内のすべてのノードの/ etc / selinux / configファイルを変更します。内容は次のとおりです。

[ root@ip-172-31-6-148~]# vim /etc/selinux/config

This file controls the state ofSELinux on the system.

SELINUX= can take one of these three values:

enforcing - SELinux security policyis enforced.

permissive - SELinux printswarnings instead of enforcing.

disabled - No SELinux policy isloaded.

SELINUX=disabled

SELINUXTYPE= can take one of these twovalues:

targeted - Targeted processes areprotected,

mls - Multi Level Securityprotection.

SELINUXTYPE=targeted

2.3 ファイアウォールをオフにする

クラスタ内のすべてのノードで次の操作を実行し、ファイアウォールを永続的にオフにします

[ root@ip-172-31-6-148~]# service iptables stop

[ root@ip-172-31-6-148 ~]# chkconfig iptables off

[ root@ip-172-31-6-148 ~]#

2.4 オペレーティングシステムのローカルyumソースを構成する

[ root@ip-172-31-6-148~]# mkdir /mnt/iso

[ root@ip-172-31-6-148 ~]# mount -o loop CentOS-6.5-x86_64-minimal.iso/mnt/iso/

[ root@ip-172-31-6-148 ~]# df -h

[ root@ip-172-31-6-148 ~]#

[ root@ip-172-31-6-148~]# vim /etc/yum.repos.d/os.repo

name=CentOS6.5

baseurl=file:///mnt/iso

gpgcheck=false

enabled=true

yumソースリストに新しいlocalrepoがあるかどうかを確認します

[ root@ip-172-31-6-148~]# yum repolist

*** base: mirror.0x.sg

*** extras: mirror.0x.sg

*** updates: mirror.0x.sg

[ root@ip-172-31-6-148 ~]#

2.5 httpサービスをインストール

クラスタ内のノードの1つにhttpサービスをインストールするには、次のコマンドを実行します。

[ root@ip-172-31-6-148~]# yum -y install httpd

上の図に示すように、インストールは成功しています。

[ root@ip-172-31-6-148~]# chkconfig --add httpd

[ root@ip-172-31-6-148 ~]# chkconfig httpd on

[ root@ip-172-31-6-148 ~]# chkconfig --list |grep httpd

[ root@ip-172-31-6-148 ~]#

[ root@ip-172-31-6-148~]# service httpd start

2.6 オペレーティングシステムのやり直しyumソース

2.5でhttpdサービスをインストールした後、httpを使用してオペレーティングシステムのyumソースを再作成します。操作は次のとおりです。

_ root@ip-172-31-6-148_html# mkdir centos6.5

[ root@ip-172-31-6-148 html]# ll

[ root@ip-172-31-6-148 html]#

_ root@ip-172-31-6-148_html# scp -r /mnt/iso/*/var/www/html/centos6.5/

[ root@ip-172-31-6-148~]# vim /etc/yum.repos.d/os.repo

name=CentOS6.5

baseurl=http://ip-172-31-6-148.fayson.com/centos6.5

gpgcheck=false

enabled=true

/etc/yum.repo.d/os.repo構成ファイルをクラスター内のすべてのノードの/etc/yum.repo.d/ディレクトリーに同期します

2.7 クラスタークロック同期

クラスタークロック同期のために、クラスター内のすべてのサーバーにntpサービスをインストールします。ここでは、ip-172-31-6-148.fayson.comサーバーがローカルNTPサーバーとして選択され、クラスター内の他のノードが同期されます。構成は次のとおりです。

[ root@ip-172-31-6-148~]# yum -y install ntp

上の図に示すように、インストールは成功しています。

すべてのノードで次の操作を実行します。

[ root@ip-172-31-6-148~]# chkconfig --add ntpd

[ root@ip-172-31-6-148 ~]# chkconfig ntpd on

[ root@ip-172-31-6-148~]# vim /etc/ntp.conf

...

Use public servers from thepool.ntp.org project.

Please consider joining the pool (http://www.pool.ntp.org/join.html).

server 0.centos.pool.ntp.org iburst

server 1.centos.pool.ntp.org iburst

server 2.centos.pool.ntp.org iburst

server 3.centos.pool.ntp.org iburst

[ root@ip-172-31-5-190~]# vim /etc/ntp.conf

...

Use public servers from thepool.ntp.org project.

Please consider joining the pool (http://www.pool.ntp.org/join.html).

server 0.centos.pool.ntp.org iburst

server 1.centos.pool.ntp.org iburst

server 2.centos.pool.ntp.org iburst

server 3.centos.pool.ntp.org iburst

[ root@ip-172-31-6-148~]# service ntpd restart

[ root@ip-172-31-6-148 ~]#

[ root@ip-172-31-6-148~]# ntpq -p

==============================================================================

*LOCAL(0) .LOCL. 10 l 15 64 7 0.000 0.000 0.001

[ root@ip-172-31-6-148 ~]# ssh -i fayson.pem.txtip-172-31-5-190.fayson.com "ntpq-p"

==============================================================================

*ip-172-31-6-148 LOCAL(0) 11 u 68 128 377 0.274 1.005 0.243

[ root@ip-172-31-6-148 ~]# ssh -i fayson.pem.txtip-172-31-10-118.fayson.com "ntpq-p"

==============================================================================

*ip-172-31-6-148 LOCAL(0) 11 u 75 128 377 0.285 1.214 0.213

[ root@ip-172-31-6-148 ~]# ssh -i fayson.pem.txt ip-172-31-9-33.fayson.com"ntpq -p"

==============================================================================

*ip-172-31-6-148 LOCAL(0) 11 u 1 64 367 0.294 -9.249 1.511

[ root@ip-172-31-6-148 ~]#

注:マークされた部分の「*」は、同期が成功したことを示します。

2.8 MySQLをインストール

[ root@ip-172-31-6-148~]# yum -y install mysql mysql-server

上のスクリーンショットは、MySQLが正常にインストールされたことを示しています。

[ root@ip-172-31-6-148~]# chkconfig --add mysqld

[ root@ip-172-31-6-148 ~]# chkconfig mysqld on

[ root@ip-172-31-6-148~]# service mysqld start

...

[ OK ]

[ root@ip-172-31-6-148~]# mysql_secure_installation

password for the root user. If you've just installed MySQL, and

so you should just press enter here.

Enter current password for root (enter for none):

OK, successfully used password, moving on...

Setting the root password ensures that nobody can log into the MySQL

root user without the proper authorisation.

Set root password? Y/n y

New password:

Re-enter new password:

Password updated successfully!

Reloading privilege tables..

... Success!

By default, a MySQL installation has an anonymous user, allowing anyone

to log into MySQL without having to have a user account created for

them. This is intended only for testing,and to make the installation

go a bit smoother. You should removethem before moving into a

production environment.

Remove anonymous users? Y/n y

... Success!

Normally, root should only be allowed to connect from 'localhost'. This

ensures that someone cannot guess at the root password from the network.

Disallow root login remotely? Y/n n

... skipping.

By default, MySQL comes with a database named 'test' that anyone can

access. This is also intended only fortesting, and should be removed

before moving into a production environment.

Remove test database and access to it? Y/n y

Reloading the privilege tables will ensure that all changes made so far

will take effect immediately.

Reload privilege tables now? Y/n y

... Success!

Cleaning up...

All done! If you've completed all of the above steps, your MySQL

[ root@ip-172-31-6-148 ~]#

注:赤字の部分は入力項目です。「MySQLをご利用いただきありがとうございます!」と表示されていれば、初期化は成功です。

ライブラリステートメント:

コマンドラインの操作は次のとおりです。

[ root@ip-172-31-6-148~]# mysql -uroot -p

...

mysql*> CREATE USER* 'hive'@'%' IDENTIFIEDBY 'password';

mysql*> GRANT ALL* PRIVILEGES ON metastore. * TO 'hive'@'%';

mysql*> FLUSH PRIVILEGES*;

mysql*>*

mysql*> CREATE USER* 'cm'@'%' IDENTIFIEDBY 'password';

mysql*> GRANT ALL* PRIVILEGES ON cm. * TO 'cm'@'%';

mysql*> FLUSH PRIVILEGES*;

mysql_> create database_am default character set utf8;

mysql*> CREATE USER* 'am'@'%' IDENTIFIEDBY 'password';

mysql*> GRANT ALL* PRIVILEGES ON am. * TO 'am'@'%';

mysql*> FLUSH PRIVILEGES*;

mysql*>*

mysql*> CREATE USER* 'rm'@'%' IDENTIFIEDBY 'password';

mysql*> GRANT ALL* PRIVILEGES ON rm. * TO 'rm'@'%';

mysql*> FLUSH PRIVILEGES*;

mysql*>*

mysql*> CREATE USER* 'hue'@'%' IDENTIFIEDBY 'password';

mysql*> GRANT ALL* PRIVILEGES ON hue. * TO 'hue'@'%';

mysql*> FLUSH PRIVILEGES*;

mysql*>*

mysql*> CREATE USER* 'oozie'@'%' IDENTIFIEDBY 'password';

mysql*> GRANT ALL* PRIVILEGES ON oozie. * TO 'oozie'@'%';

mysql*> FLUSH PRIVILEGES*;

mysql*>*

[ root@ip-172-31-6-148~]# mkdir -p /usr/share/java

[ root@ip-172-31-6-148 ~]# mv mysql-connector-java-5.1.34.jar/usr/share/java/

[ root@ip-172-31-6-148 ~]# cd /usr/share/java/

[ root@ip-172-31-6-148 java]# ln -s mysql-connector-java-5.1.34.jar mysql-connector-java.jar

[ root@ip-172-31-6-148 java]# ll

- rwxr-xr-x. 1 root root 960372 Aug 30 15:16 mysql-connector-java-5.1.34.jar

[ root@ip-172-31-6-148 java]#

3. ClouderaManagerのインストール

3.1 CMローカルリポジトリソースを構成する

CM5.12.1ダウンロードリンク:

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/cloudera-manager-agent-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm*

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/cloudera-manager-daemons-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm*

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/cloudera-manager-server-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm*

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/cloudera-manager-server-db-2-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm*

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/enterprise-debuginfo-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm*

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/jdk-6u31-linux-amd64.rpm*

* http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/5.12.1/RPMS/x86_64/oracle-j2sdk1.7-1.7.0+update67-1.x86_64.rpm*

[ root@ip-172-31-6-148~]# mkdir -p /var/www/html/cm5.12.1

[ root@ip-172-31-6-148 ~]# cd /var/www/html/cm5.12.1/

[ root@ip-172-31-6-148 cm5.12.1]# ll

- rw-r--r-- 1 rootroot 9676820 Aug 30 14:45cloudera-manager-agent-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm

- rw-r--r-- 1 rootroot 709818804 Aug 30 14:45 cloudera-manager-daemons-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm

- rw-r--r-- 1 rootroot 8692 Aug 30 14:45cloudera-manager-server-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm

- rw-r--r-- 1 rootroot 10600 Aug 30 14:45cloudera-manager-server-db-2-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm

- rw-r--r-- 1 rootroot 31918952 Aug 30 14:45enterprise-debuginfo-5.12.1-1.cm5121.p0.6.el6.x86_64.rpm

- rw-r--r-- 1 rootroot 71204325 Aug 30 14:45jdk-6u31-linux-amd64.rpm

- rw-r--r-- 1 rootroot 142039186 Aug 30 14:45 oracle-j2sdk1.7-1.7.0+update67-1.x86_64.rpm

[ root@ip-172-31-6-148 cm5.12.1]#

[ root@ip-172-31-6-148 cm5.12.1]# pwd

[ root@ip-172-31-6-148 cm5.12.1]#createrepo .

[ root@ip-172-31-6-148 cm5.12.1]#

[ root@ip-172-31-6-148~]# vim /etc/yum.repos.d/cm.repo

name=CM5.12.1

baseurl=http://ip-172-31-6-148.fayson.com/cm5.12.1

gpgcheck=false

enabled=true

[ root@ip-172-31-6-148~]# yum repolist

...

[ root@ip-172-31-6-148 ~]#yum -y install oracle-j2sdk1.7-1.7.0+update67-1

3.2 CDHパーセルパッケージにアクセスするようにhttpを構成します

CDH5.12.1ダウンロードアドレス:

* http://archive.cloudera.com/cdh5/parcels/5.12.1/CDH-5.12.1-1.cdh5.12.1.p0.3-el6.parcel*

* http://archive.cloudera.com/cdh5/parcels/5.12.1/CDH-5.12.1-1.cdh5.12.1.p0.3-el6.parcel.sha1*

* http://archive.cloudera.com/cdh5/parcels/5.12.1/manifest.json*

[ root@ip-172-31-6-148~]# mkdir -p /var/www/html/cdh5.12.1

[ root@ip-172-31-6-148 ~]# cd /var/www/html/cdh5.12.1/

[ root@ip-172-31-6-148 cdh5.12.1]# ll

- rw-r--r-- 1 rootroot 1620405492 Aug 30 19:09 CDH-5.12.1-1.cdh5.12.1.p0.3-el6.parcel

- rw-r--r-- 1 rootroot 41 Aug 30 19:09 CDH-5.12.1-1.cdh5.12.1.p0.3-el6.parcel.sha1

- rw-r--r-- 1 rootroot 72312 Aug 30 19:11 manifest.json

[ root@ip-172-31-6-148 cdh5.12.1]#

3.3 ClouderaManagerサーバーをインストールします

[ root@ip-172-31-6-148~]# yum -y installcloudera-manager-server

上の図に示すように、インストールは成功しています。

[ root@ip-172-31-6-148~]#/usr/share/cmf/schema/scm_prepare_database.sh mysql cm cm password

JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera

[ main] DbCommandExecutor INFO Successfully connected to database.

All done, your SCM database is configured correctly!

[ root@ip-172-31-6-148 ~]#

[ root@ip-172-31-6-148~]# service cloudera-scm-server start

[ root@ip-172-31-6-148 ~]#

[ root@ip-172-31-6-148~]# netstat -lnpt | grep 7180

[ root@ip-172-31-6-148 ~]#

4. CDHのインストール

4.1 CDHクラスターインストールウィザード

  1. 管理者/管理者によるCMへのログイン

  2. ライセンス契約に同意し、[続行]をクリックします

  1. 60トライアルを選択し、[続行]をクリックします

  1. 「続行」をクリックします

  1. ホストのIPまたは名前を入力し、[検索]をクリックしてホストを見つけ、[続行]をクリックします

  1. 「続行」をクリックします

  1. 区画オプションを使用し、[その他のオプション]をクリックし、[-]をクリックして他のすべてのアドレスを削除し、次のように入力します。

http:// ip-172-31-6-148.fayson.com/cdh5.12.1/ [変更を保存]をクリックします

  1. カスタムリポジトリを選択し、cmのhttpアドレスを入力します

  1. [続行]をクリックして、jdkをインストールする次のステップに入ります

  1. [続行]をクリックして、次のステップであるデフォルトのマルチユーザーモードに入ります

  1. [続行]をクリックして、sshアカウントのパスワードを構成する次の手順を入力します

  1. 「続行」をクリックして次のステップに入り、各ノードに関連するClouderaManagerをインストールします

  1. 「続行」をクリックして次のステップに入り、各ノードにCDHをインストールします

  1. [続行]をクリックして次のホストチェックを入力し、すべてのチェック項目に合格していることを確認します

[完了]をクリックして、サービスインストールウィザードに入ります。

4.2 クラスターセットアップインストールウィザード

  1. インストールするサービスを選択します

以下に示すように、ここではカスタムサービスが使用されます

  1. [続行]をクリックして、クラスターの役割の割り当てを入力します

HDFSの役割の割り当て:

ハイブの役割の割り当て:

Cloudera Managerサービスの役割の割り当て:

Sparkの役割の割り当て:(Spark on Yarnなので、Sparkのマスターとワーカーの役割はありません)

糸の役割の割り当て:

動物園管理者の役割の割り当て:(少なくとも3台のサーバー)

  1. 役割の割り当てが完了したら、[続行]をクリックして、データベース接続をテストするための次のステップに入ります。

  1. テストは成功しました。[続行]をクリックしてディレクトリ設定を入力します。ここではデフォルトのデフォルトディレクトリを使用し、実際の状況に応じてディレクトリを変更します

  1. [続行]をクリックして、サービスが正常に開始されるのを待ちます

  1. [続行]をクリックして、クラスターのインストールが成功したことを示します

  1. インストールが成功したら、ホーム管理インターフェイスに入ります

酔った鞭の有名な馬、なんて派手な青年! Lingnan Huanxisha、嘔吐ワインショップ!私の親友はリリースを拒否します、データは花です!
注意:高解像度のコード化されていない写真のセットを表示するには、携帯電話を使用して写真を開き、クリックして拡大してください。

Hadoopの実際の操作に注意を払うことを歓迎します。初めて、Hadoopの乾物をもっと共有してください。よろしければ、フォローして共有してください。

元の記事、再版を歓迎します、示してください:WeChatパブリックアカウントHadoopの実用的な操作から再版

Recommended Posts

CENTOS6.5インストールCDH5.12.1(1)
CentOS6.5はCDH5.13をインストールします
1.5Centos7をインストールする
Centos6はPython2.7.13をインストールします
Centos7.3はnginxをインストールします
CentOS7.2はMysql5.7.13をインストールします
CentOSはRedmineをインストールします
Centos7はPython3.6をインストールします。
CentOS7はMySQLをインストールします
Centos7インストールprotobuf
CentOS7はDockerをインストールします
CentOS7はGlusterFSをインストールします
CentOS7.4はZabbix3.4をインストールします
CentOS7はDockerをインストールします
CentOSはPython3.6をインストールします
VmwareはCentOS6をインストールします
centos7 install docker-ce 18.01.0
CentOS7.2はMariaDBをインストールします
CentOS7はHadoop3.0.0をインストールします
Centos7はPython2.7をインストールします
Centos7.6はseleniuをインストールします
Centos7はLAMP + PHPmyadminをインストールします
CentOSインストールmysql
CentOSはopenjdk1.8をインストールします
CentOSはPHPをインストールします
CentOS6はmist.ioをインストールします
Centos7はDockerをインストールします
CentOS7インストールmysql
centOsはrabbitMQをインストールします
CentOS7はMySQL5.6をインストールします
Centos7はNginxをインストールします
Centos7インストールdocker18
CentosはPython3をインストールします
centos7インストールドッカー
CentOSインストールjdk
centos7インストールnginx-rtmp
CentOS8はMySQL8.0をインストールします
Centos6.3はKVMをインストールします
CentOSはPostgreSQL9.1をインストールします
CentOS7はmysql8をインストールします
CentOS7はJava1.8をインストールします
CentOS8はfastdfs6.06をインストールします
CentOS7はGitlabをインストールします
Centos7はPostgreSQLをインストールします
CentOS7はMySQL8をインストールします
CentOS7はJava1.8をインストールします
CentOS6はDockerをインストールします
centos6.5インストールzabbix4.4
Centos8はDockerをインストールします
CentOS6.8はpython2.7をインストールします
CentOSインストールnodejs8
CentOS6.5はGNS3をインストールします
centos7.5インストールmysql5.7.17
Centos7はMySQL8.0をインストールします-手動
CentOS7はKubernetes1.16.3をインストールします
VirtualBoxインストールcentos7
centos7インストールランプ
centos7をインストールして接続します
Centos7にDockerをインストールする
Centos7インストールdocker-18.xオリジナル
Centos7.4はLNMPをインストールします