减少 WAF 漏报的 8 种方法 !

Git操作指令

  返回  

大数据集群环境搭建

2021/7/20 21:26:19 浏览:

目录

    • 1. 设计一个规模合适的集群
      • 1.1. 资源预估
      • 1.2. 选择服务器
      • 1.3. 分配集群角色
    • 2. 部署和管理集群的工具
      • 2.1. Hadoop 的发展历程
      • 2.2. 部署和管理 Hadoop 的集群并不简单
      • 2.3. 三种工具的部署方式
    • 3. 自动创建虚拟机
      • 3.1. 什么是 Vagrant
      • 3.2. 安装 Vagrant 和概念介绍
      • 3.3. 使用 Vagrant 构建一个虚拟机集群
    • 4. 自动化部署服务 (了解, 运维领域)
      • 4.1. 痛点和 Ansible
      • 4.2. 使用 Vagrant 整合 Ansible
      • 4.3. 使用 Ansible 部署 CM
      • 4.4. 已知问题
        • 可以解决的问题
        • 无法解决的问题


1. 设计一个规模合适的集群

  • 目标
    • 给定需求和数据规模, 能够设计一个合适的集群
  • 步骤
    1. 资源预估
    2. 选择服务器
    3. 为服务器选择服务(角色)

1.1. 资源预估

明确需求

需求点
标签数量150个
标签计算任务数量150个
数据抽取相关任务数量10个
最少支持并发任务数量5个
日数据增量260G

如果一个Spark任务需要计算260G的数据, 需要260G的内存吗?

  1. 给出一段 Spark 代码
rdd1 = sc.readTextFile(...)
rdd2 = rdd1.map(...)
rdd3 = rdd2.flatMap(...)
  1. 分析执行策略, 简化的逻辑如下
rdd3 = rdd2.flatMap(...)
rdd3 = rdd1.map(...).flatMap(...)
rdd3 = sc.readTestFile(...).map(...).flatMap(...)
  1. 按照这个逻辑, 没有必要把所有的数据都加载出来, 再逐个数据集去计算

在这里插入图片描述

得出结论, 如果计算 260G 的数据, 可能和计算 60G 的数据, 所需要的内存一样, Spark 会逐个取数据, 逐个计算, 计算完成后抛弃, 再取下一条

真的是这样吗? 再看一段代码

  1. 给出一段Spark代码, 这段代码多了一个Shuffle算子
rdd1 = sc.readTextFile()
rdd2 = rdd1.map(...)
rdd3 = rdd2.flatMap(...)
rdd4 = rdd3.reduceByKey(...)
  1. 分析执行过程
rdd4 = sc.readTestFile(...).map(...).flatMap(...).reduceByKey(...)
  1. flatMap 出去的数据可能要汇总一下, 才能流入 reduceByKey

在这里插入图片描述

得出结论, 如果计算 260G 的数据, 和计算 60G 的数据, 所需要的内存确实不一样, 有 Shuffle 的情况下要稍微多一些才行

那么, 如何设计集群规模?

  1. Spark 这样启动
spark-submit \
  --class org.apache.spark.examples.SparkPi \
  --master yarn \
  --deploy-mode cluster \
  --executor-memory 16G \
  --executor-cores 4 \
  --executor-num 10 \
  --total-executor-cores 100 \
  http://path/to/examples.jar \
  1000
  1. executor-memory, executor-cores, executor-num 设置的原则
    1. executor-memoryexecutor-cores 的 2-4 倍, 取决于 Spark 任务是否有很多计算
    2. 通过 executor-num 来控制整个 Job 的内存占用

所以, 可以得到如下表格

Executor cores4 cores
Executor num10
Executor memory16 G
Spark parallelism128
Driver memory6 G
Total coresexenum * execores = 40
Total memoryexenum * exemem = 160
Pre job needs40 core + 160 G
Cluster(40, 160) * 5 * 1.2 = (240,1080) = 240 核心, 1080 G 内存

1.2. 选择服务器

假设公司很有钱, 选择在京东上买新的 Dell 服务器, 选择了一个比较好的机器如下

在这里插入图片描述

配置如下

类型型号容量数量
CPUIntel 至强 E5-2690V414 cores2颗
内存Dell ECC DDR432 G4条(可扩展至24条)
硬盘Dell SAS 3.5英寸4 TB3块(可扩展至8块)

所以, 单台服务器可以有 128G 内存, 28 cores, 那我们需要的集群数量如下

类型数量
Master3
Worker10
Edge2 (可 1U 低配)

这样的话, 我们集群的总资源量就如下, 可以看到, 已经非常够用了

类型大小
CPU280 cores
内存1280 G
硬盘120 T

1.3. 分配集群角色

按照如下方式分配是比较推荐的, 而且一般生产级别的大数据集群, 一定是要 HA 的

Master 1-2Master 3Work 1-10GatewayUtility 1
NameNode✔️
JournalNode✔️✔️
FailoverController✔️
ResourceManager✔️
HMaster✔️✔️
Zookeeper✔️✔️
JobHistory✔️
SparkHistory✔️
DataNode✔️
NodeManager✔️
HRegionsServer✔️
Hue✔️
Oozie✔️
HiveServer2✔️
Flume✔️
用户画像系统✔️
ClouderaManager✔️
ManagementService✔️
HiveMetastore✔️

2. 部署和管理集群的工具

  • 目标
    • 理解 Hadoop 发型版的历史和作用
  • 步骤
    1. Hadoop 的发展历程
    2. 部署和管理 Hadoop 集群并不简单
    3. 三种工具的部署方式

2.1. Hadoop 的发展历程

  1. 阶段一: 三篇论文
    1. GFS, 2003, 存储大量数据
    2. MapReduce, 2004, 使得大量数据可以被计算
    3. BigTable, 2006, 使得大量数据可以被及时访问
  2. 阶段二: Hadoop
    1. DougCutting 在 2002 年创业做了 Lucene, 遇到了性能问题, 无法索引全网的数据
    2. Google 发布了 GFS 以后, DougCutting 把 Lucene 的底层实现改为类似 GFS 的形式
    3. 2006 年 DougCutting 投靠了 Yahoo!, 带去了 Lucene, 抽出底层的存储和计算, 变为子项目 Hadoop
    4. 从 2006 年开始, Yahoo! 把多个业务迁移到 Hadoop 中, 这个时代 Hadoop 才进入高速发展期

所以, Hadoop 是 Yahoo! 一个半内部的项目, 不是商业产品, 其部署和运维都需要专业的团队

2.2. 部署和管理 Hadoop 的集群并不简单

想要部署和运维 Hadoop 的集群有一些难点如下

  1. Hadoop 是一个大规模的分布式工具, 想要在 4000 个节点上安装无疑非常困难
  2. 而想要保证几千个节点上的 Hadoop 都正常运行, 无疑更加困难

所以, 第一个发现这个问题的人并不是我们, 而是 Cloudera 的老板

  1. 2008 年的时候, 一个 Google 的工程师负责和另外一家公司一起合作搞项目, 在部署 Hadoop 的时候, 发现这玩意太难部署了, 于是出来创业, 创办了 Cloudera
  2. 2011 年的时候, 原 Yahoo! 的 Hadoop 团队独立出来, 创办了一家公司, 叫做 Hortonworks

而 Hortonworks 和 Cloudera 所负责的事情大致如下

  1. 帮助社区改进 Hadoop 和周边工具, 并提供发行版, 类似于 RedHat 和 Linux 的关系
  2. 帮助客户部署 Hadoop 集群
  3. 提供工具帮助客户管理 Hadoop 集群

但是他们的产品又是不同的, 如下

  • Hortonworks
    • Ambari, 集群管理和监控
    • HDP, Hadoop 发行版
  • Cloudera
    • Cloudera Manager, 简称 CM, 集群管理和监控
    • CDH, Hadoop 发行版

所以, 现在如果想要部署一个 Hadoop 的集群, 我们大致有三种选择

  • 直接部署 Hadoop 开源版本, 简称 Apache 版本
  • 部署 HDP 和 Ambari
  • 部署 CDH 和 CM

2.3. 三种工具的部署方式

一 : 想要部署 Apache 版本的工具是最难的

  • 要为所有节点配置环境, 例如关闭防火墙之类的

  • 要在所有节点中安装 Hadoop, Hive, HBase, Spark 等

二 : 想要部署 CDH 集群, 其实也并不容易, 因为 CM 是主从结构的, 分为如下两个部分

  • Cloudera Manager Server, 简称 SCM
  • Cloudera Manager Agents, 简称 SCM Agents

所以, 我们需要做如下这件事

  • 要为所有节点配置环境, 例如关闭防火墙之类的
  • 要为所有节点安装 Agents
  • 要在主节点安装 SCM
  • 访问 SCM 部署 CDH 集群

三 : 想要部署 HDP 的集群, 理论上比 CM 更难一些

  • 要为所有节点配置环境, 例如关闭防火墙之类的
  • 要为所有节点安装 Ambari Agents
  • 要在主节点安装 Ambari Server
  • 访问 Ambari Server 建立集群

四 : 大家有没有发现, 这三种部署方式都有一个事情要做

  • 在所有节点执行 xxx 命令

想象一下, 4000 个节点, 你准备怎么处理?

  • 使用自动化运维工具, 自动的在所有节点执行相同的操作

例如, 在 4000 个节点中执行同样的 Shell 脚本, 无论怎么做, 其实都挺折腾的, 不是吗?

五 : 那为什么我们不能直接使用 Apache 版本的工具, 使用 Shell 脚本去安装呢?

  • 集群部署出来以后, 可能会出错, 如何运维
  • 集群部署出来以后, 可能配置文件要修改, 难道再在所有节点修改一遍吗?
  • 集群部署出来以后, 我不知道它出错没, 需要监控

而上述这些功能, Ambari 和 SCM 都提供了, 所以我们当时的生产环境中, 运行的是 Cloudera Manager

3. 自动创建虚拟机

  • 目标
    • 能够通过自动化的方式创建虚拟机
  • 步骤
    1. 什么是 Vagrant
    2. 安装 Vagrant 和概念介绍
    3. 使用 Vagrant 构建一个虚拟机集群

3.1. 什么是 Vagrant

从现在就开始要搭建一个测试集群了, 回顾前面的课程, 先来说说虚拟机的痛点

  • 安装麻烦
    • 建立虚拟机的时候, 我的网段好像写错了, 和别人的 IP 不一样, 总是操作失误
    • 虚拟机弄好以后, 还需要安装操作系统, 步骤那么多, 怎么可能不出错呢, 老师你肯定没讲清楚
    • WC, 虚拟机终于装好了!! 什么? 还需要安装 Hadoop, 几十个步骤!!!
  • 工程和环境分离
    • 唉, 又要学习新项目了, 又要折腾环境, 算了, 请一天假放松放松
  • 分发困难
    • 为啥老师发给我的虚拟机我运行不起来? 这是为什么!!!
    • 可能因为你和老师的环境不同. 什么!? 又是环境不同!!!

卒😩

为了解决这些问题, 本项目中为大家引入 Vagrant

  • Vagrant 可以通过一个脚本配置虚拟机的参数
  • Vagrant 可以帮助我们自动创建一个虚拟机
  • Vagrant 可以帮助我们自动安装操作系统
  • Vagrant 可以帮助我们配置网络
  • Vagrant 可以帮助我们把文件拷贝到创建好的虚拟机上
  • Vagrant 可以在创建虚拟机后, 执行我们制定的自动化脚本, 安装服务
  • 我们可以使用 Vagrant 的命令登录到虚拟机中
  • 我们可以使用 Vagrant 的命令开启或者关闭虚拟机

大家想一下, 如果我们可以通过 Vagrant, 使用一个配置文件来创建虚拟机, 是不是就能做到如下事情

  • 创建一个项目, 顺手写一个脚本, 需要运行项目的时候, 让同事执行脚本即可
  • 虚拟机中的程序版本变化了, 修改一下脚本, 同事重新运行一下脚本即可同步环境变动
  • 再也不用担心虚拟机关闭以后再也打不开, 重新运行一下就好, 也就一分钟

所以, 不仅仅是为了让大家学习, 很多企业中也使用 Vagrant 构建测试环境, 保证每个人的环境一致

3.2. 安装 Vagrant 和概念介绍

安装步骤如下

  1. 下载 VirtualBox, 因为 VMWare 是收费的, Vagrant 不允许我们使用破解版, 有版权问题
  2. 安装 VirtualBox
  3. 下载 Vagrant, 地址是 https://releases.hashicorp.com/vagrant/2.2.7/vagrant_2.2.7_x86_64.msi
  4. 安装 Vagrant
  5. 考虑到大家网络比较慢, 已经将下载过的 Vagrant 相关的安装包放在了 Files/Setup

Vagrant 中的概念

作用: 帮助我们管理虚拟机, 自动化的创建虚拟机, 自动化的初始化虚拟机, 提供了命令帮助我们管理虚拟机

  • Vagrantfile, 这个文件是虚拟机的配置文件
  • vagrant up, 使用这个命令, 即可创建一个符合 Vagrantfile 配置的虚拟机
  • Provision, 当 Vagrant 建立虚拟机后, 会执行通过 Provision 配置的自动化脚本, 自动化的安装服务

Vagrant 初体验, 创建一个虚拟机

步骤

  1. 编写脚本, 配置虚拟机

    1. 定义 Vagrant 配置
    2. 新增一台虚拟机的配置
    3. 配置虚拟机所使用的操作系统
    4. 配置网络
    5. 配置虚拟机的硬件配置
  2. 执行命令创建虚拟机

  3. 登入虚拟机, 查看同步的目录

  4. 编写脚本

    Vagrant.configure("2") do |config|
        config.vm.define "edge" do |config|
            config.vm.box = 'centos/7'
            config.disksize.size = '50GB'
            config.vm.network 'private_network', ip: '192.168.56.101'
            config.vm.hostname = 'edge'
    
            config.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'edge'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    end
    
  5. 在脚本所在目录执行命令

    # 因为用到了修改磁盘大小的插件, 需要安装
    vagrant plugin install vagrant-disksize
    
    # 建立虚拟机
    vagrant up
    
  6. 登入虚拟机, 查看同步的目录

    # 登录
    vagrant ssh edge
    
    # 查看同步的目录
    cd /vagrant
    

Vagrant 还有一个很强大的功能, 就是在创建虚拟机完毕时, 执行初始化任务

  1. 关闭已经创建的虚拟机

    vagrant destroy
    
  2. 编写脚本

    Vagrant.configure("2") do |config|
        config.vm.define "edge" do |config|
            config.vm.box = 'centos/7'
            config.disksize.size = '50GB'
            config.vm.network 'private_network', ip: '192.168.56.101'
            config.vm.hostname = 'edge'
    
            config.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'edge'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
          
            config.vm.provision "shell", path: "script.sh"
        end
    end
    
  3. 编写 Shell 脚本

    echo "Hello everyone"
    
  4. 运行查看

    vagrant up
    

目前, 除了 Shell 的 Provision, Vagrant 还支持 Ansible, Chef, Docker, Puppet 等

3.3. 使用 Vagrant 构建一个虚拟机集群

接下来, 要使用 Vagrant 构建一个集群了, 在开始之前, 根据我们的情况, 要规划一下集群

主机名角色配置
master01Master1 cores, 16G -> 6G, 32G -> 8G
workder 01 - 02Worker1 cores, 16G -> 4G, 32G -> 5G
  • 如果只有 8G 内存, 建议去下载 Cloudera quick start vm
  • Cloudera CDH 的每一个服务的内存配置, 是按照比例来的

然后, 进行集群搭建

  1. 编写脚本

    Vagrant.configure("2") do |config|
        config.vm.define "master01" do |master01|
            master01.vm.box = 'centos/7'
            master01.disksize.size = '50GB'
            master01.vm.network 'private_network', ip: '192.168.56.101'
            master01.vm.hostname = 'master01'
    
            master01.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'master01'
                vb.memory = 6000
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "worker01" do |worker01|
            worker01.vm.box = 'centos/7'
            worker01.disksize.size = '50GB'
            worker01.vm.network 'private_network', ip: '192.168.56.102'
            worker01.vm.hostname = 'worker01'
    
            worker01.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'worker01'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "worker02" do |worker02|
            worker02.vm.box = 'centos/7'
            worker02.disksize.size = '50GB'
            worker02.vm.network 'private_network', ip: '192.168.56.103'
            worker02.vm.hostname = 'worker02'
    
            worker02.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'worker02'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "edge" do |edge|
            edge.vm.box = 'centos/7'
            edge.disksize.size = '50GB'
            edge.vm.network 'private_network', ip: '192.168.56.104'
            edge.vm.hostname = 'edge'
    
            edge.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'edge'
                vb.memory = 1024
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    end
    
  2. 运行集群

    vagrant up
    

这个时候, 我们已经建立起来了测试集群, 但是有一个问题, 似乎无法在外部登录

  1. 使用 MobaXterm 使用 SSH 登录虚拟机
  2. 发现无法登录

原因是, Vagrant 自动创建出来的虚拟机是关闭了 SSH 登录功能的, 只能使用 vagrant ssh 登录, 这是为了保障安全性, 但是测试集群的话, 其实我们还是需要它方便, 解决办法也很简单, 修改 SSH 配置, 再打包一下系统, 让 Vagrant 下次创建的时候使用我们修改过的系统

  1. 修改 SSH 登录

    # 修改文件 /etc/ssh/sshd_config
    PasswordAuthentication no
    
  2. 打包

    vagrant package
    
  3. 脚本中使用

    Vagrant.configure("2") do |config|
        config.ssh.password = "vagrant" # 此处使用密码登录
    
        config.vm.define "master01" do |master01|
            master01.vm.box = './pkgs/package.box' # 此处引用打包好的 box
            master01.disksize.size = '50GB'    
            master01.vm.network 'private_network', ip: '192.168.56.101'
            master01.vm.hostname = 'master01'
    
            master01.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'master01'
                vb.memory = 6000
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "worker01" do |worker01|
            worker01.vm.box = './pkgs/package.box'
            worker01.disksize.size = '50GB'    
            worker01.vm.network 'private_network', ip: '192.168.56.102'
            worker01.vm.hostname = 'worker01'
    
            worker01.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'worker01'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "worker02" do |worker02|
            worker02.vm.box = './pkgs/package.box'
            worker02.disksize.size = '50GB'    
            worker02.vm.network 'private_network', ip: '192.168.56.103'
            worker02.vm.hostname = 'worker02'
    
            worker02.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'worker02'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "edge" do |edge|
            edge.vm.box = './pkgs/package.box'
            edge.disksize.size = '50GB'    
            edge.vm.network 'private_network', ip: '192.168.56.104'
            edge.vm.hostname = 'edge'
    
            edge.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'edge'
                vb.memory = 1024
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
    
            edge.vm.provision "shell" do |s|
                s.path       = "install_ansible.sh"
                s.privileged = true
            end
        end
    end
    
    

下面再次查看, 即可使用 MobaXterm 登录虚拟机

4. 自动化部署服务 (了解, 运维领域)

  • 目标
    • 能够通过自动化脚本安装 CM 服务
  • 步骤
    1. 痛点和 Ansible
    2. 使用 Vagrant 整合 Ansible
    3. 离线安装 Ansible

4.1. 痛点和 Ansible

好了, 我们现在要开始安装 CM 服务了, 大概有如下步骤

  1. 配置好每一台机器的系统环境

    1. 修改主机名
    2. 关闭防火墙
    3. 关闭 SELinux
    4. 安装 JDK
    5. 安装 MySQL
    6. … 一上午过去了
  2. 在每一台机器上安装 SCM Agents

    1. Master 01 上下载 Agents
    2. Worker 01上下载 Agents
    3. Worker 02 上下载 Angents
    4. 配置 Master 01
    5. 配置 Worker 01
    6. 配置 Worker 02
    7. 启动 Maser 01 的 Agents
    8. … 一小时又过去了, 逐渐恼怒 😡
  3. 在 Master 01 上安装 SCM

    1. 创建 Linux 用户, hadoop, hive, yarn, hdfs, oozie 等所有服务都要有一个系统用户
    2. 创建 MySQL 用户, 大概六七个
    3. 安装 SCM
    4. 启动
    5. 报错
    6. … 一下午过去了, 老子不学习! 😡😡
  4. 安装 CDH …

好了, 这些痛点我们都懂, 于是引入 Ansible, Ansible 非常重要, 几乎是运维领域的银弹, 但是如果大家不打算在运维领域发展, 了解即可, Ansible 可以帮助我们做如下事情

  • 上述所有步骤, Ansible 可以帮助我们以配置的形式编写
  • Ansible 可以帮助我们在多台机器上执行配置文件表示的过程

Ansible 有如下概念

名称解释
Playbook剧本, 是 Ansible 中的总控, 根配置文件
比如说这次运行 Ansible 的最终任务是搭建好一个 CM 集群, 那我们应该就有一个 Playbook 叫做 cm_playbook.yml
RolesAnsible 任务中的角色
例如为了完成 CM 集群的搭建, 可能要配置操作系统, 那应该就把配置操作系统所需要执行的所有配置都放在一个叫做 system_common 的 Roles 中
InventoryAnsible 中的服务器地址配置
Ansible 需要在多个主机中执行任务, Inventory 的作用就是告诉 Ansible 主机的地址等信息

首先来看看 PlayBook

- name: Create hosts file in locally
  hosts: 192.168.56.101
  any_errors_fatal: True
  become: yes
  roles:
    - hosts

- name: Set yum locally
  hosts: cdh_cluster
  any_errors_fatal: True
  become: yes
  roles:
    - yum_locally
  • 192.168.56.101 中配置 hosts 文件

  • cdh_cluster 所对应的机器中配置本地 Yum 仓库

  • cdh_cluster 是一个分组, 这个分组在 Inventory 中配置

  • hostsyum_locally 就是角色

然后再来看看 Roles yum_locally

- name: Set yum repo locally
  yum_repository:
    name: itcast-locally
    description: Local yum repo
    baseurl: http://master01/
    failovermethod: priority
    file: itcast
    priority: 1
    gpgcheck: no
    enabled: yes

- name: Clean yum meata
  command: yum clean all

  • 第一个任务是通过 Ansible 提供的 Yum repository 插件, 配置本地 Yum 仓库
  • 第二个任务是执行一个命令 yum clean all 清理 Yum 缓存

4.2. 使用 Vagrant 整合 Ansible

Ansible 是一个非常知名的自动化运维工具, 不仅仅只是为了搭建测试环境, 在测试环境和正式环境中, 其应用都很广泛, 先来看看在正式环境中该如何使用 Ansible

  1. 在 13 台机器中, 选择一台作为主控
  2. 在主控机器中放入 Ansible 脚本
  3. 执行命令运行 Ansible, Ansible 会在 Playbook 中标示的机器上运行
ansible-playbook --inventory-file=/vagrant/inventory -v /vagrant/playbooks/cdh_cm.yml

明白了如何在正式环境使用 Ansible 以后, 使用 Vagrant 搭建测试环境的时候也可以使用 Ansible 脚本, Vagrant 提供了对应的 Provision

  1. 编写 Ansible playbook, 文件名为 testing.yml

    - hosts: worker_servers
      tasks:
        debug:
          msg: "Hello from {{ inventory_hostname }}"
    
  2. 编写 Inventory, 文件名为 inventory

    [master_servers]
    master01 ansible_host=192.168.56.101 ansible_user=vagrant ansible_ssh_pass=vagrant
    
    [worker_servers]
    worker01 ansible_host=192.168.56.102 ansible_user=vagrant ansible_ssh_pass=vagrant
    worker02 ansible_host=192.168.56.103 ansible_user=vagrant ansible_ssh_pass=vagrant
    
  3. 编写 Vagrantfile

    Vagrant.configure("2") do |config|
        config.ssh.password = "vagrant"
    
        config.vm.define "master01" do |master01|
            master01.vm.box = './pkgs/package.box'
            master01.disksize.size = '50GB'    
            master01.vm.network 'private_network', ip: '192.168.56.101'
            master01.vm.hostname = 'master01'
    
            master01.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'master01'
                vb.memory = 6000
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "worker01" do |worker01|
            worker01.vm.box = './pkgs/package.box'
            worker01.disksize.size = '50GB'    
            worker01.vm.network 'private_network', ip: '192.168.56.102'
            worker01.vm.hostname = 'worker01'
    
            worker01.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'worker01'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "worker02" do |worker02|
            worker02.vm.box = './pkgs/package.box'
            worker02.disksize.size = '50GB'    
            worker02.vm.network 'private_network', ip: '192.168.56.103'
            worker02.vm.hostname = 'worker02'
    
            worker02.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'worker02'
                vb.memory = 2048
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
        end
    
        config.vm.define "edge" do |edge|
            edge.vm.box = './pkgs/package.box'
            edge.disksize.size = '50GB'    
            edge.vm.network 'private_network', ip: '192.168.56.104'
            edge.vm.hostname = 'edge'
    
            edge.vm.provider 'virtualbox' do |vb|
                vb.gui = false
                vb.name = 'edge'
                vb.memory = 1024
                vb.cpus = 1
                vb.customize ["modifyvm", :id, "--cpuexecutioncap", "50"]
            end
    
            machine.vm.provision :ansible_local do |ansible|
                ansible.playbook       = "testing.yml"
                ansible.verbose        = true
                ansible.install        = true
                ansible.limit          = "all" # or only "nodes" group, etc.
                ansible.inventory_path = "inventory"
            end
        end
    end
    
  4. 运行查看结果

当然, 我们也可以使用 Roles 来封装一下这个任务

  1. 创建 roles/hello/tasks 目录

  2. 编写 Roles

    - name: Hello
    	debug:
    		msg: "Hello from {{ inventory_hostname }}"
    
  3. 修改 Playbook

    - hosts: worker_servers
      roles:
      	- hello
    

4.3. 使用 Ansible 部署 CM

脚本已经为大家编写好了, 因为大家只需要了解这个东西, 所以, 不再深入去讲, 大家有兴趣可以自行研究

  1. 离线安装 Ansible
  2. 配置 Hosts
  3. 配置离线 Yum
  4. 离线安装 MySQL

4.4. 已知问题

可以解决的问题

  • 如果在部署过程中, 出现 scm 或者 scm agents 开头的错误, 可以用如下的方式解决

    1. 注释掉 cdh_cm.yml 中的前半部分代码, 在 Install cloudera agents 之前的代码都注释掉
    2. vagrant ssh master01
      • 密码是 vagrant
    3. PYTHONUNBUFFERED=1 ANSIBLE_FORCE_COLOR=true ansible-playbook --limit="all" --inventory-file=/vagrant/inventory -v /vagrant/playbooks/cdh_cm.yml
  • 成功的表现

    • Save import command id 开头的命令执行完成, 则意味着整个集群已经部署成功

    • 接下来, 查看进度即可

      1. 打开 http://master01:7180

      2. 登录, 账号密码都是 admin

      3. 点击右上角1的小图标, 查看集群部署情况

在这里插入图片描述

  • Namenode 可能格式化超时, 这是因为集群资源不够, 需要登录到 Master01 上删除 /dfs/nn, 然后重试

在这里插入图片描述

  • Hive 的 Metastore 和 Oozie 的数据库可能连接超时, 也是因为集群资源不够, 重试即可

在这里插入图片描述

  • Hive 的 Schema 有可能创建失败, 同样因为集群无法并行太多任务的原因, 登入到 master01 中, 执行如下步骤

在这里插入图片描述

  1. 登入 MySQL, 删除 metastore 下所有表, mysql -uhive -ppassword

    DROP TABLE IF EXISTS BUCKETING_COLS;
    DROP TABLE IF EXISTS CDS;
    DROP TABLE IF EXISTS COLUMNS_V2;
    DROP TABLE IF EXISTS DATABASE_PARAMS;
    DROP TABLE IF EXISTS DBS;
    DROP TABLE IF EXISTS DB_PRIVS;
    DROP TABLE IF EXISTS DELEGATION_TOKENS;
    DROP TABLE IF EXISTS FUNCS;
    DROP TABLE IF EXISTS GLOBAL_PRIVS;
    DROP TABLE IF EXISTS IDXS;
    DROP TABLE IF EXISTS INDEX_PARAMS;
    DROP TABLE IF EXISTS MASTER_KEYS;
    DROP TABLE IF EXISTS NUCLEUS_TABLES;
    DROP TABLE IF EXISTS PARTITIONS;
    DROP TABLE IF EXISTS PARTITION_EVENTS;
    DROP TABLE IF EXISTS PARTITION_KEYS;
    DROP TABLE IF EXISTS PARTITION_KEY_VALS;
    DROP TABLE IF EXISTS PARTITION_PARAMS;
    DROP TABLE IF EXISTS PART_COL_PRIVS;
    DROP TABLE IF EXISTS PART_COL_STATS;
    DROP TABLE IF EXISTS PART_PRIVS;
    DROP TABLE IF EXISTS ROLES;
    DROP TABLE IF EXISTS ROLE_MAP;
    DROP TABLE IF EXISTS SDS;
    DROP TABLE IF EXISTS SD_PARAMS;
    DROP TABLE IF EXISTS SEQUENCE_TABLE;
    DROP TABLE IF EXISTS SERDES;
    DROP TABLE IF EXISTS SERDE_PARAMS;
    DROP TABLE IF EXISTS SKEWED_COL_NAMES;
    DROP TABLE IF EXISTS SKEWED_COL_VALUE_LOC_MAP;
    DROP TABLE IF EXISTS SKEWED_STRING_LIST;
    DROP TABLE IF EXISTS SKEWED_STRING_LIST_VALUES;
    DROP TABLE IF EXISTS SKEWED_VALUES;
    DROP TABLE IF EXISTS SORT_COLS;
    DROP TABLE IF EXISTS TABLE_PARAMS;
    DROP TABLE IF EXISTS TAB_COL_STATS;
    DROP TABLE IF EXISTS TBLS;
    DROP TABLE IF EXISTS TBL_COL_PRIVS;
    DROP TABLE IF EXISTS TBL_PRIVS;
    DROP TABLE IF EXISTS TYPES;
    DROP TABLE IF EXISTS TYPE_FIELDS;
    DROP TABLE IF EXISTS VERSION;
    
  2. /opt/cloudera/parcels/CDH/lib/hive/conf/hive-site.xml 中加入如下

    <property>
      <name>javax.jdo.option.ConnectionUserName</name>
      <value>hive</value>
    </property>
    
    <property>
      <name>javax.jdo.option.ConnectionPassword</name>
      <value>hive_password</value>
    </property>
    
    <property>
      <name>javax.jdo.option.ConnectionURL</name>
      <value>jdbc:mysql://master01:3306/metastore?useUnicode=true&amp;characterEncoding=UTF-8</value>
    </property>
    
    <property>
      <name>javax.jdo.option.ConnectionDriverName</name>
      <value>com.mysql.jdbc.Driver</value>
    </property>
    
  3. 执行任务初始化 Hive metastore

    /opt/cloudera/parcels/CDH/lib/hive/bin/schematool -dbType mysql -initSchema
    
  • Ansible 执行可能在最后一步失败, 这是因为导入 CDH 集群是一件耗时的工作, 重试的时间不够, 这个问题无需理会, 登录 master01:7180 查看集群状态即可, 默认账号和密码都是 admin

在这里插入图片描述

如果实在是机器的资源有限, 运行速度很慢, 或者无法执行 Yarn 任务, 有以下两种做法

  • 关闭 SCM 有关服务, 只留下 Hadoop 相关服务

    systemctl stop cloudera-scm-agent
    systemctl stop cloudera-scm-server
    
  • 关闭 Edge 机

    vagrant destroy edge
    

无法解决的问题

  • 因为 Master 的内存配置过低, 所以 Hue 的运行受限, 有可能在上传大文件时, 访问 Oozie 时, 会出现无响应
  • 因为集群整体资源受限, 所以执行 Oozie 任务时, 可能会出现无法调度的问题

这些问题其实并不是问题, 当给集群足够资源时, 自然会解决, 如果有 32G 的内存, 建议如下分配

  • Master 01 分配 12 G
  • Workers 分配 8 G

联系我们

如果您对我们的服务有兴趣,请及时和我们联系!

服务热线:18288888888
座机:18288888888
传真:
邮箱:888888@qq.com
地址:郑州市文化路红专路93号