Cloudera Manager 安装 CDH5.x 心得 废话不多说,先展示下这几天捣鼓的成果 Cloudera Manager 管理配置界面 Hbase 管理界面及Hbase Web UI HDFS 使用cloudera-manger repo安装CM # 在CM节点执行 wget http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/cloudera-manager.repo -P /etc/yum.repos.d wget https://archive.cloudera.com/cdh5/redhat/6/x86_64/cdh/cloudera-cdh5.repo -P cloudera-manager-server -y # 在其他节点执行 wget http://archive.cloudera.com/cm5/redhat/6/x86_64/cm/cloudera-manager.repo 启动安装时会去cloudera官网找匹配的parcel安装包 重启cloudera-scm-server,查看实时日志 /etc/init.d/cloudera-scm-server restart
:断网 + rpm 安装 + yum本地源 以 CDH5.3.6 为例 软件下载:http://archive.cloudera.com/cm5/ 1.bin文件: http://archive.cloudera.com /cm5/installer/5.3.6/cloudera-manager-installer.bin 2.依赖rpm包 : http://archive.cloudera.com/cm5/redhat /html/cm5/redhat/6/x86_64/cm/5 $ createrepo ./ 注释:安装 createrepo 工具: 1.下载rpm包: https://pkgs.org/download ] name=Cloudera Manager baseurl=http://test1/cm5/redhat/6/x86_64/cm/5/ gpgcheck=0 enabled=1 6.通过之前下载的 Error: Nothing to do $yum clean all $rm -rf /var/cache/yum/cloudera-* 到此为止,完成 cloudera server 的安装
Cloudera Navigator作为Cloudera企业版的核心,还是有挺多用户在用的。它提供必要的审计和数据保护,来满足最严苛的规范限制。 3.使用管理员登录Cloudera Manager的WEB界面,进入Cloudera Management Service服务 [ls775tfnsv.jpeg] 4.点击“Instances”,进入实例界面 [xfsaeqfxcv.jpeg] 5.点击“Add Role Instances”,添加角色实例 [yydrk27uhu.jpeg] 6.选择“Navigator Metadata Server”和 “Navigator Audit Server”角色部署的节点 [4fxbtyveki.jpeg] 7.输入角色所使用的数据库账号及密码并点击“Test Connection” [bmehg6ama5. Server”服务启动角色 [occtujla7n.jpeg] [gu7ngxxcmb.jpeg] [g54atzckl.jpeg] 至此已完成Cloudera Navigator服务的安装。
1.Cloudera Manager Server命令 开启, 停止, 和 重启 Cloudera Manager Server 1.1开启 $ sudo service cloudera-scm-server start 1.2停止 $ sudo service cloudera-scm-server stop 1.3重启 $ sudo service cloudera-scm-server restart 2.Cloudera Manager Agents命令 2.1开启 $ sudo service cloudera-scm-agent start 2.2清理开启 $ sudo service cloudera-scm-agent clean_start 彻底清除目录 /var/run/cloudera-scm-agent ;删除所有的文件和子目录,然后执行命令 /var/run/cloudera-scm-agent . 2.3停止 $ sudo service cloudera-scm-agent stop 2.4重启 $ sudo service cloudera-scm-agent restart
Cloudera 简介 经过搜索发现Cloudera产品很适合笔者当前需求,于是开始研究Cloudera(CDH)的安装与使用,参考: Cloudera 官网:https://www.cloudera.com ;也带了Hive数据仓库工具帮助用户分析数据; 用户也能用Cloudera管理安装HBase分布式列式NoSQL数据库;Cloudera还包含了原生的Hadoop搜索引擎以及Cloudera Navigator Cloudera Manager Server与其他几个组件一起工作: agent - 安装在每台主机上。代理负责启动和停止进程,解包配置,触发安装和监视主机。 /cm5/redhat/6/x86_64/cm/cloudera-manager.repo # cloudera-cdh wget https://archive.cloudera.com/cdh5/ redhat/6/x86_64/cdh/cloudera-cdh5.repo # 安装jdk和cloudera-manager sudo yum install oracle-j2sdk1.7 -y
本文主要讲述如何安装Grafana并使用Cloudera Manager datasource 插件。 首先来直观地感受下Grafana炫酷的Demo. 下载Grafana rpm包 wget https://dl.grafana.com/oss/release/grafana-7.2.0-1.x86_64.rpm 安装Grafana [root@cdh1 docs.grafana.org Main PID: 30699 (grafana-server) 访问Grafana web页面,默认端口为3000 首次登录用户为admin,密码可以随意,并且要求重置密码 安装 Manager 数据展示 1.设置默认的数据源 点击 Add data source > 选中 Cloudera Manager,填写配置如下,并点击Save&Test ,出现datasource tsquery,至于什么是tsquery,我们会在后面介绍 然后点击右侧的Visualization 按钮可以选择图表类型,我们选择Graph Cloudera Manager 对于集群磁盘IO的统计是数据传输率
wget -b http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.14.1/RPMS/x86_64/cloudera-manager-daemons /cm5/redhat/7/x86_64/cm/cloudera-manager.repo 下载rpm仓库文件 wget http://archive.cloudera.com/cm5/redhat/7 开始Cloudera Manager安装吧! 如果能访问,那证明 cloudera manager安装正常。 安装CDH 制作本地parcel 前面完成cloudera manager安装之后master会在/opt目录下生成cloudera文件夹,将之前下载好的CDH-*文件移动到parcel-repo文件夹中
Cloudera Hadoop Maven编译安装步骤详细教程 OS: Ubuntu 12.04 1.下载hadoop-0.20.2-cdh3u6.tar.gz源码包 http://www.cloudera.com 2.安装配置maven源 /etc/maven2/settings.xml apt-get install maven2 3.到search.maven.org上搜索下载缺少的jar包 jar包列表: 搜索方式 g:"org.apache.maven.plugins" AND a:"maven-surefire-plugin" AND v:"2.5" groupIP artifact version 4.安装 doxia-module-confluence -Dversion=1.1.3 -Dpackaging=jar -Dfile=/path/to/file 需要指定groupID、artifactID、version 5. 修改cloudera/maven-packaging/pom.xml 为解决package过程中的如下ERROR [ERROR] BUILD ERROR [INFO] -----------------
Cloudera 发行指南 本指南包含面向安装人员和管理员的版本和下载信息。它包括发行说明以及有关版本和下载的信息。 Cloudera QuickStart 本指南介绍如何快速安装 Cloudera 软件并为概念证明 (POC) 或开发创建初始部署。 它介绍如何下载和使用 QuickStart 虚拟机,它会提供开始基本安装所需的所有内容。 它还介绍如何在包含 4 个主机的群集上创建 Cloudera Manager 5、CDH5 和托管服务的全新安装。快速入门安装仅应用于演示和 POC 应用程序,不推荐用于生产。 Cloudera 安装和升级 本指南提供了 Cloudera 生产部署的软件要求和安装信息以及升级过程。本指南还提供 Cloudera 软件的特定端口信息。
7.el6.x86_64 2、安装mysql mysql的安装有三种方式: rpm包安装(本次就采用rmp包的安装方式进行演示) 源码安装(提供了源码安装的脚本) yum安装(虽然安装方便,但是不建议使用 二、启动cloudera-scm-server 在启动cloudera-scm-server的时候报如下的错误(启来30秒左右自动关闭,查看日志文件:/opt/cm-5.11.1/log/cloudera-scm-server (我就是这种方案解决的); 三、启动cloudera-scm-agent 在启动cloudera-scm-server的时候报如下的错误(启来30秒左右自动关闭,查看日志文件:/opt/cm-5.11.1 /log/cloudera-scm-agent/cloudera-scm-agent.log) ERROR Failed to connect to newly launched supervisor. 服务都是关闭的) 2.删除mysql中cmf数据库 3.删除从节点中/opt/cm-5.11.1目录 4.重新复制到从节点 scp -r /opt/cm-5.11.1 root@hadoop001:/opt 5.
Kudu基于Cloudera Manager安装及配置使用Kudu一般都会和impala进行整合,impala与Hive是强依赖关系,需要安装Hive,安装Hive需要安装HDFS等,以上各个技术组件的版本都需要对应匹配 ,由于Kudu没有直接的安装包,为了方便我们可以选择基于Cloudera Manager进行安装Kudu及相关大数据组件。 Agentcm2192.168.179.202Agentcm3192.168.179.203Agent一、启动CM集群#在cm1节点中启动ClouderaManager Serversystemctl start cloudera-scm-server #在cm1、cm2、cm3中启动ClouderaManager Agentsystemctl start cloudera-scm-agent#登录Cloudera Manager user:admin WAL目录和数据目录等待安装完成即可,可以通过Cloudera Manager 界面来访问Kudu。
今天,我们将带你深入探索Cloudera的安装规划与系统环境搭建部署,为你的企业数据之旅铺设坚实的基石。 但在此之前,我们需要精心规划、细致部署。 接下来,我们将一步步引导你完成 Cloudera 的安装规划与系统环境搭建,为企业数据中心的管理变得简单直观。 系统环境准备、安装基础环境 1.选择三台已安装 Centos6 Liunx 系统的节点,分配资源 安装 CDH 节点推荐内存为64G,大部分内存被 Cloudera Management Service 12. servicentpdstart#启动ntpd服务 10.安装JDK 给每台节点安装jdk,这里我们安装的CDH版本为5.4,在官网https://www.cloudera.com/documentation 如果你想了解更多关于:Cloudera系统环境准备、基础环境安装、集群部署以及应用组件安装等全方位的技术的问题,可以关注我。
,会看到如下页面,实际也就是Cloudera Manager的主页。 1.1.3.Cloudera Management Service ---- 这是一个包含Cloudera Manager Service链接的表格。 [jsjye7bpa5.jpeg] [vyvs4tyrct.jpeg] 4.所有最新命令 ---- 按集群显示所有最近运行的命令。 [jgb4sn2l77.jpeg] 5.启动并登录到管理控制台 ---- 1.在火狐或者谷歌浏览器中,输入http://Server host:7180,Server host可以是运行Cloudera 然后你就会看到Cloudera Manager的管理控制台登录界面。 2.使用管理员分配的凭据(账号/密码)登录到Cloudera Manager管理控制台。
5.保存和关闭这个文件 6.重启系统或者使用下面的命令立即停止SELinux $ setenforce 0 1 当你已经安装部署了CDH之后,你可以在/etc/selinux/config 1.x86_64.rpm 1 2 3 4 5 6 将以上安装文件可以放到/root目录下 关于安装: Master节点(cdh1): yum -y install cloudera-manager-agent 1 2 3 4 5 6 7 8 9 10 11 12 先安装下面的内容,因为cloudera-manager-agent依赖这些 yum install bind-utils psmisc cyrus-sasl-plain 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 4.3.3.4 安装MySQL JDBC /cloudera-scm-server.log 1 2 3 4 5 6 7 8 9 10 11 12 13 查看日志,然后一直等待到其启动完毕,大约要等待3~5分钟左右,然后在浏览器中输入:http
下图显示了使用示例部署: Cloudera透明HDFS加密可加密HDFS上存储的数据 Navigator Encrypt对与Cloudera Manager,Cloudera Navigator,Hive 数据编辑与Cloudera 加密技术分开工作,Cloudera 加密技术不会阻止对集群具有完全访问权限的管理员查看敏感的用户数据。 Hadoop在其原生的基于TCP / IP的直接传输(称为)周围使用了启用SASL的包装器DataTransportProtocol,以保护DIGEST-MD5信封内的I / O流。 HadoopRPC支持SASL,以实现安全传输,并且默认设置为Kerberos和DIGEST-MD5,具体取决于通信类型和安全设置。 为了安全地存储所需的加密密钥,Cloudera建议将Cloudera Navigator密钥受托服务器与HDFS加密结合使用。
通过自带的控件或者第三方可以做出非常炫酷的界面,也能非常直观的展示各项监控指标,本文主要讲述如何安装Grafana并使用Cloudera Manager datasource 插件 具体展示如下: ? 下载安装 1.Grafana 安装包下载 网页地址:https://grafana.com/grafana/download?platform=linux ? 安装Cloudera Manager datasource插件 1. 使用离线的方式安装Cloudera Manager datasource https://grafana.com/grafana/plugins/foursquare-clouderamanager-datasource Cloudera Manager 数据展示 1.设置默认的数据源 点击 Add data source > 选中 Cloudera Manager ?
Cloudera Manager的主要功能是安装和升级Cloudera Runtime和其他托管服务。Cloudera Manager支持两种软件分发格式:package和parcel。 Cloudera Manager对每个受支持的OS使用原生的系统软件包管理器来安装和升级Cloudera Manager。 它们默认安装在中/opt/cloudera/parcels。相反,软件package安装在中/usr/lib。 不使用sudo命令就可以安装Cloudera Runtime。parcel的安装由以root或另一个用户身份运行的Cloudera Manager Agent处理,因此您可以不带 sudo。 主要版本升级(例如,从CDH 5到Cloudera Runtime 7)需要重新启动所有服务,因为版本之间存在重大变化。最后,您可以同时升级单个parcel或多个parcel。
Manager:5.14.1 4.CDH:5.14.0 5.JDK1.8 二、软件下载地址 1.Cloudera Manager 2.CDH 3.JDK和MySQL自行搜索 三、系统环境设置: 以下步骤都使用 5.配置三台虚拟机的Host文件 192.168.124.136 hserver1n 192.168.124.137 hserver2n 192.168.124.138 hserver3n 6.打通主节点 五、安装Clouder Manager及CDH 所有节点操作: 1.新建目录 $ sudo mkdir /opt/cloudera-manager 2.将下载的Clouder Manager解压到此目录下 :cloudera-scm /var/lib/cloudera-scm-server 5.配置Agent 配置所有节点的Agent,路径:/opt/cloudera-manager/cm-5.14.1/ 管理页面,网址为:http://hserver1n:7180, 用户名和密码都是admin 11.选择Cloudera Express 12.选择主机 13.群集安装 14.安装完成后,检查主机正确性
必须将所有集群主机配置为使用该krb5.conf文件使用本地MIT Kerberos领域。 必须在本地MIT KDC和Kerberos领域中创建所有服务和用户主体。 使用该krb5.conf文件,所有集群主机都配置了Kerberos领域(本地和中央AD)。默认领域应为本地MIT Kerberos领域。 所有集群主机都使用来配置中央AD Kerberos领域krb5.conf。 Cloudera Manager连接到Active Directory KDC,以创建和管理在集群上运行的CDH服务的主体。 要覆盖此设置并让Kerberos在TCP之前先尝试UDP,请如下修改Kerberos配置文件(krb5.conf): [libdefaults] udp_preference_limit = 1 ... 用于基于角色访问Cloudera Manager和Cloudera Navigator的 AD组-创建AD组并将成员添加到这些组中,以便您以后可以配置对Cloudera Manager和Cloudera
4月15日,Cloudera在其官网宣布GA两款新的产品Cloudera Flow Management和Cloudera Edge Management,即CFM和CEM。 Flow Management和Edge Management以前都是隶属于HDP的相关产品,Cloudera此次官宣代表的是它们现在可以与CDH一起安装并使用,包括使用Cloudera Manager 进行简易的Parcel安装和服务监控。 5.轻松地从任意环境移动PB级数据 - 通过与schema无关的处理,构建之初就支持扩展。 如何帮助您解决此类问题: 1.缺乏在边缘收集和处理数据的工具 2.将数据从边缘移动到云非常昂贵 3.构建边缘数据收集/IoT应用程序需要大量编码并且可能非常耗时 4.在数千个边缘点上管理应用程序非常复杂 5.