首页最新资讯

全部 新闻动态 技术文章 常见问题 技术问答

    • Watch机制特点有哪些?Watch简介

      在ZooKeeper中,引入了Watch机制来实现这种分布式的通知功能。ZooKeeper允许客户端向服务端注册一个Watch监听,当服务端的一些事件触发了这个Watch,那么就会向指定客户端发送一个事件通知,来实现分布式的通知功能。Watch机制在事件中有以下4个特点:查看全文>>

      技术文章2020-11-03 |黑马程序员 |Watch机制的特点,Watch简介
    • Znode储存结构是怎样的?节点类型有哪几种?

      Zookeeper的底层是一套数据储存结构,其中的节点,我们称之为znode。Zookeeper中数据存储的结构和标准文件系统非常类似,拥有一个层次的命名空间,也是使用斜杠(/)进行分割,两者都是采用树形层次结构。不同的是,标准文件系统是由文件夹和文件来组成的树,而Zookeeper是由什么来组成的树呢?下面我们来看一下Zookeeper数据存储结构查看全文>>

      技术文章2020-11-03 |黑马程序员 |Znode的储存结构和节点类型
    • YARN资源管理框架的体系结构【大数据文章】

      YARN是一个通用的资源管理系统和调度平台,它的基本设计思想是将MRv1(Hadoop1.0中的MapReduce)中的JobTracker拆分为两个独立的任务,这两个任务分别是全局的资源管理器ResourceManager和每个应用程序特有的ApplicationMaster。其中,ResourceManager负责整个系统的资源管理和分配,而ApplicationMaster负责单个应用程序的管理。接下来,我们通过一张图来描述YARN的体系结构,具体如图1所示。查看全文>>

      技术文章2020-11-03 |黑马程序员 |YARN资源管理框架的体系结构
    • Zookeeper集群中的三种角色简单介绍

      Zookeeper对外提供一个类似于文件系统的层次化的数据存储服务,为了保证整个Zookeeper集群的容错性和高性能,每一个Zookeeper集群都是由多台服务器节点(Server)组成,这些节点通过复制保证各个服务器节点之间的数据一致。只要当这些服务器节点过半数节点可用,那么整个Zookeeper集群就可用。下面我们来学习Zookeeper的集群架构,如图1所示。查看全文>>

      技术文章2020-11-03 |黑马程序员 |Zookeeper集群的三种角色
    • Spark的集群安装部署【大数据技术文章】

      我们要规划的Spark集群包含一台Master节点和两台Slave节点。其中,主机名hadoop01是Master节点,hadoop02和hadoop03是Slave节点。   接下来,分步骤演示Spark集群的安装与配置,具体如下。查看全文>>

      技术文章2020-10-29 |黑马程序员 |Spark的集群安装部署
    • Spark有哪些特点,Spark的生态系统包含哪些组件?

      目前,Spark生态系统已经发展成为一个可应用于大规模数据处理的统一分析引擎,它是基于内存计算的大数据并行计算框架,适用于各种各样的分布式平台的系统。在Spark生态圈中包含了Spark SQL、Spark Streaming、GraphX、MLlib等组件,这些组件可以非常容易地把各种处理流程整合在一起,而这样的整合,在实际的数据分析过程中是很有意义的。不仅如此,Spark的这种特性还大大减轻了原先需要对各种平台分别管理的依赖负担。下面,通过一张图描述Spark的生态系统查看全文>>

      技术文章2020-10-28 |黑马程序员 |Spark概述,Spar有哪些特点
和我们在线交谈!