hadoop的yarn是什么
YARN是Hadoop的一个资源管理框架,全称为Yet Another Resource Negotiator,它是Hadoop的第二代资源管理框架。在Hadoop 2.0中,YARN取代了早期版本中的JobTracker和TaskTracker,成为了Hadoop的新一代资源管理和作业调度框架。
YARN的主要功能是将Hadoop的资源管理和作业调度分离出来,使得Hadoop可以更好地支持多种计算模型和应用程序,例如MapReduce、Spark等。它可以为不同的计算框架提供统一的资源管理、调度和监控机制,支持多租户环境下的资源隔离和共享,以及多种作业优先级和资源调度策略。同时,YARN还提供了对复杂应用程序的支持,例如图形处理、流处理等。
YARN包括以下两个核心组件:
ResourceManager:ResourceManager是YARN的主节点,负责管理和分配整个集群的资源,包括内存、CPU、磁盘等。它接收来自客户端的作业请求,并将作业分配给合适的节点执行。
NodeManager:NodeManager是YARN的从节点,负责管理和监控每个节点的资源使用情况,包括内存、CPU、磁盘等。它接收来自ResourceManager的作业分配请求,并启动和监控作业的执行过程。
总之,YARN是Hadoop的资源管理和作业调度框架,可以支持多种计算模型和应用程序,提供了统一的资源管理、调度和监控机制,以及多种作业优先级和资源调度策略,可以帮助用户更好地处理和分析大规模数据集。
相关推荐HOT
更多>>什么是webshell
它通常是一段可以被Web服务器解释执行的脚本代码,如PHP、ASP、JSP等,可以在远程控制下执行系统命令、修改文件、操纵数据库等操作,甚至可以控...详情>>
2023-03-14 10:50:10HashMap每次扩容为什么是两倍?
HashMap的底层是通过数组+链表+红黑树的数据结构来存放数据的。我们知道,当新添加元素的key值出现了hash碰撞,就会在同一个bucket中形成链表或...详情>>
2023-03-01 16:07:27多行文本框
回到浏览器,刷新,多行文本输入框的宽度和高度发生了改变。向框内再次输入数字 "0123456789",当你输入到 9 的时候,你会发现数字 9 后面与留...详情>>
2022-12-22 18:19:40单选和多选
输入文本:前端基础包括:在文本后输入 input 中括号 type 等于 checkbox,input[type=checkbox] 按下 tab 键,创建三个多选框控件。返回编辑器...详情>>
2022-12-22 18:16:39