Hadoop自帶的hadoop-sls只能用于壓測調度器，可在實(shí)際中影響ResourceManager性能的因素比較多，不能只看調度器。 當前項目可構造海量的Fake NM節點(diǎn)，用于模擬線(xiàn)上RM的巨大壓力場(chǎng)景，進(jìn)行優(yōu)化。 詳細參見(jiàn)：https://gith ......

Hadoop自帶的hadoop-sls只能用于壓測調度器，可在實(shí)際中影響ResourceManager性能的因素比較多，不能只看調度器。當前項目可構造海量的Fake NM節點(diǎn)，用于模擬線(xiàn)上RM的巨大壓力場(chǎng)景，進(jìn)行優(yōu)化。首先需要對NM進(jìn)行仿真。

Mapreduce作業(yè)啟動(dòng)源碼解析，從源碼開(kāi)始理解Mapreduce。

背景 前端時(shí)間租的騰訊云服務(wù)器是按照流量計費的，最近一段時(shí)間流量走的老快了，并且發(fā)現默認1G的帶寬老是卡。 原因 通過(guò)分析nginx的日志發(fā)現有大量的爬蟲(chóng)在大批量的訪(fǎng)問(wèn)代碼倉。導致占用了大量帶寬。 解決 nginx中過(guò)濾爬蟲(chóng) 在nginx中配置下面信息，過(guò) ......

簡(jiǎn)介 container-executor 是NodeManager管理Container很重要的一個(gè)工具，是深入學(xué)習Yarn作業(yè)調度不可缺少的一個(gè)知識點(diǎn)，值得深入學(xué)習。本文只描述比較基礎的功能點(diǎn)(目前不會(huì )包含Docker相關(guān))。 核心功能點(diǎn) checks ......

問(wèn)題現象 使用IDEA打開(kāi)Hadoop源碼之后，發(fā)現YarnServiceProtos部分代碼無(wú)法補全，已經(jīng)安裝了protobuf相關(guān)的插件。 原因以及解決方法 再打開(kāi)YarnServiceProtos文件的時(shí)候會(huì )提示類(lèi)似文件過(guò)大無(wú)法打開(kāi)的文字，所以可能是 ......

簡(jiǎn)介 源碼解析 Capacity 調度器的核心類(lèi)是CapacityScheduler。在初始化CapacityScheduler的時(shí)候，在構造函數initAsyncSchedulingProperties，里面會(huì )初始化調度器相關(guān)。 核心類(lèi)是AsyncSc ......

簡(jiǎn)介 為了解決HDFS的水平擴展性問(wèn)題，社區從Apache Hadoop 0.23.0版本開(kāi)始引入了HDFS federation。HDFS Federation是指 HDFS集群可同時(shí)存在多個(gè)NameNode/Namespace，每個(gè)Namespace之 ......

簡(jiǎn)介 HDFS的NameNode、Yarn的ResourceManager都是依靠ZK實(shí)現主備倒換的。核心的類(lèi)為：ZKFailoverController.java, 選舉的核心類(lèi)為ActiveStandbyElector.java 主備選舉 主備選舉的核 ......

客戶(hù)端認證 客戶(hù)端的入口函數為 KerberosAuthenticator.authenticate函數 連接HTTP服務(wù)端 HttpURLConnection conn = token.openConnection(url, connConfigurat ......