内容简介:翻译自:https://stackoverflow.com/questions/31114568/how-to-interpret-mapreduce-performance-counters
>在任务计数器中,CPU花费来自proc / stat的utime stime,因此它意味着像IOWait这样的东西不会被计算在内.是对的吗?
>整个任务的经过时间比花费计数器的CPU时间长很多,这是否意味着节点非常繁忙且容器没有CPU或等待很长时间的IO?
>如何从计数器判断任务是CPU绑定还是IO计数?
‘CPU_MILLISECONDS’计数器可以为您提供有关 – 所有任务在CPU上花费的总时间的信息.
‘REDUCE_SHUFFLE_BYTES’数字越高,n / w利用率越高. (更多选择可以这样)
Hadoop中有4类计数器:文件系统,作业,框架和自定义.
您可以使用内置计数器来验证:
1.The correct number of bytes was read and written 2.The correct number of tasks was launched and successfully ran 3.The amount of CPU and memory consumed is appropriate for your job and cluster nodes 4.The correct number of records was read and written
更多信息avalible @ https://www.mapr.com/blog/managing-monitoring-and-testing-mapreduce-jobs-how-work-counters#.VZy9IF_vPZ4 (** credits- mapr.com)
翻译自:https://stackoverflow.com/questions/31114568/how-to-interpret-mapreduce-performance-counters
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
高效能程序员的修炼
[美]Jeff Atwood / 陆其明、张健 / 人民邮电出版社 / 2013-7 / 49
jeff atwood于2004年创办coding horror博客(http://www.codinghorror.com),记录其在软件开发经历中的所思所想、点点滴滴。时至今日,该博客每天都有近10万人次的访问量,读者纷纷参与评论,各种观点与智慧在那里不断激情碰撞。 《高效能程序员的修炼》是coding horror博客中精华文章的集合。全书分为12章,涉及迈入职业门槛、高效能编程、应聘......一起来看看 《高效能程序员的修炼》 这本书的介绍吧!
XML、JSON 在线转换
在线XML、JSON转换工具
UNIX 时间戳转换
UNIX 时间戳转换