内容简介：说到大规模集群管理，就离不开运维自动化。一个人手工也许可以运维几百台机器，但是随着集群规模的增长，我们需要的是一个人运维数万台机器。 这在大规模集群管理中是一个常见的问题。因此，运维自动化是一个很重要的事情，这也是为什么很多公司原因上云，因为上云之后运维的问题就托管给 云平台了。这也是云平台这么贵还能卖的这么好的原因。运维自动化的问题到底是一个什么问题？我认为，可以拆解为以下子问题：这里的每一个问题都是复杂的，困难的问题，远非表面上看起来那么简单。以下仅作简单的展开，提供一些思路。
说到大规模集群管理，就离不开运维自动化。一个人手工也许可以运维几百台机器，但是随着集群规模的增长，我们需要的是一个人运维数万台机器。 这在大规模集群管理中是一个常见的问题。因此，运维自动化是一个很重要的事情，这也是为什么很多公司原因上云，因为上云之后运维的问题就托管给 云平台了。这也是云平台这么贵还能卖的这么好的原因。
运维自动化的问题到底是一个什么问题？我认为，可以拆解为以下子问题：
-
自动发现错误
-
自动修复错误
-
安全（Safety 而非 Security）
这里的每一个问题都是复杂的，困难的问题，远非表面上看起来那么简单。以下仅作简单的展开，提供一些思路。
自动发现错误
我们先简单的将错误划分为两类：硬件错误和软件错误。
硬件错误
通常，商业硬件都会提供一些接口用于获取硬件错误信息，这些错误信息是由硬件自检产生的，例如硬盘 S.M.A.R.T。通过这些接口报告的错误信息是 比较准确的。但是还有一些情况，虽然硬件出问题了，但是硬件自检没有检测到。这种情况也会影响运行的软件，需要通过其他方式进行检测。这种问题 通常是由业务方发现异常，排除软件错误因素后，或由统计结论导出，确认为硬件问题。具体是什么硬件问题，还需要离线进行进一步检测。
还有一类特殊的硬件错误，发生点不在本机，但是也会影响服务，即网络错误。网络错误根据现象一般有以下分类：
-
传输内容错误，例如数据位反转
-
大量丢包，例如 CRC 校验莫名出现大量错误，但是实际上没错（有可能是硬件错误，也有可能是系统内核错误）
-
带宽下降，例如交换机错误
-
连接丢失，例如交换机错误
由于网络错误不一定发生在本机，因此很难通过单机定位问题，通常通过 PingMesh 结合其他手段发现问题，例如流量监控，内核关键 metric，交换机关键 metric。 最近的新方向是结合 SDN 和机器学习发现并解决网络问题。
软件错误
软件错误的类型五花八门。通用的检测和容忍错误的机制是复杂而困难的（例如拜占庭问题），所以要允许用户灵活方便的扩展错误发现规则。 一般来说，软件错误有以下几种：
-
操作系统错误
-
依赖环境错误
-
数据错误
-
配置错误
-
自身 bug
自动修复错误
通用的解决所有问题的方案（大概率）是不存在的，但是我们又不能完全为每一个特殊的错误定制修复的方法。对于硬件故障，我们只有换机器一条路可走。 对于操作系统的问题，通常重启即可解决问题，如果不能解决问题，可能需要重做系统。重做系统也涵盖了系统升级的需求（考虑到有些时候需要升级内核 才能解决问题）。数据错误需要使用强 checksum 校验，具体需要多强，需要覆盖多大范围，则是一个仁者见仁智者见智的问题。配置错误和自身 bug 其实 是部署需要解决的问题，如果能够及时发现问题，只需要在部署的过程中中止并回滚即可解决问题。而如何部署，又是一个可以写一篇文章的大问题了:D
安全
自动化最担心的问题就是安全。不能保证安全会导致可怕的后果，例如瞬间几万台机器被重做系统。在大规模集群管理中，所谓安全，实际上指的是安全规则， 安全规则保证的则是 SLA。可预期的 SLA 通常由 MTBF（Mean Time Between Failures）计算得出理论上限。自动修复会导致理论 MTBF 降低，这是因为 我们通过错误发现机制在建模的时候考虑了更多的错误因素。重启服务，重启机器，重做系统，换机器，都会导致服务中断。我们可以认为，在错误修复 期间，这台机器上的服务不可用。此时，如何有序的保证剩下的可用机器总是大于一定数量（并且满足一定规则），则是安全的核心。
以上所述就是小编给大家介绍的《大规模集群管理和运维自动化》，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持！
猜你喜欢:
- Firmament - 大规模集群任务调度
- 大规模集群下的Hadoop NameNode
- 分享 | 运营商大规模数据集群治理的实践指南
- 线上环境大规模 RocketMQ 集群不停机优雅升级实践
- 从应对日十亿量级监控项解密浪潮云平台大规模集群监控
- 大规模集群下Hadoop NameNode如何承载每秒上千次的高并发访问
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
XML Hacks
Michael Fitzgerald / O'Reilly Media, Inc. / 2004-07-27 / USD 24.95
Developers and system administrators alike are uncovering the true power of XML, the Extensible Markup Language that enables data to be sent over the Internet from one computer platform to another or ......一起来看看 《XML Hacks》 这本书的介绍吧!
