Kubernetes 集群需要重点关注的 6 个指标

admin 2022年5月13日01:54:57安全闲碎评论7 views5307字阅读17分41秒阅读模式

如今行业中的公司似乎分为两个 Kubernetes 阵营:那些已经大量使用它来处理生产工作负载的公司,以及那些正在将其工作负载迁移到其中的公司。

Kubernetes 的问题在于它不像 Redis RabbitMQ 或 PostgreSQL 那样的单一系统。它是几个控制平面组件(例如 etcd、api 服务器)的组合,它们通过一组 VM 在用户(数据)平面上运行我们的工作负载。乍一看,来自控制平面组件、虚拟机和工作负载的指标数量可能会让人不知所措。从这些指标中形成一个全面的可观察性堆栈需要具备管理 Kubernetes 集群的良好知识和经验。

那么如何处理海量的指标呢?阅读这篇文章可能是一个很好的起点🙂

我们将介绍基于 k8s 元数据的最关键指标,这些元数据构成了监控工作负载并确保它们处于健康状态的良好基准。为了使这些指标可用,您需要安装kube-state-metrics和 Prometheus 来抓取它公开的指标并将它们存储起来以供以后查询。我们不打算在这里介绍安装过程,但一个很好的引导是 Prometheus Helm Chart https://github.com/prometheus-community/helm-charts/tree/main/charts/prometheus,它使用默认设置安装两者。

监控的最关键的 Kubernetes 指标

对于列出的每个指标,我们将介绍指标的含义、为什么要关注它以及如何根据它设置高警。

CPU / 内存请求与实际使用情况

每个容器都可以定义对 CPU 和内存的请求。Kubernetes 调度程序正在使用这些请求来确保它选择一个能够承载 Pod 的节点。它通过计算节点上未使用的资源来考虑其容量减去当前调度的 Pod 请求来实现这一点。

让我们看一个更清楚的示例:假设您有一个具有 8 个 CPU 内核的节点,运行 3 个 pod,每个 pod 带有一个请求 1 个 CPU 内核的容器。该节点有 5 个未预留的 CPU 内核供调度程序在分配 pod 时使用。

Kubernetes 集群需要重点关注的 6 个指标
5 个内核可用于其他 pod

请记住,“可用”不是指实际使用情况,而是指当前调度到节点中的 pod 尚未请求(保留)的 CPU 内核。需要 6 个 CPU 内核的 pod 不会被调度到此节点,因为没有足够的可用 CPU 内核来托管它。

“实际使用情况”指标跟踪 pod 在运行时使用了多少资源。当我们测量实际使用情况时,它通常是跨越一组 pod(deployment、statefulset 等),因此我们应该参考百分位数而不是单个 pod 的使用情况。P90 应该是这个问题的一个很好的临界值。例如,每个 pod 需要 1 个 CPU 内核的部署实际上可能在其副本的 P90 上使用是 0.7 个内核。

保持请求和实际使用一致很重要。高于实际使用量的请求会导致资源使用效率低下(利用率不足)。想想当请求 4 个核心的 pod 在第 90 个百分位使用 1 个核心时会发生什么。K8s 可能会将此 pod 调度到具有空闲 4 个核心的节点中,这意味着没有其他 pod 将能够使用保留的 3 个未使用的核心。在下图中,我们可以清楚地看到每个 pod 保留了 4 个核心,但实际上使用了一个核心,这意味着我们在节点上“浪费”了 6 个核心,这些核心将保持未使用状态。

Kubernetes 集群需要重点关注的 6 个指标
请求高于实际使用量 等价于 未充分利用

内存也是如此——如果我们将请求设置为高于使用量,我们最终将不会使用可用内存。

另一个选项是 pod 的请求低于其实际使用量(过度使用)。在 CPU 过度使用的情况下,由于节点上的资源不足,您的应用程序将运行得更慢。想象一下 3 个 Pod,每个 Pod 请求 1 个内核,但实际上使用 3 个内核。这 3 个 Pod 可能被调度到一台 8 核机器中(1 个请求 * 3 =3<8),但是当它们这样做时,它们将争夺 CPU 时间,因为它们实际使用量(9 个核心)超过了节点上的核心数量。

Kubernetes 集群需要重点关注的 6 个指标
Pods 实际使用量超过了一个节点上的核心数

如何解决呢?让我们将 pod 请求定义为 100%。实际使用的合理范围(CPU 或内存,这并不重要)在第 90 个百分位上为 60%–80%。例如,如果您有一个请求 10GB 内存的 pod,则其实际使用量的 90% 应该是 6GB-8GB。如果它的使用率低于 6GB,您将无法充分利用您的内存并浪费金钱。如果它高于 8GB,你会因为内存不足而面临 OOMKilled 的风险。我们应用于内存请求的相同规则也可以应用于 CPU 请求。

CPU / 内存限制与实际使用情况

当调度程序使用资源请求将工作负载调度到节点中时,资源限制允许您定义运行时工作负载资源使用的边界。

了解强制执行 CPU 和内存限制的方式非常重要,这样您才能了解跨过它们的工作负载的影响:当容器达到 CPU 限制时,它将受到限制,这意味着它从操作系统获得的 CPU 周期少于它可能有并且最终导致执行时间变慢。托管 pod 的节点是否有空闲的 CPU 周期空闲并不重要——容器受到 docker 运行时的限制。

在不知不觉中被 CPU 节流是非常危险的。系统中服务调用延迟会上升,如果系统中的某个组件受到限制并且您没有事先设置所需的可观察性,则可能很难查明根本原因。如果受限制的服务是业务中的核心流程,这种情况可能会导致部分服务中断或完全不可用。

内存限制的执行方式与 CPU 限制不同:当您的容器达到内存限制时,它会被 OOMKilled,这与由于节点上的内存不足而被 OOMKIlled 产生的效果相同:进程将丢弃运行中的请求,服务将容量不足,直到容器重新启动,然后它将有一个冷启动期。如果进程足够快地积累内存,它可能又会进入 CrashLoop 状态——这种状态表明进程要么在启动时崩溃,要么在一遍又一遍地启动后的短时间内崩溃。Crashlooping pod 通常会导致服务不可用。

如何解决呢?监控资源限制的方式类似于我们监控 CPU/内存请求的方式。您的目标应该是在第 90 个百分位的限制中达到 80% 的实际使用量。例如,如果我们的 Pod 的 CPU 限制为 2 核,内存限制为 2GB,则告警应设置为 CPU 使用量为 1.6 核或内存使用量为 1.6GB。高于此值的任何内容都会导致您的工作负载根据超出的阈值受到限制或重新启动的风险。

副本中不可用 Pod 的百分比

当您部署应用程序时,您可以设置它应该运行的所需副本(pod)的数量。有时,由于多种原因,某些 pod 可能不可用,例如:

  • 由于资源请求,某些 pod 可能不适合集群中任何正在运行的节点——这些 pod 将转换为 Pending 状态,直到节点释放资源来托管它们或满足要求的新节点加入集群。

  • 一些 pod 可能无法通过 liveness/readiness 探测,这意味着它们要么重新启动(liveness),要么被从服务端点中剔除(readiness)。

  • 某些 pod 可能会达到其资源限制并进入 Crashloop 状态。

  • 由于各种原因,某些 pod 可能托管在故障节点上,如果节点不健康,则托管在其上的 pod 很可能无法正常运行。

pod 不可用显然对您的系统来说不是一个健康的状态。它可能会导致轻微的服务中断到完全的服务不可用,具体取决于不可用 pod 占所需副本数量的百分比以及系统核心流中缺失 pod 的重要性。

如何解决呢?我们在这里要监控的功能是不可用 pod 占所需 pod 数量的百分比。您应该在 KPI 中瞄准的确切百分比取决于服务的重要性及其系统中的每个 pod。对于某些工作负载,只要系统自行恢复到健康状态并且对客户没有影响,我们可能会接受 5% 的 pod 在一段时间内不可用。对于某些工作负载,甚至 1 个不可用的 pod 都可能成为问题。一个很好的例子是 statefulsets,其中每个 pod 都有其唯一的身份并且不可用可能是不可接受的。

HPA | 最大副本之外的所需副本

Horizontal Pod Autoscaler (HPA) 是一种 k8s 资源,允许您根据您定义的目标函数调整工作负载正在运行的副本数量。常见的用例是根据部署中 pod 的平均 CPU 使用率与 CPU 请求相比自动扩展。

当部署的副本数量达到 HPA 中定义的最大值时,您可能会遇到需要更多 pod 但 HPA 无法扩展的情况。根据您设置的放大功能,结果可能会有所不同。这里有 2 个例子可以更清楚地说明:

  • 如果扩展功能使用 CPU 使用率,则现有 pod 的 CPU 使用率将增加到达到极限并受到限制的程度。这最终会导致系统的吞吐量降低。
  • 如果扩展功能使用自定义指标,例如队列中未处理消息的数量,则队列可能会开始充满未处理消息,从而在处理管道中引入延迟。

如何解决呢?监控这个指标非常简单——您需要为当前副本数除以 HPA 最大副本数设置 X% 阈值。理智的 X 可能是 85%,以允许您在达到最大值之前进行所需的更改。请记住,增加副本数量可能会影响系统的其他部分,因此您最终可能会更改比 HPA 配置更多的内容来启用此扩展操作。一个典型的例子是,当您增加副本数量并且更多 pod 尝试连接到它时,数据库会达到其最大连接限制。这就是为什么在这种情况下使用足够大的缓冲区作为准备时间很有意义。

节点状态检查失败

kubelet 是一个运行在集群上每个节点上的 k8s 代理。在其职责中,kubelet 发布了一些指标(称为节点条件)来反映它运行的节点的健康状态:

  • 准备好— 如果节点健康并准备好接受 pod,则上报 true
  • 磁盘压力— 如果节点的磁盘没有可用存储空间,则上报 true
  • 内存压力— 如果节点内存不足,则上报 true
  • PID压力— 如果节点上运行的进程太多,则上报 true
  • 网络不可用— 如果节点的网络未正确配置,则上报 true

一个健康的节点应该在 Ready 条件上报 True,在所有其他四个条件上报 False。

如果 Ready 条件变为负数或任何其他条件变为正数,则可能意味着在该节点上运行的部分或全部工作负载运行不正常,您应该注意这一点。

对于 DiskPressure、MemoryPressure 和 PIDPressure,根本原因非常明显——节点无法承受进程写入磁盘/分配内存/生成进程的速度。

Ready 和 NetworkUnavailable 条件有点棘手,需要进一步调查才能找到问题的根源。

如何解决呢?我首先期望正好有 0 个节点不健康,这样当每个节点变得不健康时都会触发告警。

持久卷利用率

Persistent Volume (PV) 是一种 k8s 资源对象,表示可以附加和分离到系统中的 Pod 的存储块。PV 的实现是特定于平台的,例如,如果您的 Kubernetes 部署基于 AWS,则 PV 将由 EBS 卷表示。与每个块存储一样,它具有容量并且可能会被时间填满。

当一个进程使用一个没有可用空间的磁盘时,就会崩溃,因为故障可能以一百万种不同的方式表现出来,而堆栈跟踪并不总是导致根本原因。除了使您免于未来的故障之外,观察此指标还可用于规划随时间记录和添加数据的工作负载。Prometheus 是此类工作负载的一个很好的例子——当它将数据点写入其时间序列数据库时,磁盘中的可用空间量会减少。由于 Prometheus 写入数据的速率非常一致,因此很容易使用 PV 利用率指标来预测删除旧数据或购买更多磁盘容量所需的时间。

如何解决此类问题?kubelet 公开了 PV 使用情况和容量,因此它们之间的简单划分应该可以为您提供 PV 使用情况。建议一个合理的警报阈值有点困难,因为它实际上取决于利用率图的轨迹,但根据经验,应该提前两到三周预测到 PV 耗尽。

总结

正如您已经发现的那样,处理 Kubernetes 集群并不是一件容易的事。有大量可用的指标,需要大量的专业知识来选择重要的指标。

拥有一个监控集群关键指标的仪表盘既可以作为一种预防措施来避免出现问题,也可以作为一种工具来解决系统中的问题。

本文转载自:「云原生技术爱好者社区」,版权归原作者所有。


推荐阅读 点击标题可跳转

《Docker是什么?》

《Kubernetes是什么?》

《Kubernetes和Docker到底有啥关系?》

《教你如何快捷的查询选择网络仓库镜像tag》

《Docker镜像进阶:了解其背后的技术原理》

《教你如何修改运行中的容器端口映射》

《k8s学习笔记:介绍&上手》

《k8s学习笔记:缩扩容&更新》

《Docker 基础用法和命令帮助》

《在K8S上搭建Redis集群》

《灰度部署、滚动部署、蓝绿部署》

《PM2实践指南》

《Docker垃圾清理》

《Kubernetes(k8s)底层网络原理刨析》

《容器环境下Node.js的内存管理》

《MySQL 快速创建千万级测试数据》

《Linux 与 Unix 到底有什么不同?》

《浅谈几种常见 RAID 的异同》

《Git 笔记-程序员都要掌握的 Git》

《老司机必须懂的MySQL规范》

《Docker中Image、Container与Volume的迁移》

《漫画|如何用Kubernetes搞定CICD》

《写给前端的Docker实战教程》

《Linux 操作系统知识地图2.0,我看行》

《16个概念带你入门 Kubernetes》

《程序员因接外包坐牢456天,长文叙述心酸真实经历》

《IT 行业老鸟,有话对你说》

《HTTPS 为什么是安全的?说一下他的底层实现原理?



免责声明:本文内容来源于网络,所载内容仅供参考。转载仅为学习和交流之目的,如无意中侵犯您的合法权益,请及时联系Docker中文社区!



Kubernetes 集群需要重点关注的 6 个指标

Kubernetes 集群需要重点关注的 6 个指标

原文始发于微信公众号(Docker中文社区):Kubernetes 集群需要重点关注的 6 个指标

特别标注: 本站(CN-SEC.COM)所有文章仅供技术研究,若将其信息做其他用途,由用户承担全部法律及连带责任,本站不承担任何法律及连带责任,请遵守中华人民共和国安全法.
  • 我的微信
  • 微信扫一扫
  • weinxin
  • 我的微信公众号
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2022年5月13日01:54:57
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                  Kubernetes 集群需要重点关注的 6 个指标 http://cn-sec.com/archives/997470.html

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: