解决 Jenkins 性能缓慢的问题

admin 2022年4月8日08:50:22评论234 views字数 4223阅读14分4秒阅读模式

解决 Jenkins 性能缓慢的问题

没有什么比缓慢的持续集成系统更令人沮丧的了。它减慢了反馈循环并阻止代码快速投入生产。虽然像使用性能更好的服务器可以为您争取时间,但您最终必须投资于维持持续集成工作流程的成本。

Jenkins 是目前最流行的 CI/CD 工具之一,但随着时间的推移,用户经常会遇到滞后和响应缓慢问题。在本指南中,我将分享一些 Jenkins 性能问题的概述,以及一些无需升级硬件即可显着提高性能的技巧。

1. 为什么 Jenkins 如此受欢迎的 CI/CD 选择?

Jenkins 是一种基于 Java 的开源工具,成千上万的开发人员在数十万次安装中使用它,使其成为最受欢迎的自动化集成工具。这种广泛使用意味着很容易找到对 Jenkins 的支持和提示,但这并不是它如此广泛使用的唯一原因。

Jenkins 为 CI 工作流程带来了许多有趣的范例,包括:

  • 更快的部署。在所有开发人员提交他们的代码之后,一次测试和部署构建的日子已经一去不复返了。使用 Jenkins 的自动化 CI/CD 管道,无论何时开发人员提交代码,它都会在一天中跨多个周期进行构建和测试。
  • 可扩展的主代理架构。在大规模管理分布式构建时,Jenkins 可能是一个不错的选择。Jenkins 的主服务器是调度构建作业并将它们分配给代理(以前是从属)执行的主服务器。此模式允许您在一台或数百台服务器上运行 Jenkins 以加快构建速度。
  • 数以千计的插件:作为一个开源平台,Jenkins 为其他开发人员构建的持续集成提供了大量插件。这允许您扩展基本功能,而无需在内部编写或维护大量额外代码。

2. 克服常见的 Jenkins 性能问题

随着时间的推移,构建频率的增加、并行运行的多个作业以及构建复杂性的增加可能会导致 Jenkins 出现性能问题。您的体验可能会因您的使用场景而异,但一些常见问题包括:

  • 每次运行时构建似乎都“卡在”特定步骤的“中断”。
  • 达到单个机器或主节点的内存限制。
  • CPU 瓶颈会减慢构建的特定部分。
  • 插件或脚本中的错误或低效代码。
  • 由于这些问题可能是由多种根本原因引起的,因此很难概括解决方案,但 Jenkins 用户可能想要研究一些事情。以下是一些最通用的方法,您可以提高 Jenkins 构建性能并限制上述问题的频率。

2.1 避免在管道中使用复杂的 Groovy 脚本

Jenkins Groovy脚本控制台在主节点上执行并直接使用主资源,例如CPU和存储器。因此,建议您减少管道中 Groovy 脚本的数量和复杂性,转而可以直接使用在每个代理上运行的插件。

在 Jenkins 中要避免的最常见的 Groovy 方法是 JsonSlurper、Jenkins.getInstance 和 HttpRequest。Jenkins在其博客上有更多关于可扩展管道代码和要避免的操作的建议。

2.2 在主节点上保持最少的构建

Jenkins 的主节点位于应用程序运行的整个 CI/CD 流程的中心。因此,主节点上的构建数量会显着影响资源使用。在主节点上保持较少的构建将为代理节点留出足够的 CPU 和内存来安排和触发作业。

您可以在工作中使用“限制项目可以运行的位置”选项。虽然 Jenkins 仍将在主节点上运行轻量级执行器,但您的重量级执行器将在代理节点上运行。

将主节点视为 Jenkins 的大脑。与代理不同,主节点不能被清除或替换。因此,为确保最佳 CI/CD 功能,请考虑对 Jenkins 进行一些性能调整,并将主节点从不必要的任务中解放出来。这将为您提供足够的内存和 CPU 来有效调度和构建代理上的触发器。

2.3 不要过渡 Jenkins 主节点插件安装

DevOps 专业人员经常跨多个团队和项目工作,以完成与 CI/CD 相关的任务。如果这是您的情况,请注意不要给单个 Jenkins master 带来负担。相反,创建多个主控。多个 master 将确保为 master 分配项目特定的资源,并且您还将避免插件冲突。

此外,不要设置可能在周期中的任何地方失败的长时间构建,记住将构建分解为多个较小的作业。

2.4 轻松管理代理

在设置 Jenkins 时,正确设置代理很重要。您希望确保在时机成熟时,您可以轻松添加新代理或替换现有代理。为此,请考虑为代理创建虚拟机镜像。您也可以考虑在 Kubernetes 或Amazon EKS等可扩展集群中的Docker 容器内运行 Jenkins。

使用具有通用性的代理也是一个好主意;一个代理应该运行多个不同的作业并最大限度地利用资源。

2.5 删除构建历史

一段时间后,Jenkins 构建可能会堆积起来,磁盘消耗可能会失控。开发人员经常忽略 Jenkins 的Discard Old Builds选项。设置指标,例如构建数量和保留构建和工件的天数,位于 Jenkins Log Rotation 菜单下。

与其让旧版本累积并消耗文件系统,开发人员可以启用Discard Old Builds并在 Jenkins 作业完成后享受自动资源使用清理。您还可以使用 G1 垃圾收集器来代替 Java 8 的默认Parallel GC,因为前者是一种服务器风格的垃圾收集器,具有较低的 GC 暂停时间。

也可以通过 Jenkins 命令行手动删除构建,或者使用定期清理旧构建的cron 作业。您可以在此参考文章中找到丢弃旧构建数据的其他选项https://support.cloudbees.com/hc/en-us/articles/215549798-Deleting-Old-Builds-Best-Strategy-for-Cleanup-and-disk-space-management

2.6 防止并行作业中的资源冲突

并行运行的作业可能需要独占访问端口或资源。这可能会导致冲突、构建失败并进一步减慢 Jenkins 流水线。例如,如果您并行运行多个构建,则它们在访问资源时很有可能发生冲突,例如 Postgres 的数据库端口 5432。

Jenkins 提供Throttle Concurrent Builds插件来帮助调节 Jenkins 节点上的并发构建数量:

// Throttle a single operation
throttle(['test_1']) {
    node() {
        sh "sleep 100"
        echo "Done"
    }
}

2.7 控制堆大小

您想创建以性能为导向且永不会因内存泄漏或内存不足错误而失败的 CI/CD 管道吗?注意堆大小。随着 Jenkins 构建数量的增长,如果不注意默认堆大小可能会导致内存不足错误。

大多数现代 Java 应用程序在启动期间都使用最大堆大小配置。为了让 Jenkins 顺利运行,请将最大堆大小属性降低到最大4 GB。您可以随时间增加堆大小,具体取决于 Jenkins 构建。

要将堆大小设置为 4 GB:

  • /etc/default/jenkins
  • JAVA_ARGS="-Xmx4096m"

2.8 避免插件过载

Jenkins 拥有超过一千个可用插件,为其用户提供了许多功能来增强他们的 CI/CD 管道。但是,在向管道添加插件和外部服务时,请牢记性能。将 Jenkins 与外部服务集成通常会减慢 Jenkins UI 并导致不利影响,例如代理丢失或断开连接。

为了确定插件是否导致您的构建速度变慢,您可以尝试在禁用所有或部分插件的情况下运行构建。逐渐添加每个返回以确定导致瓶颈的原因。找到导致性能问题的插件(或插件组合)后,您有几个选择:

  • 通过搜索Jenkins Plugin Index找到替换插件。
  • 通过检查changelog来查看Jenkins 是否添加了对这个特性的原生支持。您可能必须升级 Jenkins 才能获得最新功能,但这通常是提高性能的好主意。
  • 用自定义脚本替换插件,记住这可能会引入新的性能问题。不过,如果您安装一个复杂的插件,但只使用一两个小功能,脚本可能会更有效。
  • 如果您可以没有它,请删除该插件。有时这是一个值得的权衡。

3.0 跟踪 Jenkins 性能

当您开始调整 Jenkins 性能时,您可能有兴趣添加一个插件来帮助监控和提高性能。例如,您可以利用Jenkins Monitoring 插件深入了解您的 CI/CD 管道,包括:

  • 错误日志
  • CPU、内存和平均系统负载图表
  • 关于 HTTP 会话和 HTTP 响应时间的报告
  • 构建时间和构建步骤的详细统计信息
  • 所有节点的聚合堆直方图
解决 Jenkins 性能缓慢的问题
Jenkins 性能监控工具

这可以帮助您评估性能调整的有效性,并在您继续改进 Jenkins 安装时为您提供指导。

解决 Jenkins 性能缓慢的问题

4.0 总结

Jenkins 的响应能力问题很常见,尤其是在处理较重的构建时。损坏的 Jenkins CI/CD 管道可能会拖延您的开发团队并创建不必要的依赖项。本文中讨论的技巧应该可以帮助您显着提高 Jenkins CI/CD 管道的性能。


本文转载自:「云原生技术爱好者社区」,原文:https://mp.weixin.qq.com/s/u34d-xTZZDs53ZLfqtilxQ,版权归原作者所有。


推荐阅读 点击标题可跳转

《Docker是什么?》

《Kubernetes是什么?》

《Kubernetes和Docker到底有啥关系?》

《教你如何快捷的查询选择网络仓库镜像tag》

《Docker镜像进阶:了解其背后的技术原理》

《教你如何修改运行中的容器端口映射》

《k8s学习笔记:介绍&上手》

《k8s学习笔记:缩扩容&更新》

《Docker 基础用法和命令帮助》

《在K8S上搭建Redis集群》

《灰度部署、滚动部署、蓝绿部署》

《PM2实践指南》

《Docker垃圾清理》

《Kubernetes(k8s)底层网络原理刨析》

《容器环境下Node.js的内存管理》

《MySQL 快速创建千万级测试数据》

《Linux 与 Unix 到底有什么不同?》

《浅谈几种常见 RAID 的异同》

《Git 笔记-程序员都要掌握的 Git》

《老司机必须懂的MySQL规范》

《Docker中Image、Container与Volume的迁移》

《漫画|如何用Kubernetes搞定CICD》

《写给前端的Docker实战教程》

《Linux 操作系统知识地图2.0,我看行》

《16个概念带你入门 Kubernetes》

《程序员因接外包坐牢456天,长文叙述心酸真实经历》

《IT 行业老鸟,有话对你说》

《HTTPS 为什么是安全的?说一下他的底层实现原理?



免责声明:本文内容来源于网络,所载内容仅供参考。转载仅为学习和交流之目的,如无意中侵犯您的合法权益,请及时联系Docker中文社区!



解决 Jenkins 性能缓慢的问题

解决 Jenkins 性能缓慢的问题

原文始发于微信公众号(Docker中文社区):解决 Jenkins 性能缓慢的问题

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2022年4月8日08:50:22
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   解决 Jenkins 性能缓慢的问题https://cn-sec.com/archives/888604.html

发表评论

匿名网友 填写信息