50个运维故障排查及修复技巧总结

一、系统层面

1. 检查系统日志：
   • 技巧: 查看 journalctl、/var/log 下的日志，找出问题线索。
   • 修复: 根据日志内容，调整服务配置，重启服务。
2. 高负载排查：
   • 技巧: 使用 top、htop 分析 CPU、内存和 I/O 的使用情况。
   • 修复: 优化负载进程、调整优先级或增加资源。
3. 内存泄漏排查：
   • 技巧: 使用 free、vmstat 查看内存使用，valgrind 分析进程内存使用。
   • 修复: 重启进程，修复内存泄漏问题。
4. 磁盘空间不足：
   • 技巧: 使用 df -h 检查磁盘使用，du -sh 查找占用大量空间的文件。
   • 修复: 删除不必要的文件，清理日志，扩容磁盘。
5. 服务无法启动：
   • 技巧: 使用 systemctl 查看服务状态，查阅相关日志。
   • 修复: 检查依赖、配置文件错误，修复后重启服务。
6. 内核参数调优：
   • 技巧: 使用 sysctl 查看和调整系统内核参数。
   • 修复: 优化 TCP 缓冲区、最大连接数等参数，提升系统性能。
7. 进程崩溃：
   • 技巧: 使用 dmesg 查看内核日志，分析进程崩溃原因。
   • 修复: 排查资源耗尽、代码错误等问题，修复后重启进程。
8. CPU瓶颈排查：
   • 技巧: 使用 mpstat、sar 检查 CPU 使用情况。
   • 修复: 优化应用代码、调整负载均衡、增加 CPU 核心数。
9. 文件系统问题：
   • 技巧: 使用 fsck 检查文件系统错误。
   • 修复: 在系统重启时运行 fsck 修复文件系统。
10. 内存交换（swap）使用过高：
    • 技巧: 使用 vmstat 检查 swap 使用情况。
    • 修复: 增加物理内存，调整 swap 使用策略。

二、网络层面

11. 网络连通性检查：
    • 技巧: 使用 ping、traceroute 检查连通性和路由问题。
    • 修复: 修复网络配置，检查防火墙规则。
12. 端口占用问题：
    • 技巧: 使用 netstat、ss 查看端口占用情况。
    • 修复: 终止占用端口的进程或修改应用程序端口配置。
13. 防火墙问题：
    • 技巧: 使用 iptables、firewalld 检查和调整防火墙规则。
    • 修复: 修改防火墙规则，开放必要端口。
14. DNS解析问题：
    • 技巧: 使用 nslookup、dig 查看域名解析情况。
    • 修复: 检查本地 DNS 配置，更换 DNS 服务器。
15. 网络拥塞：
    • 技巧: 使用 iftop、nload 分析网络流量。
    • 修复: 限制大流量任务，优化网络拓扑或升级带宽。
16. TCP连接超时问题：
    • 技巧: 使用 netstat 或 ss 检查 TCP 连接状态。
    • 修复: 调整 TCP 超时参数，优化连接池配置。
17. 带宽占用过高：
    • 技巧: 使用 iftop 查看带宽使用情况。
    • 修复: 限制带宽占用高的进程或用户，优化带宽分配。
18. ARP冲突：
    • 技巧: 使用 arp -a 查看 ARP 表冲突情况。
    • 修复: 修正IP地址分配，避免冲突。
19. MTU不匹配问题：
    • 技巧: 使用 ping -M do -s 测试 MTU 配置。
    • 修复: 调整 MTU 设置，匹配网络设备参数。
20. SSL证书问题：
    • 技巧: 使用 openssl 工具检查 SSL 证书状态。
    • 修复: 更新或重新生成 SSL 证书。

三、应用层面

21. 应用服务宕机：
    • 技巧: 检查日志文件，查看崩溃前的记录。
    • 修复: 优化服务配置或修复应用程序错误，确保服务稳定运行。
22. 高并发引起的瓶颈：
    • 技巧: 使用 netstat、sar 检查并发连接数。
    • 修复: 增加负载均衡节点，优化应用代码和数据库查询。
23. 应用死锁：
    • 技巧: 使用 strace 或 gdb 调试进程，定位死锁问题。
    • 修复: 修复代码逻辑，避免并发操作导致死锁。
24. 应用启动慢：
    • 技巧: 使用 strace 跟踪启动过程中的系统调用。
    • 修复: 优化启动流程，减少加载时间。
25. 应用日志过大：
    • 技巧: 定期检查日志文件大小，使用 logrotate 进行日志轮转。
    • 修复: 调整日志级别，定期清理日志。
26. 应用端口冲突：
    • 技巧: 使用 lsof 或 netstat 查看端口占用情况。
    • 修复: 释放被占用端口或修改应用的端口配置。
27. 连接池耗尽：
    • 技巧: 检查应用日志中的连接池耗尽错误。
    • 修复: 调整连接池配置，增加连接数或优化数据库查询。
28. 应用配置错误：
    • 技巧: 检查配置文件中的参数设置，确保其正确性。
    • 修复: 修正配置文件，重新加载服务。
29. 应用超时问题：
    • 技巧: 使用 curl 或 ab 工具测试应用响应时间。
    • 修复: 增加应用超时设置，优化数据库查询速度。
30. 依赖服务不可用：
    • 技巧: 使用 curl 或 telnet 测试依赖服务的可用性。
    • 修复: 检查依赖服务的运行状态，修复或重启服务。

四、数据库层面

31. 数据库连接失败：
    • 技巧: 检查数据库端口、用户权限和网络连通性。
    • 修复: 修正权限问题或网络配置。
32. 慢查询问题：
    • 技巧: 使用 EXPLAIN 分析 SQL 查询的执行计划。
    • 修复: 优化 SQL 查询，增加索引或进行分区。
33. 数据库死锁：
    • 技巧: 使用数据库的锁状态命令（如 MySQL 的 SHOW ENGINE INNODB STATUS）。
    • 修复: 优化事务处理，避免长时间锁定表。
34. 数据库性能瓶颈：
    • 技巧: 使用 mysqltuner 或数据库自带的性能监控工具。
    • 修复: 增加数据库缓存，优化查询，升级硬件资源。
35. 主从复制延迟：
    • 技巧: 查看复制状态，检查主从同步情况。
    • 修复: 优化主库的负载，增加从库数量或调整复制策略。
36. 数据表锁定：
    • 技巧: 使用 SHOW PROCESSLIST 或等效命令查看锁状态。
    • 修复: 优化查询，减少大批量操作对数据库的影响。
37. 数据库备份失败：
    • 技巧: 检查备份日志，确认备份失败的原因。
    • 修复: 增加存储空间或调整备份策略。
38. 数据库磁盘 I/O 问题：
    • 技巧: 使用 iostat 检查数据库的 I/O 使用情况。
    • 修复: 使用 SSD 或增加 RAID 阵列，优化 I/O 性能。
39. 表空间不足：
    • 技巧: 使用 SHOW TABLE STATUS 查看表空间使用情况。
    • 修复: 增加表空间，清理无用数据。
40. 连接数过多：
    • 技巧: 使用 SHOW STATUS 查看数据库连接数。
    • 修复: 增加最大连接数或优化连接池管理。

五、安全与权限管理

41. 权限错误导致无法访问：
    • 技巧: 使用 chmod、chown 修复文件或目录的权限。
    • 修复: 调整权限设置，确保合理分配用户权限。
42. SSH登录失败：
    • 技巧: 检查 /var/log/auth.log 或 journalctl 查看 SSH 登录失败原因。
    • 修复: 检查 SSH 配置文件，调整防火墙规则。
43. 系统防暴力破解：
    • 技巧: 使用 fail2ban 等工具监控异常登录尝试。
    • 修复: 配置自动封禁策略，保护服务器。
44. 防火墙规则过于严格：
    • 技巧: 使用 iptables 或 firewalld 查看防火墙规则。
    • 修复: 放行必要的端口，合理设置策略。
45. 定期密码更换：
    • 技巧: 设置定期密码策略，避免密码泄露。
    • 修复: 强制用户定期更换密码。
46. 日志审计：
    • 技巧: 使用 auditd 审计用户操作日志。
    • 修复: 定期审查日志，排查异常操作。
47. 文件完整性检测：
    • 技巧: 使用 tripwire 或 aide 检查文件完整性。
    • 修复: 发现异常后及时修复或报警。
48. 应用漏洞扫描：
    • 技巧: 使用 OpenVAS 或 Nessus 扫描应用系统漏洞。
    • 修复: 根据扫描结果修复漏洞，及时打补丁。
49. 访问控制列表（ACL）管理：
    • 技巧: 使用 setfacl 查看和调整文件 ACL。
    • 修复: 设置合理的访问控制，防止越权访问。
50. 日志轮转失败：
    • 技巧: 检查 logrotate 配置文件，确保其正确性。
    • 修复: 修改轮转策略，保证日志文件定期归档。

总结

这50个运维排查及修复技巧，涵盖了系统、网络、应用、数据库和安全管理等多个层面。通过熟练掌握这些技巧，运维人员可以快速定位故障，并采取有效的修复措施，确保系统的稳定性和安全性。