KES运维自动化与脚本体系实战前面我们讲完国产化全栈迁移改造这一章回归日常运维落地。很多企业DBA每天耗费大量时间做重复工作手动备份、逐条查看慢SQL、人工检查磁盘、手动新建分区、故障后手动排查会话。人工操作不仅效率低还容易出现漏检、遗忘备份、操作失误等线上风险。结合我在政务、能源、金融项目沉淀的全套自动化脚本本章把巡检、备份、分区、日志清理、故障告警、会话清理六大高频运维场景的可直接运行脚本全部整理出来同时配套定时任务部署方案、日志留存规范、异常推送配置。全文七千字以上口语化实战讲解所有Shell、PL/SQL脚本兼容KES V9R1C10麒麟、CentOS、统信系统均可直接复用落地后能把80%重复性运维工作交给程序自动执行。一、 本章学习导读1.1 学习目标建立自动化运维整体思路分清巡检、备份、归档、告警四大自动化模块分工掌握Linux Shell批量运维脚本编写适配电科金仓环境变量、连接逻辑落地自动全量/增量备份、过期备份清理、备份有效性校验整套自动化流程实现分区自动创建、历史分区分离归档不用每月手动执行DDL搭建定时巡检脚本自动输出磁盘、连接、锁、慢SQL、主延迟巡检报告配置异常邮件/短信告警数据库故障第一时间推送运维人员1.2 本章重点电科金仓通用环境变量脚本所有工具统一调用自动备份校验清理一体化Shell脚本按月分区自动预创建PL/SQL定时脚本每日全维度巡检脚本与报告输出死锁、长会话、磁盘满自动清理脚本crontab定时任务标准化配置方案二、 为什么要做运维自动化先说我多年运维的真实感受纯人工运维有三大无法规避的短板。第一是人力成本高每天早晚固定巡检、每月新建分区、凌晨手动备份大量重复操作占用大量工作时间第二是人为失误风险忙起来忘记备份、漏看磁盘告警、手动删分区误删业务表线上事故屡见不鲜第三是响应滞后数据库半夜磁盘爆满、主从同步中断没人值守的情况下要等到第二天上班才发现故障时长直接拉长数小时。运维自动化核心逻辑就是标准化脚本定时调度异常告警把固定、重复、低技术含量的操作全部交给服务器自动执行DBA只需要处理脚本推送的异常告警把精力投入性能优化、架构迭代这类核心工作。本章所有脚本都经过线上长期验证不存在语法报错、权限异常问题只需要修改IP、密码、目录少量参数即可投入生产使用。三、 基础通用环境配置脚本所有自动化脚本都会复用数据库连接、备份路径、日志路径等公共参数先写公共配置文件后续脚本统一引用避免多处修改IP、密码。新建文件kes_env.sh统一存放全局变量#!/bin/bash# 电科金仓全局环境配置脚本# 数据库连接信息DB_HOST127.0.0.1DB_PORT54321DB_USERsysDB_PWDKingbase2026#DB_NAMEstudent_manager# 备份存储根目录BACK_ROOT/data/kes_backup# 脚本运行日志目录SCRIPT_LOG/data/script_log# 归档分区存储目录COLD_TABLESPACE/opt/KingbaseCold# 告警接收邮箱ALERT_MAILadmingov.cn# 初始化目录不存在自动创建mkdir-p${BACK_ROOT}mkdir-p${SCRIPT_LOG}# 导出密码环境变量避免每次输入密码exportKINGBASE_PASSWORD${DB_PWD}# 日志时间格式CUR_DATE$(date%Y%m%d)CUR_DATETIME$(date%Y%m%d_%H%M%S)使用方式任何脚本开头第一行引入配置文件source/opt/script/kes_env.sh⚠️ 安全注意生产环境脚本文件权限设置为600仅root/kingbase用户可读防止密码泄露chmod600/opt/script/kes_env.shchownkingbase:kingbase /opt/script/kes_env.sh四、 全自动备份一体化脚本人工备份最大隐患是备份文件损坏、过期文件堆积占满磁盘这套脚本实现「自动导出备份→压缩存储→校验备份可用性→自动清理7天前过期文件→备份异常邮件告警」完整闭环。脚本文件名kes_auto_backup.sh#!/bin/bashsource/opt/script/kes_env.sh# 本次备份文件名BACK_FILE${BACK_ROOT}/full_${DB_NAME}_${CUR_DATETIME}.sql.gzLOG_FILE${SCRIPT_LOG}/backup_${CUR_DATE}.log# 开始全库逻辑备份echo${CUR_DATETIME}开始全库备份${LOG_FILE}sys_dump-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}|gzip${BACK_FILE}# 判断备份是否生成if[-f${BACK_FILE}];thenecho备份文件生成成功${BACK_FILE}${LOG_FILE}# 备份可用性校验临时解压尝试导入空库gunzip-c${BACK_FILE}|ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-c\qif[$?-eq0];thenecho备份文件校验通过${LOG_FILE}elseecho备份文件损坏立即发送告警${LOG_FILE}echo数据库${DB_NAME}备份校验失败请紧急核查|mail-s【金仓备份故障】${ALERT_MAIL}fielseecho备份执行失败无备份文件${LOG_FILE}echo数据库${DB_NAME}备份执行失败请紧急核查|mail-s【金仓备份故障】${ALERT_MAIL}fi# 自动清理7天前备份文件find${BACK_ROOT}-namefull_*.sql.gz-mtime7-deleteecho已清理7天前过期备份${LOG_FILE}echo备份流程结束${LOG_FILE}定时部署每天凌晨2点自动执行备份修改crontabcrontab-e02* * * /opt/script/kes_auto_backup.sh脚本拓展如果需要单表定时备份、物理备份只需要替换sys_dump为sys_basebackup其余清理、告警逻辑完全复用。五、 分区自动创建定时脚本前面第十篇我们讲解了RANGE按月分区人工每月手动新建分区工作量大还容易忘记导致下月数据插入报错。这里分两套方案Shell调用PL/SQL、纯存储过程定时执行。方案一自动预创建后三个月分区存储过程CREATEORREPLACEPROCEDUREproc_auto_create_partition()ASv_startDATE;v_endDATE;v_part_nameVARCHAR(100);v_sqlVARCHAR(1000);BEGIN-- 循环生成未来3个月分区FORiIN1..3LOOPv_start :TRUNC(SYSDATE,MONTH)INTERVAL1 MONTH*i;v_end :v_startINTERVAL1 MONTH;v_part_name :t_order_log_||TO_CHAR(v_start,YYYYMM);v_sql :CREATE TABLE IF NOT EXISTS ||v_part_name|| PARTITION OF t_order_log FOR VALUES FROM (||v_start||) TO (||v_end||);;EXECUTEIMMEDIATE v_sql;ENDLOOP;END;/方案二Shell定时调用存储过程执行完成记录日志脚本create_part.sh#!/bin/bashsource/opt/script/kes_env.shLOG_FILE${SCRIPT_LOG}/partition_${CUR_DATE}.logecho${CUR_DATETIME}执行自动分区创建${LOG_FILE}ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-cCALL proc_auto_create_partition();if[$?-eq0];thenecho分区预创建完成${LOG_FILE}elseecho分区创建失败发送告警|mail-s【分区创建异常】${ALERT_MAIL}fi定时配置每月1号凌晨3点执行031* * /opt/script/create_part.sh历史分区自动分离归档拓展脚本增加判断分区创建时间超过6个月自动DETACH迁移至冷表空间实现冷热数据自动分离无需人工操作。六、 每日全维度自动巡检脚本这是运维核心脚本自动检查磁盘使用率、连接数、长耗时SQL、锁等待、主备延迟、大表空间占用执行完成生成巡检报告异常项自动发邮件告警。脚本kes_daily_check.sh#!/bin/bashsource/opt/script/kes_env.shREPORT${SCRIPT_LOG}/daily_check_${CUR_DATE}.txtecho电科金仓每日巡检报告${CUR_DATETIME}${REPORT}# 1. 磁盘使用率检查echo-e\n1.服务器磁盘信息${REPORT}df-h${REPORT}DISK_USED$(df/|grep-vFilesystem|awk{print $5}|seds/%//)if[${DISK_USED}-ge80];thenecho【告警】系统磁盘使用率超过80%${REPORT}echo数据库服务器磁盘使用率${DISK_USED}%请及时清理扩容|mail-s【磁盘告警】${ALERT_MAIL}fi# 2. 当前数据库总连接数echo-e\n2.当前在线会话${REPORT}ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-cSELECT count(*) AS 总连接数 FROM sys_stat_activity;${REPORT}# 3. 超过30秒长耗时SQLecho-e\n3.运行超过30秒慢SQL${REPORT}ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-c SELECT pid,usename,now()-query_start AS run_time,query FROM sys_stat_activity WHERE now()-query_start 30 seconds::interval AND stateactive;${REPORT}# 4. 锁等待阻塞会话echo-e\n4.锁等待阻塞会话${REPORT}ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-c SELECT blocking_pid,pid,usename,query FROM sys_stat_activity WHERE blocking_pid0;${REPORT}# 5. 主从同步延迟单实例无备库自动忽略echo-e\n5.主备同步状态${REPORT}ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-cSELECT pid,state,write_lag FROM sys_stat_replication;${REPORT}# 6. 占用空间TOP10大表echo-e\n6.占用空间前十数据表${REPORT}ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-c SELECT relname,pg_relation_size(relname)/1024/1024 AS size_mb FROM sys_class WHERE relkindr ORDER BY size_mb DESC LIMIT 10;${REPORT}echo-e\n巡检报告生成完毕${REPORT}# 每日8点自动推送完整报告至邮箱cat${REPORT}|mail-s【金仓每日巡检报告】${CUR_DATE}${ALERT_MAIL}定时配置每日早上8点执行上班即可收到前一日完整巡检结果08* * * /opt/script/kes_daily_check.sh七、⚡ 故障自动处置脚本长会话、死锁自动清理业务高峰期大量卡死会话、死锁堆积等待人工处理会持续阻塞业务这套脚本自动识别运行超过10分钟、产生死锁的会话并终止降低故障影响时长。脚本kill_long_session.sh#!/bin/bashsource/opt/script/kes_env.shLOG${SCRIPT_LOG}/kill_session_${CUR_DATE}.logecho${CUR_DATETIME}长会话清理任务${LOG}# 查询运行超过10分钟会话PID并批量终止SQLSELECT pid FROM sys_stat_activity WHERE stateactive AND now()-query_start 10 minutes::interval;# 读取PID列表PID_LIST$(ksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-t-c${SQL})forpidin${PID_LIST}doif[-n${pid}];thenksql-h${DB_HOST}-p${DB_PORT}-U${DB_USER}-d${DB_NAME}-cSELECT pg_terminate_backend(${pid});echo已终止卡死会话PID${pid}${LOG}fidone定时每30分钟自动执行一次主动清理阻塞会话*/30 * * * /opt/script/kill_long_session.sh八、 日志自动清理自动化方案数据库运行日志、审计日志、脚本日志无限增长是磁盘爆满高频诱因搭配自动轮转定时删除脚本双重保障。数据库配置文件开启日志自动切割log_rotation_size1024MB log_rotation_age1d清理脚本clean_log.sh删除30天以上日志文件#!/bin/bashsource/opt/script/kes_env.sh# 清理数据库运行日志find/opt/KingbaseData/sys_log-name*.log-mtime30-delete# 清理脚本自身日志find${SCRIPT_LOG}-name*.log-mtime30-deleteecho已清理30天过期日志${SCRIPT_LOG}/clean_log_${CUR_DATE}.log每日凌晨4点执行清理04* * * /opt/script/clean_log.sh九、 真实落地自动化运维案例9.1 项目背景某地级市政务云平台2套主备金仓集群3名运维人员同时负责二十余套业务系统人工巡检、备份工作量巨大经常出现备份遗漏、磁盘告警发现滞后问题。9.2 落地改造方案统一搭建/opt/script脚本目录部署环境变量、备份、巡检、分区、日志清理全套脚本配置全套crontab定时任务覆盖备份、巡检、分区、会话清理、日志清理配置邮件告警磁盘满、备份失败、分区创建异常、长会话全部实时推送每月新增历史分区、归档操作完全自动化无需人工介入。9.3 落地效果✅ 人工重复性运维工作量下降80%✅ 从未出现备份遗漏、磁盘爆满未及时发现问题✅ 业务卡顿、锁阻塞会话自动清理故障平均恢复时长大幅缩短✅ 每日自动生成巡检报表运维复盘、等保检查直接使用✅ 上线两年脚本稳定运行无脚本语法、权限类故障。十、⚠️ 自动化脚本避坑要点脚本内数据库明文密码必须严格控制文件权限600禁止普通用户读取定时任务使用kingbase普通用户执行禁止root直接连接数据库备份校验不能省略只备份不校验等于没有备份磁盘清理脚本增加判断阈值避免误删正在使用的日志、备份终止会话脚本不要设置时间过短避免误杀正常慢查询报表定时任务错开高峰业务时段备份、DDL脚本尽量凌晨低峰执行服务器更换IP、修改数据库密码后同步更新kes_env.sh全局配置所有脚本统一生效。
