性能工程
通过分析业务逻辑和技术架构,创建性能模型,制定性能方案,准备应用环境,设计并实施性能部署监控,实现符合真实业务逻辑的压力,通过监控手段获取性能数据,分析性能数据,查找出性能瓶颈的根本原因并优化,最后通过环比生产环境的性能数据修正场景
性能指标
- 响应时间 某个请求从发出到接收到响应消耗的时间
- 吞吐量 系统在单位时间内可以处理的请求数量,通常使用QPS来衡量
- 并发用户数 系统能同时处理的并发用户请求数量
- 扩展性
- 资源使用效率
- ...
基准场景下的性能需求指标:
业务名称 | TPS | TPS方差 | 响应时间 | 响应时间方差 | 90% | 95% | 99% | 成功率 |
---|---|---|---|---|---|---|---|---|
业务1 | 500 | 5% | 100ms | 5% | 150ms | 300ms | 500ms | 100% |
对于性能来说,当平均值是一个比较优秀的值时,有可能会出现非常抖动的情况,标准方差是为了描述一条曲线的上下浮动范围有多大,而响应时间百分比是为了描述一条曲线的上下浮动范围有多大
容量场景下的性能需求指标:最重要的就是业务比例
业务名称 | 比例 | TPS | TPS方差 | 响应时间 | 响应时间方差 | 90% | 95% | 99% | 成功率 |
---|---|---|---|---|---|---|---|---|---|
业务1 | 50% | 500 | 5% | 100ms | 5% | 150ms | 300ms | 500ms | 100% |
稳定性场景下的性能需求指标:要合理判断稳定性场景需要运行多长时间,同时也要合理判断稳定性场景应该用多大的压力执行
异常场景下的性能需求指标:针对系统的架构,先分析异常场景中的需求点,再设计相应的案例来覆盖
性能方案
- 指导整个性能项目的整个过程
业务模型
- 在容量场景中,每个业务比例都要符合真实业务场景的比例
抽取真实业务模型:
- 抽取生产日志
- 梳理业务流程
stateDiagram-v2 统计生产业务量 --> 统计业务场景峰值TPS 统计业务场景峰值TPS --> 得到各接口请求比例 得到各接口请求比例 --> 梳理业务流程 梳理业务流程 --> 在测试中实现业务比例
定律与数理基础
- 二八定律
- 阿姆达尔定律:优先加速占用时间最多的模块,性能优化的计划可以做出准确的效果预估和整个系统的性能预测
- 科特尔法则:长期的平均客户人数(N)等于客户抵达速度(X)乘以客户在这个系统中平均处理时间
- [概率论与数理统计](/数学/概率论与数理统计.html)
点估计指标
- 平均值:容易受极端值影响
- 中位数:如果数据呈现一些特殊的分布,比如二向分布,中位数的表达会受很大的负面影响
- 四分位数:把所有数值由小到大排列,并分成四等份,处于三个分割点位置的数值就是四分位数
- 百分位数:以 Pk 表示第 k 个百分位数,不容易受极端值影响
- 方差/标准差:变量的离散程度,也就是该变量离其期望值的距离
分布模型
- 泊松分布:适合于描述单位时间内随机事件发生的次数的概率分布
- 二项分布:n 个独立的是 / 非试验中成功的次数的离散概率分布
- 正态分布:大多数我们碰到的未知数据都呈正态分布状
排队论
测试数据准备
系统铺底数据:系统底库数据
- 符合生产量级的数据量
- 真实模拟出生产的数据分
- 真实可用
参数化数据:发起测试请求的数据
- 数量足够
- 要真实模拟出生产的数据分布
性能数据分析
目的:正不正常、趋势预测、问题排查
- 线性回归分析:通过拟合自变量与因变量之间最佳线性关系,来预测目标变量
- 分类
- 聚类
- 决策树
分析需要注意的:
- 数据分析可以证实数据的相关性,但是还需要其他知识才能更准确地判断谁是因、谁是果
- 数据的大小与趋势解读与业务强相关
- 垃圾数据进垃圾数据出
- 理解各个性能指标的关系
性能数据展示
难点:数据量大、数据复杂、背后问题复杂、牵扯模块多
在展示时,以不同视图体现不同重点,给足上下文信息
- 表格:理解各个性能指标的关系
- 线图:显示一段时间内这个变量的变化或趋势
- PDF图、CDF图:一个变量的概率数据,较为特殊的线图
- 面积图
- 柱状图:用于比较不同类别的数量
- 散点图:用于展示数据的分布情况
- 饼图:需要显示比例数据或者百分比时
- 树形图:对于显示类别和子类别之间的层次结构和比较值非常有用
- 热力图:使用颜色反映数据的重要情况
性能分析
stateDiagram-v2 剖析 --> 猜测 猜测 --> 剖析 剖析 --> 解决
方法论
- 从压力场景中获取 TPS 和响应时间曲线
- 分析架构,看压力流量的路径
- 分析各个链路节点,拆分响应时间,分析主要瓶颈
- 全局监控所需要的性能数据
- 定向监控分析:通过全局监控判断分析,知道哪个方向上有问题后,再去做定向的监控,辅助全局数据,得到性能问题的证据链
- 根据证据链判断性能瓶颈点
- 根据具体问题确定解决方案
性能优化
原则
- 优先从最大的性能瓶颈入手
- 确诊性能问题的根因,虑优化工作的投入产出比
- 考虑各种情况下的性能,不同的选择有不同的trade off,确定你要的性能指标
过早优化是万恶之源、不要进行头痛医头的表层优化,没有理解底层运行机制,任何优化方案都很难达到最好的优化效果
策略
- 时空权衡
- 预先和延后处理:preload、prefetch、写时复制
- 并行与异步
- 缓存/批量写
- 更合适的算法和数据结构