如何调优，datastage的瓶颈都包含哪些
Posted
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了如何调优，datastage的瓶颈都包含哪些相关的知识，希望对你有一定的参考价值。
参考技术A 个人经验：ETL服务器外的影响大致有：
1.网络吞吐能力
2.磁盘I/O
3.数据库驱动（ODBC/native）
4.数据库性能（源/目标）
等；
ETL自身的大致有：
1.并行度
2.作业逻辑复杂度（CPU处理能力、个数）
3.抽取/入库方式(load/insert/upsert等等)
4.数据量与Join/lookup方式的选取（与内存有关）
5.Transformer内函数处理的复杂度（与作业编译、启动时间有关）
等等；
为了跑批效率，一般ETL项目不建议做过于复杂的T操作，除非你的数据库和ETL集群性能非常强大，不过即使这样也不建议做的太复杂，否则ETL作业数量逐渐增多到一定程度之后，维护、调度、管理、调优会非常的痛苦。
性能测试常见瓶颈分析及调优方法
性能分析与调优如何下手，先从硬件开始，还是先从代码或数据库。从操作系统（CPU调度，内存管理，进程调度，磁盘I/O）、网络、协议（HTTP， TCP/IP ），还是从应用程序代码，数据库调优，中间件配置等方面入手。
单一个中间件又分web中间件（apache 、IIS），应用中间件（tomcat 、weblogic 、webSphere ）等，虽然都是中间件，每一样拎出来往深了学都不是一朝一夕之功。但调优对于每一项的要求又不仅仅是“知道”或“会使用”这么简单。起码要达到“如何更好的使用”。
常看到性能测试书中说，性能测试不单单是性能测试工程师一个人的事儿。需要DBA 、开发人员、运维人员的配合完成。但是在不少情况下性能测试是由性能测试人员独立完成的，退一步就算由其它人员的协助，了解系统架构的的各个模块对于自身的提高也有很大帮助，同进也更能得到别人的尊重。
再说性能调优之前，我们有必要再提一下进行测试的目的，或者我们进行性能测试的初衷是什么？
能力验证：验证某系统在一定条件具有什么样的能力。
能力规划：如何使系统达到我们要求的性能能力。
应用程序诊断：比如内存泄漏，通过功能测试很难发现，但通过性能测试却很容易发现。
性能调优：满足用户需求，进一步进行系统分析找出瓶颈，优化瓶颈，提高系统整体性能。
一般系统的瓶颈
性能测试调优需要先发现瓶颈，那么系统一般会存在哪些瓶颈：
硬件上的性能瓶颈：
一般指的是CPU、内存、磁盘I/O 方面的问题，分为服务器硬件瓶颈、网络瓶颈（对局域网可以不考虑）、服务器操作系统瓶颈（参数配置）、中间件瓶颈（参数配置、数据库、web服务器等）、应用瓶颈（SQL 语句、数据库设计、业务逻辑、算法等）。
应用软件上的性能瓶颈：
一般指的是应用服务器、web 服务器等应用软件，还包括数据库系统。
例如：中间件weblogic 平台上配置的JDBC连接池的参数设置不合理，造成的瓶颈。
应用程序上的性能瓶颈：
一般指的是开发人员新开发出来的应用程序。
例如，程序架构规划不合理，程序本身设计有问题（串行处理、请求的处理线程不够），造成系统在大量用户方位时性能低下而造成的瓶颈。
操作系统上的性能瓶颈：
一般指的是windows、UNIX、Linux等操作系统。
例如，在进行性能测试，出现物理内存不足时，虚拟内存设置也不合理，虚拟内存的交换效率就会大大降低，从而导致行为的响应时间大大增加，这时认为操作系统上出现性能瓶颈。
网络设备上的性能瓶颈：
一般指的是防火墙、动态负载均衡器、交换机等设备。
例如，在动态负载均衡器上设置了动态分发负载的机制，当发现某个应用服务器上的硬件资源已经到达极限时，动态负载均衡器将后续的交易请求发送到其他负载较轻的应用服务器上。在测试时发现，动态负载均衡器没有起到相应的作用，这时可以认为网络瓶颈。
性能测试出现的原因及其定位十分复杂，这里只是简单介绍常见的几种瓶颈类型和特征，而性能测试所需要做的就是根据各种情况因素综合考虑，然后协助开发人员\DBA\运维人员一起定位性能瓶颈。
一般性能调优步骤
一般性能问题调优的步骤：
步骤一：确定问题
应用程序代码：在通常情况下，很多程序的性能问题都是写出来的，因此对于发现瓶颈的模块，应该首先检查一下代码。
数据库配置：经常引起整个系统运行缓慢，一些诸如oracle 的大型数据库都是需要DBA进行正确的参数调整才能投产的。
操作系统配置：不合理就可能引起系统瓶颈。
硬件设置：硬盘速度、内存大小等都是容易引起瓶颈的原因，因此这些都是分析的重点。
网络：网络负载过重导致网络冲突和网络延迟。
步骤二：确定问题
当确定了问题之后，我们要明确这个问题影响的是响应时间吞吐量，还是其他问题？是多数用户还是少数用户遇到了问题？如果是少数用户，这几个用户与其它用户的操作有什么不用？系统资源监控的结果是否正常？CPU的使用是否到达极限？I/O 情况如何？问题是否集中在某一类模块中？ 是客户端还是服务器出现问题？ 系统硬件配置是否够用？实际负载是否超过了系统的负载能力？ 是否未对系统进行优化？
通过这些分析及一些与系统相关的问题，可以对系统瓶颈有更深入的了解，进而分析出真正的原因。
步骤三： 确定调整目标和解决方案
得高系统吞吐理，缩短响应时间，更好地支持并发。
步骤四：测试解决方案
对通过解决方案调优后的系统进行基准测试。（基准测试是指通过设计科学的测试方法、测试工具和测试系统，实现对一类测试对象的某项性能指标进行定量的和可对比的测试）
步骤五：分析调优结果
系统调优是否达到或者超出了预定目标？系统是整体性能得到了改善，还是以系统某部分性能来解决其他问题。调优是否可以结束了。
最后，如果达到了预期目标，调优工作就基本可以结束了。
下面算是一个技巧，如面试官问到一个性能问题假设，我不知道性能问题出在哪儿时，可以按照这个思路回答^_^
• 查找瓶颈时按以下顺序，由易到难。
服务器硬件瓶颈---〉网络瓶颈（对局域网，可以不考虑）---〉服务器操作系统瓶颈（参数配置）---〉中间件瓶颈（参数配置，数据库，web服务器等）---〉应用瓶颈（SQL语句、数据库设计、业务逻辑、算法等）
注：以上过程并不是每个分析中都需要的，要根据测试目的和要求来确定分析的深度。对一些要求低的，我们分析到应用系统在将来大的负载压力（并发用户数、数据量）下，系统的硬件瓶颈在哪儿就够了。
• 分段排除法 很有效
性能测试调优应该注意的要点：
要点1： 在应用系统的设计开发过程中，应始终把性能放在考虑的范围内。
要点2：确定清晰明确的性能目标是关键。
要点3： 必须保证调优后的程序运行正确。
要点4： 系统的性能更大程度上取决于良好的设计，调优技巧只是一个辅助手段。
要点5： 调优过程是迭代渐进的过程，每一次调优的结果都要反馈到后续的代码开发中去。
要点6： 性能调优不能以牺牲代码的可读性和可维护性为代码。
一、注意事项
1、断言
在压测时，为了判断发送的请求是否成功，一般会通过对请求添加断言来实现。使用断言时，建议遵循如下规范：
①、断言内容尽量以status/code、msg/message来判断（当然前提是接口设计遵循Restful规范）
Jmeter示例：
阿里云PTS：
如果使用的是PTS压测，则断言设置中，以code/status、msg/message等于对应的值为准；
②、尽可能不要将所有的Response Body内容作为断言判断的内容，这样很可能会导致大量的“断言”失败；
PS：然后很遗憾的是，见过很多做压测的童鞋，断言内容以整个响应参数内容做断言，导致大量的报错。
2、成功率
一般在性能测试中，我们都追求99.99%的成功率，但在实际的测试过程中，为了尽可能覆盖代码逻辑，在准备阶段会尽可能的准备较多的热点数据去做到覆盖。
这样的话，我们所关注的成功率指标，就要分为如下两种：
①、事务成功率
事务成功率在某些时候也可以视为请求成功率，在断言判断时以code/status等内容来作为请求是否成功的衡量依据；
②、业务成功率
实际的业务场景中，所谓的成功率，并不能仅根据返回的code/status来判断。比如：一个查询请求，无论是返回正确的查询结果还是由于对应数据返回空，这个请求都是成功的。
对应的响应参数可能是： {"status":"200","message":"success"} ；也可能是： {"status":"200","message":"暂无对应结果"} 。
PS：在性能测试过程中，考虑到业务成功率和请求成功率的不同指标，结合断言内容，需要灵活设置断言的方式（当然，我依然建议遵循如上的2点断言规范）！
二、常见性能瓶颈解析及调优方案
在性能测试中，导致性能出现瓶颈的原因很多，但通过直观的监控图表现出来的样子，根据出现的频次，大概有如下几种：
| 性能瓶颈出现频次 | 具体表现 |
| 高 | TPS波动较大 |
| 高 | 高并发下大量报错 |
| 中 | 集群类系统，各服务节点负载不均衡 |
| 中 | 并发数不断增加，TPS上不去，CPU耗用不高 |
| 低 | 压测过程中TPS不断下降，CPU使用率不断降低 |
下面对常见的几种性能瓶颈原因进行解析，并说说常见的一些调优方案：
1、TPS波动较大
原因解析：出现TPS波动较大问题的原因一般有网络波动、其他服务资源竞争以及垃圾回收问题这三种。
性能测试环境一般都是在内网或者压测机和服务在同一网段，可通过监控网络的出入流量来排查；
其他服务资源竞争也可能造成这一问题，可以通过Top命令或服务梳理方式来排查在压测时是否有其他服务运行导致资源竞争；
垃圾回收问题相对来说是最常见的导致TPS波动的一种原因，可以通过GC监控命令来排查，命令如下：
1 # 实时打印到屏幕
2 jstat -gc PID 300 10
3 jstat -gcutil PID 300 10
4 # GC信息输出到文件
5 jstat -gc PID 1000 120 >>/path/gc.txt
6 jstat -gcutil PID 1000 120 >>/path/gc.txt
调优方案：
网络波动问题，可以让运维同事协助解决（比如切换网段或选择内网压测），或者等到网络较为稳定时候进行压测验证；
资源竞争问题：通过命令监控和服务梳理，找出压测时正在运行的其他服务，通过沟通协调停止该服务（或者换个没资源竞争的服务节点重新压测也可以）；
垃圾回收问题：通过GC文件分析，如果发现有频繁的FGC，可以通过修改JVM的堆内存参数Xmx，然后再次压测验证（Xmx最大值不要超过服务节点内存的50%！）
2、高并发下大量报错
原因解析：出现该类问题，常见的原因有短连接导致的端口被完全占用以及线程池最大线程数配置较小及超时时间较短导致。
调优方案：
短连接问题：修改服务节点的tcp_tw_reuse参数为1，释放TIME_WAIT scoket用于新的连接；
线程池问题：修改服务节点中容器的server.xml文件中的配置参数，主要修改如下几个参数：
# 最大线程数，即服务端可以同时响应处理的最大请求数
maxThreads="200"
# Tomcat的最大连接线程数，即超过设定的阈值，Tomcat会关闭不再需要的socket线程
maxSpareThreads="200"
# 所有可用线程耗尽时，可放在请求等待队列中的请求数，超过该阈值的请求将不予处理，返回Connection refused错误
acceptCount="200"
# 等待超时的阈值，单位为毫秒，设置为0时表示永不超时
connectionTimeout="20000"
3、集群类系统，各服务节点负载不均衡
原因解析：出现这类问题的原因一般是SLB服务设置了会话保持，会导致请求只分发到其中一个节点。
调优方案：如果确认是如上原因，可通过修改SLB服务（F5/HA/Nginx）的会话保持参数为None，然后再次压测验证；
4、并发数不断增加，TPS上不去，CPU使用率较低
原因解析：出现该类问题，常见的原因有：SQL没有创建索引/SQL语句筛选条件不明确、代码中设有同步锁，高并发时出现锁等待；
调优方案：
SQL问题：没有索引就创建索引，SQL语句筛选条件不明确就优化SQL和业务逻辑；
同步锁问题：是否去掉同步锁，有时候不仅仅是技术问题，还涉及到业务逻辑的各种判断，是否去掉同步锁，建议和开发产品同事沟通确认；
5、压测过程中TPS不断下降，CPU使用率不断降低
原因解析：一般来说，出现这种问题的原因是因为线程block导致，当然不排除其他可能；
调优方案：如果是线程阻塞问题，修改线程策略，然后重新验证即可；
6、其他
除了上述的五种常见性能瓶颈，还有其他，比如：connection reset、服务重启、timeout等，当然，分析定位后，你会发现，我们常见的性能瓶颈，
导致其的原因大多都是因为参数配置、服务策略、阻塞及各种锁导致。。。
性能瓶颈分析参考准则：从上至下、从局部到整体！
以上分析及调优方案仅供参考，具体定位还需要根据日志监控等手段来分析调优。。。
来源：https://www.cnblogs.com/imyalost/p/10850811.html
-------- THE END --------
以上是关于如何调优，datastage的瓶颈都包含哪些的主要内容，如果未能解决你的问题，请参考以下文章