如何合理设置Datastage Administrator中的BUFFER大小

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何合理设置Datastage Administrator中的BUFFER大小相关的知识,希望对你有一定的参考价值。

参考技术A 只用了oracle9和Transformer控件。
job开始的时候会startting好半天然后才开始running,而且在monitor中看到速度时快时慢,
有时根本停止。

java线程池如何合理的设置大小

线程池究竟设置多大要看你的线程池执行的什么任务了,CPU密集型、IO密集型、混合型,任务类型不同,设置的方式也不一样

任务一般分为:CPU密集型、IO密集型、混合型,对于不同类型的任务需要分配不同大小的线程池

1、CPU密集型

尽量使用较小的线程池,一般Cpu核心数+1

因为CPU密集型任务CPU的使用率很高,若开过多的线程,只能增加线程上下文的切换次数,带来额外的开销

2、IO密集型

方法一:可以使用较大的线程池,一般CPU核心数 * 2

IO密集型CPU使用率不高,可以让CPU等待IO的时候处理别的任务,充分利用cpu时间

方法二:线程等待时间所占比例越高,需要越多线程。线程CPU时间所占比例越高,需要越少线程。
下面举个例子:
比如平均每个线程CPU运行时间为0.5s,而线程等待时间(非CPU运行时间,比如IO)为1.5s,CPU核心数为8,那么根据上面这个公式估算得到:((0.5+1.5)/0.5)*8=32。这个公式进一步转化为:
最佳线程数目 = (线程等待时间与线程CPU时间之比 + 1)* CPU数目
3、混合型

可以将任务分为CPU密集型和IO密集型,然后分别使用不同的线程池去处理,按情况而定

 

 

      




以上是关于如何合理设置Datastage Administrator中的BUFFER大小的主要内容,如果未能解决你的问题,请参考以下文章

Datastage JDBC Connector 中文乱码处理

如何使用 DataStage 比较 Netezza 中的数据

datastage导入sequential文件到db2数据库出现乱码,是设置不正确吗

在 Datastage 的分层阶段生成 OAuth2 令牌的步骤

DataStage软件的优缺点

datastage里的timestamp类型转换问题