Pentaho 文本文件输入步骤崩溃(内存不足)

Posted

技术标签:

【中文标题】Pentaho 文本文件输入步骤崩溃(内存不足)【英文标题】:Pentaho text file input step crashing (out of memory) 【发布时间】:2014-11-23 16:30:06 【问题描述】:

我正在使用 Pentaho 来读取一个非常大的文件。 11GB。

进程有时会因内存不足异常而崩溃,有时它只会说进程已终止。

我在一台 12GB 的机器上运行该作业,并为进程分配 8GB。

有没有办法通过一些配置来运行文本文件输入步骤以使用更少的内存?也许更多地使用磁盘?

谢谢!

【问题讨论】:

您能否附上转换的屏幕截图,包括所有使用的组件? 根据 Marcus Rickert 的要求,我添加了一个屏幕截图。 【参考方案1】:

打开spoon.sh/bat 或pan/kettle .sh 或.bat 并更改-Xmx 图形。搜索 JAVAMAXMEM 即使您有空闲内存,除非允许 java 使用它,否则它不会工作。尽管在上面的示例中公平起见,但我真的看不出它为什么/如何消耗大量内存!

【讨论】:

以上是关于Pentaho 文本文件输入步骤崩溃(内存不足)的主要内容,如果未能解决你的问题,请参考以下文章

Pentaho Spoon 文本文件输出附加信息标题

Pentaho ETL:数据库连接与表输入

如何避免由于内存不足导致的gcc崩溃

使用 pentaho 水壶下载文件

PENTAHO 数据集成中的流查找

您可以在 Pentaho 数据集成 (PDI) 中动态设置固定文件输入列定义吗?