oracle导出多CSV文件的靠谱的

Posted 2020-10-06 seasonzone

oracle导出多CSV文件的问题

----------------------------------------------------------------------

用ksh脚本从oracle数据库中导出80w数据到csv文件，如用户给定名字为a.csv(文件最大4000行记录），则自动生产文件为a_1.csv,a_2.csv,...., a_200.csv

我已经实现了一个方法，但80w要导5小时，用户没法接受。如下：
sqlplus -s user/pwd @${SqlDir}/select_log.sql >/tmp/a.tmp
然后每read 4000行到文件a_1.csv,并且每隔4000行换一个文件名。

大家有什么好方法吗？注意效率

----------------------------------------------------------------------

先一次性生成一个csv文件
再用split分割文件

--------------------------------------------------------

完全赞同楼上说的。

关于性能问题，用oracle spool出80万行纪录是非常快的，我刚试了一下，再hp-ux下，spool出某表中100万纪录（2列）耗时大约2分钟，输出文件80m, 用split命令分割为每个4000行的文件耗时数秒而已。 下附测试代码:

/* sql file:  spool_test.sql */
set pages 0
set head off
set echo off
set feedback off
spool spool_text.csv
select col1, col2 from my_table where rownum<1000000;
spool off
exit

## shell script to spool out:
sqlplus -s user/password @spool_test.sql > /dev/null

## split file:
split -l 4000 spool_text.csv splited


--------------------------------------------------------

export.sh

#Generate the sql language
echo "SET HEADING OFF;">${SqlDir}/select_log.sql
echo "SET FEEDBACK OFF;">>${SqlDir}/select_log.sql
echo "SET LINESIZE 10000;">>${SqlDir}/select_log.sql
echo "SPOOL ${SqlDir}/EXPORT_ALL.CSV;" >> ${SqlDir}/select_log.sql
echo "SELECT SALESMAN_ID||‘,‘||">>${SqlDir}/select_log.sql
echo "SALESMAN_NAME||‘,‘||">>${SqlDir}/select_log.sql
echo "SALES_AMOUNT||‘,‘||">>${SqlDir}/select_log.sql
echo "SALES_DATE from sales_range;">>${SqlDir}/select_log.sql
echo "SPOOL OFF;" >> ${SqlDir}/select_log.sql
echo exit | ${ORACLE_HOME}/bin/sqlplus -s omc_sbardz812/omc_sbardz812 @${SqlDir}
/select_log.sql >/dev/null

split -l 4000 -a 5 ${SqlDir}/EXPORT_ALL.CSV log_20060606_
=============================================================

以上是我的脚本，80w数据我用了3个多小时还没完呢。有问题吗？
另外，很重要的一点，split后，再不是csv后缀了。看来还得文件遍历，然后一个一个的mv 成csv文件。



--------------------------------------------------------

先整个导出罢，然后在处理

--------------------------------------------------------

你的代码看起来没有问题，但80万条记录导3小时没完成很难让人理解。

你用sqlplus做一下测试，比如导出10000条记录需要多少时间，如果确实很慢，那可能是连接太慢（网络速度？）。

--------------------------------------------------------

导出为csv文件很快，就几分钟而已，但是split要花3个小时，共250个文件，每个文件4000行。我的机器是SUN Blade 150，还有我在server上运行的，不存在网络速度的问题。

--------------------------------------------------------

根据需要导出的列，单独建个临时表，比如：create table sales_range_tmp as select salesman_id,salesman_name,sales_amount,sales_date from sales;
再利用脚本导出来，看看速度应该有所提高。不过有一点必须明白，全扫描8w的表数据肯定不是几分钟可以完成的，何况要写成物理文件。


--------------------------------------------------------

KingSunSha(弱水三千),我用spool导出的文件大小为9G(8900828448byte on solaris),而你的才80M

--------------------------------------------------------

SELECT 中不要拼接字符串，非常影响速度

--------------------------------------------------------

大家还有好的办法吗？

--------------------------------------------------------

9GB = 9,216 MB = 9,437,184 KB = 9,663,676,416 Bytes
800,000 records
size of each record (line) = 9GB/800,000 = 12,079 Bytes

select 中只有 4 列（SALESMAN_ID, SALESMAN_NAME, SALES_AMOUNT, SALES_DATE
），你觉得每行纪录占12KB合理吗？

--------------------------------------------------------

问题是你在sqlplus中用了set linesize=100000，所以每行都会spool出100000bytes。
解决这个问题很简单，在spool开始之前加上两行set命令

set trimspool on
set termout off

第一个set是指定trim spool出的每行在行末的空格
第二个set是指定只spool而不回显，所以在运行sqlplus的时候不需要 >/dev/null。


--------------------------------------------------------

非常感谢KingSunSha(弱水三千),现在我把linesize改为100，非常快，2分钟就完成了。太好了。不过还有一个问题，导出的文件，每隔13行就会自动设置一个空行，能把这个去掉吗？因为我导出的文件会被我的程序打开的。

--------------------------------------------------------

just add 
set pagesize 0
before spool to suppress all headings, page breaks, titles, the initial blank line, and other formatting information.


--------------------------------------------------------

just add
set pagesize 0
before spool to suppress all headings, page breaks, titles, the initial blank line, and other formatting information.

--------------------------------------------------------

非常感谢KingSunSha(弱水三千),搞定了，贴出来吧，共享！

echo "SET HEADING OFF;">${SqlDir}/select_log.sql 
echo "SET FEEDBACK OFF;">>${SqlDir}/select_log.sql 
echo "SET LINESIZE 500;">>${SqlDir}/select_log.sql 
echo "SET trimspool on;">>${SqlDir}/select_log.sql 
echo "SET termout off;" >>${SqlDir}/select_log.sql 
echo "SET NEWPAGE NONE;" >>${SqlDir}/select_log.sql 
echo "SPOOL ${SqlDir}/EXPORT_ALL.CSV;" >> ${SqlDir}/select_log.sql 
echo "SELECT SALESMAN_ID||‘,‘||">>${SqlDir}/select_log.sql 
echo "SALESMAN_NAME||‘,‘||">>${SqlDir}/select_log.sql 
echo "SALES_AMOUNT||‘,‘||">>${SqlDir}/select_log.sql 
echo "SALES_DATE from sales_range;">>${SqlDir}/select_log.sql 
echo "SPOOL OFF;" >> ${SqlDir}/select_log.sql 
echo exit | ${ORACLE_HOME}/bin/sqlplus -s user/pwd @${SqlDir}/select_log.sql 

split -l 4000 -a 3 ${SqlDir}/EXPORT_ALL.CSV log_20060606_ 

#mv these splitted file to be csv file 
for file in $(ls ./) 
do 
    echo $file | grep log_20060606_ > /dev/null 
    status=$? 
    if [ $status -eq 0 ]; then 
        mv $file $file.csv 
    fi 
    status=1 
done 

80万10分钟就可以搞定了。

ksh可以执行，由于有这句：$(ls ./),sh不支持。

--------------------------------------------------------

谢谢大家！

 

http://blog.csdn.net/studyvcmfc/article/details/7047986