使用spring将共享驱动器csv文件加载到Mssql表

Posted

技术标签:

【中文标题】使用spring将共享驱动器csv文件加载到Mssql表【英文标题】:shared drive csv file load to Mssql table using spring 【发布时间】:2019-02-05 19:42:11 【问题描述】:

我正在寻找可以满足以下要求的方法/代码库。

    我们在共享驱动器中有源文件(格式化),其中有〜一个 百万记录数,此驱动器每天都有新文件,上面有日期前缀(例如:02-12-2018_abcd.txt)

    2.从共享驱动器位置读取文件时,如果出现任何故障 不应提交 sql 插入。

    3.此作业应按预定时间运行。

我发现了几种从共享驱动器中读取文件的方法,例如 jar 来读取,另一种方法是将文件从共享驱动器复制到本地机器(在应用程序服务器上)并进行 spring 批处理,其他方法是使用 spring 集成适配器,入站通道等。

请建议最好的方法和相同的弹簧代码库/ git 代码。谢谢

【问题讨论】:

【参考方案1】:

这是 Spring Batch 可以提供帮助的典型用例。第一步(tasklet 类型)将文件从共享驱动器复制到本地计算机,然后第二步(面向块的 tasklet 类型)读取文件并将数据插入数据库。

您可以在这里找到示例:https://github.com/spring-projects/spring-batch/tree/master/spring-batch-samples

【讨论】:

以上是关于使用spring将共享驱动器csv文件加载到Mssql表的主要内容,如果未能解决你的问题,请参考以下文章

使用 Importtsv 将 csv 文件加载到 Hbase

使用 python 将 csv 文件加载到 SnowFlake 表中

如何使用 Java 中的 jcifs 将文件从 smb 共享复制到本地驱动器?

如何使用 curl 将 CSV 文件发布到 spring rest 端点

使用 sqlalchemy 将 csv 文件加载到数据库中

如何使用 Python 从 OS Windows 将 CSV 文件加载到 Amazon Redshift? [关闭]