使用spring将共享驱动器csv文件加载到Mssql表
Posted
技术标签:
【中文标题】使用spring将共享驱动器csv文件加载到Mssql表【英文标题】:shared drive csv file load to Mssql table using spring 【发布时间】:2019-02-05 19:42:11 【问题描述】:我正在寻找可以满足以下要求的方法/代码库。
我们在共享驱动器中有源文件(格式化),其中有〜一个 百万记录数,此驱动器每天都有新文件,上面有日期前缀(例如:02-12-2018_abcd.txt)
2.从共享驱动器位置读取文件时,如果出现任何故障 不应提交 sql 插入。
3.此作业应按预定时间运行。
我发现了几种从共享驱动器中读取文件的方法,例如 jar 来读取,另一种方法是将文件从共享驱动器复制到本地机器(在应用程序服务器上)并进行 spring 批处理,其他方法是使用 spring 集成适配器,入站通道等。
请建议最好的方法和相同的弹簧代码库/ git 代码。谢谢
【问题讨论】:
【参考方案1】:这是 Spring Batch 可以提供帮助的典型用例。第一步(tasklet 类型)将文件从共享驱动器复制到本地计算机,然后第二步(面向块的 tasklet 类型)读取文件并将数据插入数据库。
您可以在这里找到示例:https://github.com/spring-projects/spring-batch/tree/master/spring-batch-samples
【讨论】:
以上是关于使用spring将共享驱动器csv文件加载到Mssql表的主要内容,如果未能解决你的问题,请参考以下文章
使用 Importtsv 将 csv 文件加载到 Hbase
使用 python 将 csv 文件加载到 SnowFlake 表中
如何使用 Java 中的 jcifs 将文件从 smb 共享复制到本地驱动器?