使用kettle向mysql插入数据~ 每秒10条...应该是mysql的问题。怎么能提高效率么~

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用kettle向mysql插入数据~ 每秒10条...应该是mysql的问题。怎么能提高效率么~相关的知识,希望对你有一定的参考价值。

如果你用的是INNODB数据库,有一个最简单有效的调整,就是将INI文件里面的下面参数调整:
原始:
innodb_flush_log_at_trx_commit=1
调整为:
innodb_flush_log_at_trx_commit=2
具体什么意思就不解释了,试了效果好再去找度娘
参考技术A 1.看sql查询的效率 查询都慢的话肯定是你写sql的问题了 要进行sql的优化了 具体怎么优化去百度下吧
2.如果不是sql查询效率的问题。每天都有200万条?如果这样的话可以考虑换个工具之类的
如果是历史数据比较大的话可以考虑手动把数据插入进去 以后新数据的插入在用kettle来完成
或者你先导入13年的数据,其他年份的历史数据再用kettle慢慢跑
希望能帮到你
参考技术B 你是从一个数据库导入数据到另一个数据库还是什么操作?先要看看是否有必要用到kettle

使用gorm向mysql中插入一条数据

【中文标题】使用gorm向mysql中插入一条数据【英文标题】:Insert a piece of data into mysql by using gorm 【发布时间】:2021-12-20 12:21:47 【问题描述】:

我想在我的数据库(MySQL)中插入一条数据。但是,我失败了。

错误 1364:字段 'envelopeId' 没有默认值。

我发现有人说这是因为主键是int类型,没有设置自增,其实这是varchar类型。

    var envelope Envelope
    envelope = Envelope
        "100000000001",
        1,
        0,
        100,
    
    fmt.Println(db.Create(&envelope).Error)

【问题讨论】:

在相关表上显示结构定义和show create table 的输出。 “这实际上是一个 varchar 类型”你为什么不使用自动递增的 bigint 作为主键? 请提供足够的代码,以便其他人更好地理解或重现问题。 【参考方案1】:

此错误意味着您试图将NULL 值插入到不可为空的字段中,并且由于也没有指定默认值,因此它会给您带来错误。我假设"100000000001" 是您的主键,如果是这种情况,它已在您的结构中设置,您需要检查该字段是否设置了gorm:"column:envelopeId" 标记。 convention GORM 将使用蛇形大小写作为列名,而不是像您在数据库中使用的驼峰形大小写。

【讨论】:

以上是关于使用kettle向mysql插入数据~ 每秒10条...应该是mysql的问题。怎么能提高效率么~的主要内容,如果未能解决你的问题,请参考以下文章

mysql 定时每秒插入一条数据

疯狂试探mysql单表insert极限:已实现每秒插入8.5w条数据

解决Kettle ETL数据乱码

kettle-插入/更新数据表(Mysql)

kettle-插入/更新数据表(Mysql)

kettle-插入/更新数据表(Mysql)