创建索引时的 Liquibase 缓慢

Posted 2023-03-15

【中文标题】创建索引时的 Liquibase 缓慢

【英文标题】：Liquibase Slowness When Creating Indexes

【发布时间】：2020-12-17 11:43:52

【问题描述】：

我最近将我的 Java Liquibase 版本从 3.5.3 升级到了 3.6.3

我有一个非常繁重的环境，其中有很多数据库和表（我使用的是 Oracle）。 在这种环境下，我正在尝试执行一个巨大的变更日志文件，并在其中创建表和索引。

在下面找到一小部分更改日志。

<databaseChangeLog xmlns="http://www.liquibase.org/xml/ns/dbchangelog" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://www.liquibase.org/xml/ns/dbchangelog http://www.liquibase.org/xml/ns/dbchangelog/dbchangelog-3.2.xsd">
    
    ...
    ...
    ...

   <changeSet author="me" id="tableCreation78">
        <preConditions onFail="MARK_RAN">
            <not>
                <tableExists  tableName="MY_TABLE_NAME" />
            </not>
        </preConditions>
        <comment>Creating table MY_TABLE_NAME</comment>
        <createTable tableName="MY_TABLE_NAME">
            <column name="M_ID" type="bigint">
                <constraints nullable="false" primaryKey="true" primaryKeyName="PK_MY_TABLE_NAME_190" />
            </column>
            <column name="M_FORMAT" type="int" />
        </createTable>
    </changeSet>

    ...
    ...
    ...

    <changeSet author="me" id="indexCreation121">
        <preConditions onFail="MARK_RAN">
            <tableExists tableName="MY_TABLE_NAME"/>
            <not>
                <indexExists tableName="MY_TABLE_NAME" columnNames="M_FEEDER_ID"/>
            </not>
        </preConditions>
        <comment>Creating index for MY_TABLE_NAME</comment>
        <createIndex tableName="MY_TABLE_NAME" indexName="MY_INDEX_NAME">
            <column name="M_ID_INDEX"/>
        </createIndex>
    </changeSet>
    
    ...
    ...
    ...

</databaseChangeLog>

在 Liquibase 3.5.3 上，以前创建索引很快。 当我迁移到 Liquibase 3.6.3 时，我的性能出现了严重的倒退。

过去需要 1-2 分钟才能完成，现在最多需要 20 分钟才能完成。

变更日志没有定义唯一约束。 在调试时，我注意到两个版本之间的许多差异之一。在 3.5.3 中，不会调用来自 UniqueConstraintSnapshotGenerator 的 listConstraints 和 listColumns 方法。 在 3.6.3 版本中，这些方法被调用了很多，即使更改日​​志中没有定义唯一约束。我猜他们是从之前定义的环境表中来的。

其中一些查询（见下文）使用完全相同的参数多次调用。不知道是不是3.6.3中添加的维护步骤。

2020-08-13 17:03:52,270 INFO [main] select ucc.owner as constraint_container, ucc.constraint_name as constraint_name, ucc.column_name, f.validated as constraint_validate from all_cons_columns ucc INNER JOIN all_constraints f ON ucc.owner = f.owner AND ucc.constraint_name = f.constraint_name where ucc.constraint_name='UC' and ucc.owner='DB' and ucc.table_name not like 'BIN$%' order by ucc.position

我不确定这是否是回归的原因，但老实说，我没有想法。 有谁知道这是否可能是这种回归的原因？ 他们是否在 Liquibase 3.6.3 中添加了可能导致性能大幅下降的新维护步骤？

非常感谢！

【参考方案1】：

您可能需要对 Oracle 数据字典进行维护。与一般的 Oracle 数据库相比，使用 Liquibase 的数据库往往会删除和创建更多对象，这可能会导致元数据查询出现性能问题。

首先，收集固定对象（V$ 对象）和数据字典（ALL_ 对象）的优化器统计信息。此信息有助于 Oracle 为元数据查询构建良好的执行计划。以下语句将需要几分钟，但可能只需要每年运行一次：

begin
    dbms_stats.gather_fixed_objects_stats;
    dbms_stats.gather_dictionary_stats;
end;
/

数据字典查询问题的另一个常见原因是回收站中有大量对象。回收站在生产系统上非常有用，它可以让您立即从丢弃错误的表中恢复。但在开发环境中，如果不断丢弃数千个对象但未清除，这些旧对象可能会减慢一些元数据查询。

--Count the number of objects in the recycle bin.
select count(*) from dba_recyclebin;
--Purge all of them if you don't need them. Must be run as SYS.
purge dba_recyclebin;

对于某些数据字典问题，这是两个快速而轻松的解决方案。如果这没有帮助，您可能需要调整特定的 SQL 语句，这可能需要大量信息。例如 - 您的系统究竟需要多长时间才能针对 ALL_CONS_COLUMNS 运行该查询？ （在我的数据库上，它的运行时间不到一秒。）

运行 Liquibase，然后使用如下查询来查找最慢的元数据查询：

select elapsed_time/1000000 seconds, executions, sql_id, sql_fulltext, gv$sql.*
from gv$sql
order by elapsed_time desc;