oracle表之间的连接

Posted 2023-03-25

参考技术A

　　Join是一种试图将两个表结合在一起的谓词 一次只能连接 个表 表连接也可以被称为表关联 在后面的叙述中 我们将会使用 row source 来代替 表 因为使用row source更严谨一些 并且将参与连接的 个row source分别称为row source 和row source Join过程的各个步骤经常是串行操作 即使相关的row source可以被并行访问 即可以并行的读取做join连接的两个row source的数据 但是在将表中符合限制条件的数据读入到内存形成row source后 join的其它步骤一般是串行的 有多种方法可以将 个表连接起来 当然每种方法都有自己的优缺点 每种连接类型只有在特定的条件下才会发挥出其最大优势

　　row source(表)之间的连接顺序对于查询的效率有非常大的影响 通过首先存取特定的表 即将该表作为驱动表 这样可以先应用某些限制条件 从而得到一个较小的row source 使连接的效率较高 这也就是我们常说的要先执行限制条件的原因 一般是在将表读入内存时 应用where子句中对该表的限制条件

　　根据 个row source的连接条件的中操作符的不同 可以将连接分为等值连接(如WHERE A COL = B COL ) 非等值连接(WHERE A COL > B COL ) 外连接(WHERE A COL = B COL (+)) 上面的各个连接的连接原理都基本一样 所以为了简单期间 下面以等值连接为例进行介绍

　　在后面的介绍中 都已

　　SELECT A COL B COL

　　FROM A B

　　WHERE A COL = B COL ;

　　为例进行说明 假设A表为Row Soruce 则其对应的连接操作关联列为COL B表为Row Soruce 则其对应的连接操作关联列为COL

　　连接类型

　　目前为止 无论连接操作符如何 典型的连接类型共有 种

　　排序 合并连接(Sort Merge Join (SMJ) )

　　嵌套循环(Nested Loops (NL) )

　　哈希连接(Hash Join)

　　排序 合并连接(Sort Merge Join SMJ)

　　内部连接过程

　　 ) 首先生成row source 需要的数据 然后对这些数据按照连接操作关联列(如l )进行排序

　　 ) 随后生成row source 需要的数据 然后对这些数据按照与sort source 对应的连接操作关联列(如l )进行排序

　　 ) 最后两边已排序的行被放在一起执行合并操作 即将 个row source按照连接条件连接起来

　　下面是连接步骤的图形表示

　　MERGE

　　/\\

　　SORTSORT

　　||

　　Row Source Row Source

　　如果row source已经在连接关联列上被排序 则该连接操作就不需要再进行sort操作 这样可以大大提高这种连接操作的连接速度 因为排序是个极其费资源的操作 特别是对于较大的表 预先排序的row source包括已经被索引的列(如l 或l 上有索引)或row source已经在前面的步骤中被排序了 尽管合并两个row source的过程是串行的 但是可以并行访问这两个row source(如并行读入数据 并行排序)

　　SMJ连接的例子

　　SQL> explain plan for

　　select /*+ ordered */ e deptno d deptno

　　from emp e dept d

　　where e deptno = d deptno

　　order by e deptno d deptno;

　　Query Plan

　　

　　SELECT STATEMENT [CHOOSE] Cost=

　　MERGE JOIN

　　SORT JOIN

　　TABLE ACCESS FULL EMP [ANALYZED]

　　SORT JOIN

　　TABLE ACCESS FULL DEPT [ANALYZED]

　　排序是一个费时 费资源的操作 特别对于大表 基于这个原因 SMJ经常不是一个特别有效的连接方法 但是如果 个row source都已经预先排序 则这种连接方法的效率也是蛮高的

　　嵌套循环(Nested Loops NL)

　　这个连接方法有驱动表(外部表)的概念 其实 该连接过程就是一个 层嵌套循环 所以外层循环的次数越少越好 这也就是我们为什么将小表或返回较小row source的表作为驱动表(用于外层循环)的理论依据 但是这个理论只是一般指导原则 因为遵循这个理论并不能总保证使语句产生的I/O次数最少 有时不遵守这个理论依据 反而会获得更好的效率 如果使用这种方法 决定使用哪个表作为驱动表很重要 有时如果驱动表选择不正确 将会导致语句的性能很差 很差

　　内部连接过程

　　Row source 的Row Probe >Row source

　　Row source 的Row Probe >Row source

　　Row source 的Row Probe >Row source

　　……

　　Row source 的Row n Probe >Row source

　　从内部连接过程来看 需要用row source 中的每一行 去匹配row source 中的所有行 所以此时保持row source 尽可能的小与高效的访问row source (一般通过索引实现)是影响这个连接效率的关键问题 这只是理论指导原则 目的是使整个连接操作产生最少的物理I/O次数 而且如果遵守这个原则 一般也会使总的物理I/O数最少 但是如果不遵从这个指导原则 反而能用更少的物理I/O实现连接操作 那尽管违反指导原则吧！因为最少的物理I/O次数才是我们应该遵从的真正的指导原则 在后面的具体案例分析中就给出这样的例子

　　在上面的连接过程中 我们称Row source 为驱动表或外部表 Row Source 被称为被探查表或内部表

　　在NESTED LOOPS连接中 Oracle读取row source 中的每一行 然后在row sourc 中检查是否有匹配的行 所有被匹配的行都被放到结果集中 然后处理row source 中的下一行 这个过程一直继续 直到row source 中的所有行都被处理 这是从连接操作中可以得到第一个匹配行的最快的方法之一 这种类型的连接可以用在需要快速响应的语句中 以响应速度为主要目标

　　如果driving row source(外部表)比较小 并且在inner row source(内部表)上有唯一索引 或有高选择性非唯一索引时 使用这种方法可以得到较好的效率 NESTED LOOPS有其它连接方法没有的的一个优点是 可以先返回已经连接的行 而不必等待所有的连接操作处理完才返回数据 这可以实现快速的响应时间

　　如果不使用并行操作 最好的驱动表是那些应用了where 限制条件后 可以返回较少行数据的的表 所以大表也可能称为驱动表 关键看限制条件 对于并行查询 我们经常选择大表作为驱动表 因为大表可以充分利用并行功能 当然 有时对查询使用并行操作并不一定会比查询不使用并行操作效率高 因为最后可能每个表只有很少的行符合限制条件 而且还要看你的硬件配置是否可以支持并行(如是否有多个CPU 多个硬盘控制器) 所以要具体问题具体对待

　　NL连接的例子

　　SQL> explain plan for

　　select a dname b sql

　　from dept a emp b

　　where a deptno = b deptno;

　　Query Plan

　　

　　SELECT STATEMENT [CHOOSE] Cost=

　　NESTED LOOPS

　　TABLE ACCESS FULL DEPT [ANALYZED]

　　TABLE ACCESS FULL EMP [ANALYZED]

　　哈希连接(Hash Join HJ)

　　这种连接是在oracle 以后引入的 从理论上来说比NL与SMJ更高效 而且只用在CBO优化器中

　　较小的row source被用来构建hash table与bitmap 第 个row source被用来被hansed 并与第一个row source生成的hash table进行匹配 以便进行进一步的连接 Bitmap被用来作为一种比较快的查找方法 来检查在hash table中是否有匹配的行 特别的 当hash table比较大而不能全部容纳在内存中时 这种查找方法更为有用 这种连接方法也有NL连接中所谓的驱动表的概念 被构建为hash table与bitmap的表为驱动表 当被构建的hash table与bitmap能被容纳在内存中时 这种连接方式的效率极高

　　HASH连接的例子

　　SQL> explain plan for

　　select /*+ use_hash(emp) */ empno

　　from emp dept

　　where emp deptno = dept deptno;

　　Query Plan

　　

　　SELECT STATEMENT[CHOOSE] Cost=

　　HASH JOIN

　　TABLE ACCESS FULL DEPT

　　TABLE ACCESS FULL EMP

　　要使哈希连接有效 需要设置HASH_JOIN_ENABLED=TRUE 缺省情况下该参数为TRUE 另外 不要忘了还要设置hash_area_size参数 以使哈希连接高效运行 因为哈希连接会在该参数指定大小的内存中运行 过小的参数会使哈希连接的性能比其他连接方式还要低

　　总结一下 在哪种情况下用哪种连接方法比较好

　　排序 合并连接(Sort Merge Join SMJ)

　　a) 对于非等值连接 这种连接方式的效率是比较高的

　　b) 如果在关联的列上都有索引 效果更好

　　c) 对于将 个较大的row source做连接 该连接方法比NL连接要好一些

　　d) 但是如果sort merge返回的row source过大 则又会导致使用过多的rowid在表中查询数据时 数据库性能下降 因为过多的I/O

　　嵌套循环(Nested Loops NL)

　　a) 如果driving row source(外部表)比较小 并且在inner row source(内部表)上有唯一索引 或有高选择性非唯一索引时 使用这种方法可以得到较好的效率

　　b) NESTED LOOPS有其它连接方法没有的的一个优点是 可以先返回已经连接的行 而不必等待所有的连接操作处理完才返回数据 这可以实现快速的响应时间

　　哈希连接(Hash Join HJ)

　　a) 这种方法是在oracle 后来引入的 使用了比较先进的连接理论 一般来说 其效率应该好于其它 种连接 但是这种连接只能用在CBO优化器中 而且需要设置合适的hash_area_size参数 才能取得较好的性能

　　b) 在 个较大的row source之间连接时会取得相对较好的效率 在一个row source较小时则能取得更好的效率

　　c) 只能用于等值连接中

　　笛卡儿乘积(Cartesian Product)

　　当两个row source做连接 但是它们之间没有关联条件时 就会在两个row source中做笛卡儿乘积 这通常由编写代码疏漏造成(即程序员忘了写关联条件) 笛卡尔乘积是一个表的每一行依次与另一个表中的所有行匹配 在特殊情况下我们可以使用笛卡儿乘积 如在星形连接中 除此之外 我们要尽量使用笛卡儿乘积 否则 自己想结果是什么吧！

　　注意在下面的语句中 在 个表之间没有连接

　　SQL> explain plan for

　　select emp deptno dept deptno

　　from emp dept

　　Query Plan

　　

　　SLECT STATEMENT [CHOOSE] Cost=

　　MERGE JOIN CARTESIAN

　　TABLE ACCESS FULL DEPT

　　SORT JOIN

　　TABLE ACCESS FULL EMP

lishixinzhi/Article/program/Oracle/201311/17469

Spark 中的 Oracle 表之间的联接

【中文标题】Spark 中的 Oracle 表之间的联接

【英文标题】：Join between Oracle tables in Spark

【发布时间】：2020-04-26 15:33:53

【问题描述】：

我需要在 2 个 Oracle 表之间进行连接，然后通过 Spark（Java 中）处理数据。 这样做的最佳选择是什么？ - 利用本机 Oracle 连接功能，通过“select * from table1,table2 where table1.fk = table2.pk”之类的查询在 Spark 中加载单个数据集 或者 - 利用 Spark 连接功能加载 2 个不同的数据集（每个 Oracle 表一个），然后通过 Dataset 函数 Dataset.join 执行连接？

谢谢！

【参考方案1】：

在spark中做join操作之前，可以先在oracle和spark中创建一些join查询的性能矩阵，根据观察决定选择哪一个。对相同的分析的几个指针，

如果数据集的大小和加入操作不会在 oracle DB 中增加性能问题，则在源（oracle）本身中执行加入操作。 但是当数据集足够大意味着以 GB 或 TB 为单位时，如果查询在 oracle 上运行时遇到性能问题，如果需要数小时来执行操作，那么您肯定必须考虑使用 spark，因为与 RDBMS 相比，它的查询延迟更短（甲骨文）。 如果 oracle DB 是事务数据库，并且有大量针对生产关键应用程序运行的事务查询，则需要分析连接操作是否阻塞数据库。如果这是问题，那么肯定会考虑在 spark 中卸载此数据集并在那里执行连接操作。 在 oracle 和 spark 中进行性能评估，并检查哪个加入操作更快。这里 oracle 可能比 spark 更快，如果数据大小很小，就像 spark 在内存中一样，但查询延迟在几秒到几分钟而不是在亚秒级。 如果将来连接表的数据持续增长并且这是重复批处理作业的一部分，那么您可能不希望每次都在源连接操作并使其负担过重。如果组织中有可用的 spark，那么我们可以将此类操作卸载到 spark。

希望这些提示有助于了解是否使用 spark。

在这里，我将保留以下答案，供您在火花选项之间进行选择。

您可以通过任何一种方式为每个表创建数据帧并执行连接操作，然后在 spark 内存中注册临时表并在其上执行 sql 查询，类似于 oracle。 这样做没有坏处。另一种方法是为每个表创建数据集并使用连接函数执行连接操作。 这里两种方法的结果是相同的，但从性能的角度来看，数据集更加优化，因为它会尝试利用 rdd 函数的额外优势，与仅 spark 数据帧相比更加优化。

以下是数据集操作的示例代码，

Dataset<Row> jdbcDF1 = spark.read()
  .format("jdbc")
  .option("url", "oracle.jdbc.driver.OracleDriver")
  .option("dbtable", "schema.table1")
  .option("user", "username")
  .option("password", "password")
  .load();

Dataset<Row> jdbcDF2 = spark.read()
  .format("jdbc")
  .option("url", "oracle.jdbc.driver.OracleDriver")
  .option("dbtable", "schema.table2")
  .option("user", "username")
  .option("password", "password")
  .load();

jdbcDF1.join(jdbcDF1, jdbcDF1.col("id").equalTo(jdbcDF2.col("id")))

【讨论】：

你好阿亚，谢谢你的回答！但我的问题不是在 Spark 中加入的不同方式之间，而是我在问是通过 Spark 加入还是从已经加入的 Oracle 中提取数据更好（因此利用 Oracle 加入）......你怎么看？什么是最好的表演？感谢您的帮助！

嘿，它的 Ajay :) ...抱歉，让我在这里添加更多内容来回答您的问题。

对不起 AjaY :) 谢谢你的友好回答祝你有美好的一天