BigQuery 中的 OTRANSLATE 等价物是啥?
Posted
技术标签:
【中文标题】BigQuery 中的 OTRANSLATE 等价物是啥?【英文标题】:What is an equivalent to OTRANSLATE in BigQuery?BigQuery 中的 OTRANSLATE 等价物是什么? 【发布时间】:2019-03-08 00:27:02 【问题描述】:我正在尝试翻译一个查询以在 BigQuery 中运行,该查询使用来自 Teradata 的 OTRANSLATE function。例如,
SELECT OTRANSLATE(text, 'ehlo', 'EHLO')
FROM (
SELECT 'hello world' AS text UNION ALL
SELECT 'elliott'
);
这应该产生:
HELLO wOrLd
ELLiOtt
有没有办法在 BigQuery 中表达这个函数?看起来没有直接的等价物。
【问题讨论】:
类似于***.com/a/43148949/5221944 【参考方案1】:另一种略有不同的方法(BigQuery 标准 SQL)
#standardSQL
CREATE TEMP FUNCTION OTRANSLATE(text STRING, from_string STRING, to_string STRING) AS ((
SELECT STRING_AGG(IFNULL(y, a), '' ORDER BY pos)
FROM UNNEST(SPLIT(text, '')) a WITH OFFSET pos
LEFT JOIN (
SELECT x, y
FROM UNNEST(SPLIT(from_string, '')) x WITH OFFSET
JOIN UNNEST(SPLIT(to_string, '')) y WITH OFFSET
USING(OFFSET)
)
ON a = x
));
WITH `project.dataset.table` AS (
SELECT 'hello world' AS text UNION ALL
SELECT 'elliott'
)
SELECT text, OTRANSLATE(text, 'ehlo', 'EHLO') as new_text
FROM `project.dataset.table`
有输出
Row text new_text
1 hello world HELLO wOrLd
2 elliott ELLiOtt
注意:以上版本假设 from 和 to 字符串长度相等,并且字符串中没有重复字符
更新以跟进 BigQuery 中该函数版本的“扩展期望”
#standardSQL
CREATE TEMP FUNCTION OTRANSLATE(text STRING, from_string STRING, to_string STRING) AS ((
SELECT STRING_AGG(IFNULL(y, a), '' ORDER BY pos)
FROM UNNEST(SPLIT(text, '')) a WITH OFFSET pos
LEFT JOIN (
SELECT x, ARRAY_AGG(IFNULL(y, '') ORDER BY OFFSET LIMIT 1)[OFFSET(0)] y
FROM UNNEST(SPLIT(from_string, '')) x WITH OFFSET
LEFT JOIN UNNEST(SPLIT(to_string, '')) y WITH OFFSET
USING(OFFSET)
GROUP BY x
)
ON a = x
));
SELECT -- text, OTRANSLATE(text, 'ehlo', 'EHLO') as new_text
OTRANSLATE("hello world", "", "EHLO") AS empty_from, -- 'hello world'
OTRANSLATE("hello world", "hello world1", "EHLO") AS larger_from_than_source, -- 'EHLLL'
OTRANSLATE("hello world", "ehlo", "EHLO") AS equal_size_from_to, -- 'HELLO wOrLd'
OTRANSLATE("hello world", "ehlo", "EH") AS larger_size_from, -- 'HE wrd'
OTRANSLATE("hello world", "ehlo", "EHLOPQ") AS larger_size_to, -- 'hello world'
OTRANSLATE("hello world", "ehlo", "") AS empty_to; -- 'wrd'
结果
Row empty_from larger_from_than_source equal_size_from_to larger_size_from larger_size_to empty_to
1 hello world EHLLL HELLO wOrLd HE wrd HELLO wOrLd wrd
.
注意:该函数的 Teradata 版本是递归的,因此当前的实现不是 Teradata 的 OTRANSLATE 的精确实现
使用说明(来自 teradata 文档) 如果 from_string 中的第一个字符出现在 source_string 中,则所有出现的它都将替换为 to_string 中的第一个字符。这对 from_string 中的所有字符和 from_string 中的所有字符重复。替换是逐个字符进行的,也就是说,第二个字符的替换是对第一个字符替换后的字符串进行的。
这可以很容易地用 JS UDF 实现,这是微不足道的,我想所以我不会朝这个方向发展 :o)
【讨论】:
【参考方案2】:是的,您可以对字符串使用数组操作来做到这一点。这是一种解决方案:
CREATE TEMP FUNCTION OTRANSLATE(s STRING, key STRING, value STRING) AS (
(SELECT
STRING_AGG(
IFNULL(
(SELECT value[OFFSET(
SELECT o FROM UNNEST(SPLIT(key, '')) AS k WITH OFFSET o2
WHERE k = c)]
),
c),
'' ORDER BY o1)
FROM UNNEST(SPLIT(s, '')) AS c WITH OFFSET o1)
)
);
SELECT OTRANSLATE(text, 'ehlo', 'EHLO')
FROM (
SELECT 'hello world' AS text UNION ALL
SELECT 'elliott'
);
思路是在value
字符串中找到与key
字符串相同位置的字符。如果key
字符串中没有匹配的字符,我们会得到一个空偏移量,所以IFNULL
的第二个参数会导致它返回未映射的字符。然后我们聚合回一个字符串,按字符偏移量排序。
编辑:这里有一个变体,它也处理键和值长度的差异:
CREATE TEMP FUNCTION otranslate(s STRING, key STRING, value STRING) AS (
IF(LENGTH(key) < LENGTH(value) OR LENGTH(s) < LENGTH(key), s,
(SELECT
STRING_AGG(
IFNULL(
(SELECT ARRAY_CONCAT([c], SPLIT(value, ''))[SAFE_OFFSET((
SELECT IFNULL(MIN(o2) + 1, 0) FROM UNNEST(SPLIT(key, '')) AS k WITH OFFSET o2
WHERE k = c))]
),
''),
'' ORDER BY o1)
FROM UNNEST(SPLIT(s, '')) AS c WITH OFFSET o1
))
);
SELECT
otranslate("hello world", "", "EHLO") AS empty_from, -- 'hello world'
otranslate("hello world", "hello world1", "EHLO") AS larger_from_than_source, -- 'hello world'
otranslate("hello world", "ehlo", "EHLO") AS equal_size_from_to, -- 'HELLO wOrLd'
otranslate("hello world", "ehlo", "EH") AS larger_size_from, -- 'HE wrd'
otranslate("hello world", "ehlo", "EHLOPQ") AS larger_size_to, -- 'hello world'
otranslate("hello world", "ehlo", "") AS empty_to; -- 'wrd'
【讨论】:
以上是关于BigQuery 中的 OTRANSLATE 等价物是啥?的主要内容,如果未能解决你的问题,请参考以下文章
MySQL LOCATE 与 Bigquery 的等价物是啥?
BigQuery 中 MySQL 的 binary(8) 和 varbinary(16) 的等价物是啥?
AWS 中用于分析的类似 Google Bigquery 的等价物是啥?