您如何在 Postgres 中找到所有表的行数

Posted

技术标签:

【中文标题】您如何在 Postgres 中找到所有表的行数【英文标题】:How do you find the row count for all your tables in Postgres 【发布时间】:2011-02-05 12:03:45 【问题描述】:

我正在寻找一种方法来查找我在 Postgres 中所有表的行数。我知道我可以一次处理一张桌子:

SELECT count(*) FROM table_name;

但我想查看所有表的行数,然后按此排序以了解我的所有表有多大。

【问题讨论】:

【参考方案1】:

有三种方法可以获得这种计数,每种方法都有自己的权衡。

如果你想要一个真实的计数,你必须像对每个表使用的那样执行 SELECT 语句。这是因为 PostgreSQL 将行可见性信息保存在行本身中,而不是其他任何地方,因此任何准确的计数只能与某些事务相关。您正在计算该事务在执行时看到的内容。您可以自动执行此操作以针对数据库中的每个表运行,但您可能不需要那种级别的准确性或希望等待那么长时间。

第二种方法指出,统计信息收集器随时大致跟踪有多少行是“活动的”(未删除或被以后的更新淘汰)。在活动量大的情况下,该值可能会有所偏差,但通常是一个不错的估计:

SELECT schemaname,relname,n_live_tup 
  FROM pg_stat_user_tables 
  ORDER BY n_live_tup DESC;

这还可以显示死了多少行,这本身就是一个值得监控的有趣数字。

第三种方法是注意系统 ANALYZE 命令,从 PostgreSQL 8.3 开始由 autovacuum 进程定期执行以更新表统计信息,它也计算行估计。你可以像这样抓住那个:

SELECT 
  nspname AS schemaname,relname,reltuples
FROM pg_class C
LEFT JOIN pg_namespace N ON (N.oid = C.relnamespace)
WHERE 
  nspname NOT IN ('pg_catalog', 'information_schema') AND
  relkind='r' 
ORDER BY reltuples DESC;

很难说这些查询中哪个更好用。通常我会根据是否还有更多有用的信息想要在 pg_class 内部或 pg_stat_user_tables 内部使用来做出决定。对于基本的计数目的,只是为了查看一般情况下有多大,两者都应该足够准确。

【讨论】:

为了完成,请在第一个选项中添加这个(感谢@a_horse_with_no_name):with tbl as (SELECT table_schema,table_name FROM information_schema.tables where table_name not like 'pg_%' and table_schema in ('public')) select table_schema, table_name, (xpath('/row/c/text()', query_to_xml(format('select count(*) as c from %I.%I', table_schema, table_name), false, true, '')))[1]::text::int as rows_n from tbl ORDER BY 3 DESC; @Greg Smith 哪个版本引入了n_live_tup?我的 Redshift 数据库缺少该列。它是 Postgres 8.0.2 的衍生版本。 “第二种方法”查询(使用pg_stat_user_tables)为我返回了n_live_tup 中的大部分零,因为ANALYZE 从未运行过。我没有在每个模式/表上运行ANALYZE 并永远等待答案,而是首先使用“第三种方法”检查结果,并且那个(使用pg_class)返回了非常准确的计数。 @BrianD,可以使用analyzedb实用程序作为“analyzedb -d dbname”在数据库级别执行分析 @estani,谢谢!你的 sql 是这个答案中唯一一个我没有发现明显错误的。例如,Gregs 第二种方法显示所有表为零,第三种方法仅在我恢复转储的新数据库中准确(与原始数据库表中的建议查询输出实际计数不同)【参考方案2】:

这是一个不需要函数来获得每个表的准确计数的解决方案:

select table_schema, 
       table_name, 
       (xpath('/row/cnt/text()', xml_count))[1]::text::int as row_count
from (
  select table_name, table_schema, 
         query_to_xml(format('select count(*) as cnt from %I.%I', table_schema, table_name), false, true, '') as xml_count
  from information_schema.tables
  where table_schema = 'public' --<< change here for the schema you want
) t

query_to_xml 将运行传递的 SQL 查询并返回带有结果的 XML(该表的行数)。然后外部xpath() 将从该xml 中提取计数信息并将其转换为数字

派生表并不是真正必需的,但会使xpath() 更易于理解 - 否则整个query_to_xml() 将需要传递给xpath() 函数。

【讨论】:

非常聪明。可惜没有query_to_jsonb() @a_horse_with_no_name,它会在执行时对繁忙且巨大的表产生任何性能问题吗? @Spike:性能问题相比什么?主要的性能瓶颈是在每个表上运行select count(*) @a_horse_with_no_name,通过对一亿条记录执行 x_path 函数。 这给出了一个 TRUE 计数,而接受的答案不是预期的。谢谢!【参考方案3】:

要获取估算值,请参阅Greg Smith's answer。

为了获得准确的计数,到目前为止,其他答案都存在一些问题,其中一些问题很严重(见下文)。这是一个希望更好的版本:

CREATE FUNCTION rowcount_all(schema_name text default 'public')
  RETURNS table(table_name text, cnt bigint) as
$$
declare
 table_name text;
begin
  for table_name in SELECT c.relname FROM pg_class c
    JOIN pg_namespace s ON (c.relnamespace=s.oid)
    WHERE c.relkind = 'r' AND s.nspname=schema_name
  LOOP
    RETURN QUERY EXECUTE format('select cast(%L as text),count(*) from %I.%I',
       table_name, schema_name, table_name);
  END LOOP;
end
$$ language plpgsql;

它需要一个模式名称作为参数,如果没有给出参数,则使用public

要在不修改函数的情况下使用特定的模式列表或来自查询的列表,可以在这样的查询中调用它:

WITH rc(schema_name,tbl) AS (
  select s.n,rowcount_all(s.n) from (values ('schema1'),('schema2')) as s(n)
)
SELECT schema_name,(tbl).* FROM rc;

这会产生一个包含架构、表和行数的 3 列输出。

现在这里是这个函数避免的其他答案中的一些问题:

不应将表和模式名称注入可执行 SQL 中而不被引用,无论是使用 quote_ident 还是使用带有 %I 格式字符串的更现代的 format() 函数。否则一些恶意的人可能会将他们的表命名为tablename;DROP TABLE other_table,这作为表名是完全有效的。

即使没有 SQL 注入和有趣的字符问题,表名也可能存在大小写不同的变体。如果一个表被命名为ABCD 和另一个abcdSELECT count(*) FROM... 必须使用带引号的名称,否则它将跳过ABCD 并计算abcd 两次。 %I 格式会自动执行此操作。

information_schema.tables 列出除表之外的自定义复合类型,即使 table_type 为 'BASE TABLE' (!)。因此,我们不能在information_schema.tables 上进行迭代,否则我们冒着select count(*) from name_of_composite_type 的风险,这将失败。 OTOH pg_class where relkind='r' 应该总是可以正常工作。

COUNT() 的类型是bigint,而不是int。可能存在超过 21.5 亿行的表(不过,对它们运行 count(*) 是个坏主意)。

无需为函数创建永久类型即可返回具有多列的结果集。 RETURNS TABLE(definition...) 是更好的选择。

【讨论】:

【参考方案4】:

如果您不介意可能过时的数据,您可以access the same statistics used by the query optimizer。

类似:

SELECT relname, n_tup_ins - n_tup_del as rowcount FROM pg_stat_all_tables;

【讨论】:

@mlissner:如果您的自动清理间隔太长或者您没有在桌子上运行手动ANALYZE,则统计信息可能会消失。这是一个数据库负载以及如何配置数据库的问题(如果统计信息更新得更频繁,统计信息会更准确,但会降低运行时性能)。最终,获得准确数据的唯一方法是对所有表运行select count(*) from table【参考方案5】:

对于那些试图评估他们需要哪个 Heroku 计划并且迫不及待地等待 Heroku 的慢行计数器刷新的人来说,这是一个实用的解决方案:

基本上你想在psql 中运行\dt,将结果复制到你喜欢的文本编辑器(它看起来像这样:

 public | auth_group                     | table | axrsosvelhutvw
 public | auth_group_permissions         | table | axrsosvelhutvw
 public | auth_permission                | table | axrsosvelhutvw
 public | auth_user                      | table | axrsosvelhutvw
 public | auth_user_groups               | table | axrsosvelhutvw
 public | auth_user_user_permissions     | table | axrsosvelhutvw
 public | background_task                | table | axrsosvelhutvw
 public | django_admin_log               | table | axrsosvelhutvw
 public | django_content_type            | table | axrsosvelhutvw
 public | django_migrations              | table | axrsosvelhutvw
 public | django_session                 | table | axrsosvelhutvw
 public | exercises_assignment           | table | axrsosvelhutvw

),然后像这样运行正则表达式搜索和替换:

^[^|]*\|\s+([^|]*?)\s+\| table \|.*$

到:

select '\1', count(*) from \1 union/g

这将产生与此非常相似的东西:

select 'auth_group', count(*) from auth_group union
select 'auth_group_permissions', count(*) from auth_group_permissions union
select 'auth_permission', count(*) from auth_permission union
select 'auth_user', count(*) from auth_user union
select 'auth_user_groups', count(*) from auth_user_groups union
select 'auth_user_user_permissions', count(*) from auth_user_user_permissions union
select 'background_task', count(*) from background_task union
select 'django_admin_log', count(*) from django_admin_log union
select 'django_content_type', count(*) from django_content_type union
select 'django_migrations', count(*) from django_migrations union
select 'django_session', count(*) from django_session
;

(您需要删除最后一个 union 并在末尾手动添加分号)

psql 中运行它就完成了。

            ?column?            | count
--------------------------------+-------
 auth_group_permissions         |     0
 auth_user_user_permissions     |     0
 django_session                 |  1306
 django_content_type            |    17
 auth_user_groups               |   162
 django_admin_log               |  9106
 django_migrations              |    19
[..]

【讨论】:

我喜欢这个主意 在 Atom 中,我必须像这样进行正则表达式搜索和替换:select '$1', count(*) from $1 union/g 另外,帖子说:“您需要删除并集并在末尾添加分号。”这是一个错字。您需要删除/g(保留union)并在最后添加一个分号(;)。不要忘记删除分号前的最后一个union “不要忘记删除分号前的最后一个union”是我的意思:) 添加了“last”这个词来澄清 对于 VSCode,对我有用的是select '$1', count(*) from $1 union【参考方案6】:

简单的两个步骤:(注意:无需更改任何内容 - 只需复制粘贴)1。创建函数

create function 
cnt_rows(schema text, tablename text) returns integer
as
$body$
declare
  result integer;
  query varchar;
begin
  query := 'SELECT count(1) FROM ' || schema || '.' || tablename;
  execute query into result;
  return result;
end;
$body$
language plpgsql;

2。运行此查询以获取所有表的行数

select sum(cnt_rows) as total_no_of_rows from (select 
  cnt_rows(table_schema, table_name)
from information_schema.tables
where 
  table_schema not in ('pg_catalog', 'information_schema') 
  and table_type='BASE TABLE') as subq;

按表格获取行数

select
  table_schema,
  table_name, 
  cnt_rows(table_schema, table_name)
from information_schema.tables
where 
  table_schema not in ('pg_catalog', 'information_schema') 
  and table_type='BASE TABLE'
order by 3 desc;

【讨论】:

【参考方案7】:

不确定您是否可以接受bash 的答案,但 FWIW...

PGCOMMAND=" psql -h localhost -U fred -d mydb -At -c \"
            SELECT   table_name
            FROM     information_schema.tables
            WHERE    table_type='BASE TABLE'
            AND      table_schema='public'
            \""
TABLENAMES=$(export PGPASSWORD=test; eval "$PGCOMMAND")

for TABLENAME in $TABLENAMES; do
    PGCOMMAND=" psql -h localhost -U fred -d mydb -At -c \"
                SELECT   '$TABLENAME',
                         count(*) 
                FROM     $TABLENAME
                \""
    eval "$PGCOMMAND"
done

【讨论】:

在本质上,这只是归结为 OP 中相同的 select count(*) from table_name;【参考方案8】:

我通常不依赖统计数据,尤其是在 PostgreSQL 中。

SELECT table_name, dsql2('select count(*) from '||table_name) as rownum
FROM information_schema.tables
WHERE table_type='BASE TABLE'
    AND table_schema='livescreen'
ORDER BY 2 DESC;
CREATE OR REPLACE FUNCTION dsql2(i_text text)
  RETURNS int AS
$BODY$
Declare
  v_val int;
BEGIN
  execute i_text into v_val;
  return v_val;
END; 
$BODY$
  LANGUAGE plpgsql VOLATILE
  COST 100;

【讨论】:

这很好,但第一个查询还应该包括 rownum 值的架构。如果不同模式中存在冲突的名称,这将无法按预期工作。所以这部分查询应该看起来更像dsql2('select count(*) from livescreen.'||table_name) 或者更好的是它可以变成它自己的函数。【参考方案9】:

我不记得我收集这个的网址。但希望这对您有所帮助:

CREATE TYPE table_count AS (table_name TEXT, num_rows INTEGER); 

CREATE OR REPLACE FUNCTION count_em_all () RETURNS SETOF table_count  AS '
DECLARE 
    the_count RECORD; 
    t_name RECORD; 
    r table_count%ROWTYPE; 

BEGIN
    FOR t_name IN 
        SELECT 
            c.relname
        FROM
            pg_catalog.pg_class c LEFT JOIN pg_namespace n ON n.oid = c.relnamespace
        WHERE 
            c.relkind = ''r''
            AND n.nspname = ''public'' 
        ORDER BY 1 
        LOOP
            FOR the_count IN EXECUTE ''SELECT COUNT(*) AS "count" FROM '' || t_name.relname 
            LOOP 
            END LOOP; 

            r.table_name := t_name.relname; 
            r.num_rows := the_count.count; 
            RETURN NEXT r; 
        END LOOP; 
        RETURN; 
END;
' LANGUAGE plpgsql; 

执行select count_em_all(); 应该会得到所有表的行数。

【讨论】:

最好引用列名(如quote_ident(t_name.relname))以确保正确支持不寻常的名称(例如“列名”)。 之后删除它:DROP FUNCTION count_em_all(); 出现错误:选择 count_em_all();错误:“组”第 1 行或附近的语法错误:SELECT COUNT() AS “count” FROM group ^ QUERY:SELECT COUNT() AS “count” FROM group CONTEXT:PL/pgSQL 函数 count_em_all() 第 18 行 FOR over执行语句 太棒了!选择和排序 - SELECT * FROM count_em_all() as r ORDER BY r.num_rows DESC;【参考方案10】:

这对我有用

SELECT schemaname,relname,n_live_tup FROM pg_stat_user_tables ORDER BY n_live_tup DESC;

【讨论】:

这给出了一些有趣的数字,但它不是(总是?)行数。好的,文档说这是估计的:postgresql.org/docs/9.3/…(如何更新这些统计信息?)【参考方案11】:

我做了一个小改动以包括所有表格,也包括非公共表格。

CREATE TYPE table_count AS (table_schema TEXT,table_name TEXT, num_rows INTEGER); 

CREATE OR REPLACE FUNCTION count_em_all () RETURNS SETOF table_count  AS '
DECLARE 
    the_count RECORD; 
    t_name RECORD; 
    r table_count%ROWTYPE; 

BEGIN
    FOR t_name IN 
        SELECT table_schema,table_name
        FROM information_schema.tables
        where table_schema !=''pg_catalog''
          and table_schema !=''information_schema''
        ORDER BY 1,2
        LOOP
            FOR the_count IN EXECUTE ''SELECT COUNT(*) AS "count" FROM '' || t_name.table_schema||''.''||t_name.table_name
            LOOP 
            END LOOP; 

            r.table_schema := t_name.table_schema;
            r.table_name := t_name.table_name; 
            r.num_rows := the_count.count; 
            RETURN NEXT r; 
        END LOOP; 
        RETURN; 
END;
' LANGUAGE plpgsql; 

使用select count_em_all(); 调用它。

希望你觉得这很有用。 保罗

【讨论】:

错误:“r.table_schema”不是已知变量【参考方案12】:

摘自我在 GregSmith 的回答中的评论,使其更具可读性:

with tbl as (
  SELECT table_schema,table_name 
  FROM information_schema.tables
  WHERE table_name not like 'pg_%' AND table_schema IN ('public')
)
SELECT 
  table_schema, 
  table_name, 
  (xpath('/row/c/text()', 
    query_to_xml(format('select count(*) AS c from %I.%I', table_schema, table_name), 
    false, 
    true, 
    '')))[1]::text::int AS rows_n 
FROM tbl ORDER BY 3 DESC;

感谢@a_horse_with_no_name

【讨论】:

【参考方案13】:

您可以使用此查询生成所有表名及其计数

select ' select  '''|| tablename  ||''', count(*) from ' || tablename ||' 
union' from pg_tables where schemaname='public'; 

上述查询的结果将是

select  'dim_date', count(*) from dim_date union 
select  'dim_store', count(*) from dim_store union
select  'dim_product', count(*) from dim_product union
select  'dim_employee', count(*) from dim_employee union

您需要删除最后一个并集并在末尾添加分号!!

select  'dim_date', count(*) from dim_date union 
select  'dim_store', count(*) from dim_store union
select  'dim_product', count(*) from dim_product union
select  'dim_employee', count(*) from dim_employee  **;**

运行!!!

【讨论】:

【参考方案14】:

这是一个更简单的方法。

tables="$(echo '\dt' | psql -U "$PGUSER" | tail -n +4 | head -n-2 | tr -d ' ' | cut -d '|' -f2)"
for table in $tables; do
printf "%s: %s\n" "$table" "$(echo "SELECT COUNT(*) FROM $table;" | psql -U "$PGUSER" | tail -n +3 | head -n-2 | tr -d ' ')"
done

输出应该是这样的

auth_group: 0
auth_group_permissions: 0
auth_permission: 36
auth_user: 2
auth_user_groups: 0
auth_user_user_permissions: 0
authtoken_token: 2
django_admin_log: 0
django_content_type: 9
django_migrations: 22
django_session: 0
mydata_table1: 9011
mydata_table2: 3499

您可以根据需要更新psql -U "$PGUSER" 部分以访问您的数据库

请注意,head -n-2 语法在 macOS 中可能不起作用,您可能只使用 a different implementation 那里

在 CentOS 7 下的 psql (PostgreSQL) 11.2 上测试


如果你想按表格排序,那么只需用sort包装它

for table in $tables; do
printf "%s: %s\n" "$table" "$(echo "SELECT COUNT(*) FROM $table;" | psql -U "$PGUSER" | tail -n +3 | head -n-2 | tr -d ' ')"
done | sort -k 2,2nr

输出;

mydata_table1: 9011
mydata_table2: 3499
auth_permission: 36
django_migrations: 22
django_content_type: 9
authtoken_token: 2
auth_user: 2
auth_group: 0
auth_group_permissions: 0
auth_user_groups: 0
auth_user_user_permissions: 0
django_admin_log: 0
django_session: 0

【讨论】:

【参考方案15】:

我喜欢 Daniel Vérité 的 answer。 但是,当您不能使用 CREATE 语句时,您可以使用 bash solution,或者,如果您是 Windows 用户,则可以使用 powershell:

# You don't need this if you have pgpass.conf
$env:PGPASSWORD = "userpass"

# Get table list
$tables = & 'C:\Program Files\PostgreSQL\9.4\bin\psql.exe' -U user -w -d dbname -At -c "select table_name from information_schema.tables where table_type='BASE TABLE' AND table_schema='schema1'"

foreach ($table in $tables) 
    & 'C:\path_to_postresql\bin\psql.exe' -U root -w -d dbname -At -c "select '$table', count(*) from $table"

【讨论】:

【参考方案16】:

我想要所有表格的总数 + 表格列表及其计数。有点像花费最多时间的性能图表

WITH results AS ( 
  SELECT nspname AS schemaname,relname,reltuples
    FROM pg_class C
    LEFT JOIN pg_namespace N ON (N.oid = C.relnamespace)
    WHERE 
      nspname NOT IN ('pg_catalog', 'information_schema') AND
      relkind='r'
     GROUP BY schemaname, relname, reltuples
)

SELECT * FROM results
UNION
SELECT 'all' AS schemaname, 'all' AS relname, SUM(reltuples) AS "reltuples" FROM results

ORDER BY reltuples DESC

当然,您也可以在此版本的结果中添加LIMIT 子句,以便获得最大的n 违规者以及总数。

对此需要注意的一点是,您需要在批量导入后让它静置一段时间。我通过使用真实导入数据将 5000 行添加到跨多个表的数据库来测试这一点。它显示了大约一分钟的 1800 条记录(可能是一个可配置的窗口)

这是基于 https://***.com/a/2611745/1548557 的工作,因此感谢您并认可在 CTE 中使用的查询

【讨论】:

【参考方案17】:

如果您在psql shell 中,使用\gexec 允许您执行syed's answer 和Aur's answer 中描述的语法,而无需在外部文本编辑器中进行手动编辑。

with x (y) as (
    select
        'select count(*), '''||
        tablename||
        ''' as "tablename" from '||
        tablename||' '
    from pg_tables
    where schemaname='public'
)
select
    string_agg(y,' union all '||chr(10)) || ' order by tablename'
from x \gexec

注意,string_agg() 既用于分隔语句之间的union all,也用于将分隔的数据行压缩成一个单元以传递到缓冲区。

\gexec

将当前查询缓冲区发送到服务器,然后将查询输出的每一行的每一列(如果有)视为要执行的 SQL 语句。

【讨论】:

【参考方案18】:

下面的查询将为我们提供每个表的行数和大小

选择表模式,表名, pg_relation_size('"'||table_schema||'"."'||table_name||'"')/1024/1024 size_MB, (xpath('/row/c/text()', query_to_xml(format('select count(*) AS c from %I.%I', table_schema, table_name), 假,真,'')))[1]::text::int AS rows_n 来自 information_schema.tables 按 size_MB desc 排序;

【讨论】:

【参考方案19】:

你可以select from

select from table_name;

【讨论】:

以上是关于您如何在 Postgres 中找到所有表的行数的主要内容,如果未能解决你的问题,请参考以下文章

MS SQL 如何查看一个数据库中所有表的行数

选择数据库中所有表的行数

Netezza 中数据库中所有表的行数

如何在 Postgres 中删除表的所有索引?

如何获取数据库表的行数

如何使用 Prisma 为 Postgres 进行 SQL 插入,条件是行数?