GaussDB数据库使用COPY命令导入导出数据的场景分析

2024-03-01 0 826
目录
  • 一、前言
  • 二、GaussDB数据库使用COPY命令导数语法
    • 1、语法COPY FROM
    • 2、语法COPY TO
    • 3、特别说明及参数示意
  • 三、GaussDB数据库使用COPY命令导数示例
    • 1、操作步骤
    • 2、准备工作(示例)
    • 3、把一个表的数据拷贝到一个文件(示例)
    • 4、从一个数据文件拷贝数据到一个表(示例)
  • 四、常见数据导入导出的场景
    • 五、小结

      一、前言

      在数字化时代,数据是驱动业务决策和创新的关键要素。数据库作为数据存储、管理和分析的核心工具,其高效、准确的数据导入功能至关重要。

      GaussDB作为华为推出的高性能数据库,提供了丰富的数据导入选项,其中之一便是COPY命令。COPY命令为数据迁移、备份恢复、大数据加载等场景提供了一个高效且灵活的手段。通过COPY命令,用户可以将外部文件、数据流或其他数据源的数据快速导入到GaussDB中,从而支持业务分析、报表生成、数据挖掘等多样化需求。

      二、GaussDB数据库使用COPY命令导数语法

      通过COPY命令实现在表和文件之间拷贝。在GaussDB中,COPY FROM从一个文件拷贝数据到一个表,COPY TO把一个表的数据拷贝到一个文件。

      1、语法COPY FROM

      COPY table_name [ ( column_name [, …] ) ]
      FROM { \’filename\’ | STDIN }
      [ [ USING ] DELIMITERS \’delimiters\’ ]
      [ WITHOUT ESCAPING ]
      [ LOG ERRORS ]
      [ REJECT LIMIT \’limit\’ ]
      [ [ WITH ] ( option [, …] ) ]
      | copy_option
      | TRANSFORM ( { column_name [ data_type ] [ AS transform_expr ] } [, …] )
      | FIXED FORMATTER ( { column_name( offset, length ) } [, …] ) [ ( option [, …] ) | copy_option [ …] ] ];

      2、语法COPY TO

      COPY table_name [ ( column_name [, …] ) ]
      TO { \’filename\’ | STDOUT }
      [ [ USING ] DELIMITERS \’delimiters\’ ]
      [ WITHOUT ESCAPING ]
      [ [ WITH ] ( option [, …] ) ]
      | copy_option
      | FIXED FORMATTER ( { column_name( offset, length ) } [, …] ) [ ( option [, …] ) | copy_option [ …] ] ];
      COPY query
      TO { \’filename\’ | STDOUT }
      [ WITHOUT ESCAPING ]
      [ [ WITH ] ( option [, …] ) ]
      | copy_option
      | FIXED FORMATTER ( { column_name( offset, length ) } [, …] ) [ ( option [, …] ) | copy_option [ …] ] ];

      3、特别说明及参数示意

      1)特别说明:

      • 语法中的FIXED FORMATTER ( { column_name( offset, length ) } [, …] )以及 [copy_option [ …] ] 的无冲突项可以任意排列组合。
      • (query)与[USING] DELIMITERS不兼容,即若COPY TO的数据来自于一个query的查询结果,那么COPY TO语法不能再指定[USING] DELIMITERS语法子句。
      • 对于FIXED FORMATTTER语法后面跟随的copy_option是以空格进行分隔的。
      • copy_option是指COPY原生的参数形式,而option是兼容外表导入的参数形式。

      2)参数说明:

      • STDIN:声明输入是来自标准输入。
      • STDOUT:声明输出打印到标准输出。
      • FIXED:打开字段固定长度模式(每条记录的每个字段长度相同。长度不足的字段以空格填充,数字类型字段左对齐,字符字段右对齐。字段和字段之间没有分隔符)。
      • WITHOUT ESCAPING:在TEXT格式中,不对'\\'和后面的字符进行转义。仅支持TEXT格式
      • FORMATTER:在固定长度模式中,定义每一个字段在数据文件中的位置。按照column(offset,length)格式定义每一列在数据文件中的位置。
      • OPTION { option_name ' value ' }:用于指定兼容外表的各类参数
      • TRANSFORM ( { column_name [ data_type ] [ AS transform_expr ] } [, …] ):指定表中各个列的转换表达式;其中data_type指定该列在表达式参数中的数据类型;transform_expr为目标表达式,返回与表中目标列数据类型一致的结果值

      三、GaussDB数据库使用COPY命令导数示例

      COPY 属于SQL命令,导入导出的文件是在数据库服务端的进行的。且需要数据库管理员权限才可以执行,COPY对较大数据集的整体读写效率较好。

      1、操作步骤

      根据业务需求确定导数需求,提前做好规划,具体可参考如下步骤:

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      2、准备工作(示例)

      1)指定(创建)数据文件存取目录。

      登录数据库服务器,切换至omm用户,在“/home/omm”目录下创建用于存放数据文件的目录,此处取名“mydata”

      “su omm”

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      “mkdir mydata”

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      Tip:如果在目录操作中遇到类似“ls: cannot open directory .: Permission denied”报错,需要切换到“cd /home/omm”目录下,因为其它用户(omm是数据库用户)是不能在root目录下操作的。另外,有时候可能还需要通过“chmod”给文件或者文件夹赋权限,具体根据实际报错提示处理即可。

      2)准备数据

      COPY TO:如果是从库表导出数据到文件,以文件形式保存,请先确认需要被导出的库表,实际业务中以真实存在的表为准,本次为了演示临时创建测试表。

      -创建测试表
      DROP TABLE IF EXISTS public.test_3;
      CREATE TABLE public.test_3
      (
      id int4,
      name varchar(20),
      course varchar(20),
      score int4
      );
      –插入测试数据
      INSERT INTO public.test_3 VALUES (1, \’zhangsan\’, \’语文\’, 90);
      INSERT INTO public.test_3 VALUES (2, \’zhangsan\’, \’数学\’, 95);
      INSERT INTO public.test_3 VALUES (3, \’zhangsan\’, \’英语\’, 85);
      INSERT INTO public.test_3 VALUES (4, \’lisi\’, \’语文\’, 85);
      INSERT INTO public.test_3 VALUES (5, \’lisi\’, \’数学\’, 90);
      INSERT INTO public.test_3 VALUES (6, \’lisi\’, \’英语\’, 95);

      COPY FROM:如果是从数据文件导入数据到库表,需要准备目标表和数据文件,目标表的表结构和数据文件的结构需要根据业务需求提前约定好。

      –创建目标表
      DROP TABLE IF EXISTS public.test_4;
      CREATE TABLE public.test_4
      (
      id int4,
      name varchar(20),
      course varchar(20),
      score int4
      );

      数据文件建议均以“.txt、.bat、.csv”等文本文件格式存储,文件分隔符以“不跟字段值重复”为原则。文件编码格式需要与数据库设置的格式统一,防止出现中文乱码。

      数据文件“test_3.csv”(COPY命令相对大数据文件效率更高,此处以示意为主)

      1;zhangsan;语文;90
      2;zhangsan;数学;95
      3;zhangsan;英语;85

      3、把一个表的数据拷贝到一个文件(示例)

      1)将数据表导出到指定 TXT 文件中(默认分隔符是 tab)

      COPY public.test_3 TO \’/home/omm/mydata/test_3.txt\’;

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      2)将数据表导出到指定 TXT 文件中(文件指定分隔符为’;’)

      COPY public.test_3 TO \’/home/omm/mydata/test_3.txt\’ delimiter \’;\’;

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      3)将查询结果集导出到指定 CSV 文件中(默认分隔符为’,’)

      COPY (SELECT * FROM public.test_3 WHERE name=\’zhangsan\’) TO \’/home/omm/mydata/test_3.txt\’ WITH CSV;

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      4、从一个数据文件拷贝数据到一个表(示例)

      测试数据复用上文的数据文件“test_3.csv”,将其导入到测试表“public.test_4”。

      COPY public.test_4 FROM \’/home/omm/mydata/test_3.csv\’ WITH CSV;

      GaussDB数据库使用COPY命令导入导出数据的场景分析

      更多信息请参考官网:

      COPY_云数据库 GaussDB_主备版_3.x版本_SQL参考_SQL语法_华为云

      特别说明:数据的导入导出一定是在业务的需求下进行的,其中涉及到类似脱敏(加密)、数据覆盖与被覆盖、文件存储目录管理、数据量大小及数据导入导出效率等问题,本次不做说明,如有机会后续讲解。

      四、常见数据导入导出的场景

      数据导入导出常见的应用场景常见于数据库、数据仓库和大数据平台中。

      1、数据库:

      • 数据迁移:当从一个数据库系统迁移到另一个数据库系统时,需要进行数据导入导出,确保数据的完整性和准确性。
      • 备份与恢复:为了防止数据丢失,定期备份数据库是必要的。导入导出功能可以用于备份和恢复操作。

      2、数据仓库:

      • ETL(提取、转换、加载):在构建数据仓库时,通常需要从多个源提取数据,进行转换和清洗,然后加载到数据仓库中。这涉及到数据的导入导出。
      • 报表生成:数据仓库中的数据可以导出到报表中,以供分析和决策。

      3、大数据平台:

      • 数据集成:在大数据平台中,可能需要从各种来源导入大量数据,然后再导出到其他系统或服务中。
      • 实时分析:某些场景下,需要实时地从大数据平台中导入数据,以便进行实时分析或处理。
      • 数据备份与恢复:与传统的数据库类似,大数据平台也需要定期备份数据,以确保数据的完整性和可用性。
      • 数据共享与分发:大数据平台的数据可以导出到其他系统或服务中,以实现数据的共享和分发。

      这些场景都强调了数据导入导出的重要性,它们是确保数据流动、满足业务需求、支持决策和风险管理的基础设施。

      五、小结

      使用COPY命令可以方便地导入数据到GaussDB。只需确保源文件的格式与数据库表结构相匹配,并正确指定文件路径,即可轻松完成数据导入。此外,GaussDB还提供了其他数据导入工具和功能,如使用GDS导入数据、使用INSERT多行插入、使用gsql元命令导入数据、ETL工具集成等,以满足不同场景下的数据导入需求。

      到此这篇关于GaussDB数据库使用COPY命令导数的文章就介绍到这了,更多相关GaussDB使用COPY命令导数内容请搜索悠久资源以前的文章或继续浏览下面的相关文章希望大家以后多多支持悠久资源!

      收藏 (0) 打赏

      感谢您的支持,我会继续努力的!

      打开微信/支付宝扫一扫,即可进行扫码打赏哦,分享从这里开始,精彩与您同在
      点赞 (0)

      悠久资源 数据库其它 GaussDB数据库使用COPY命令导入导出数据的场景分析 https://www.u-9.cn/database/dataqita/182245.html

      常见问题

      相关文章

      发表评论
      暂无评论
      官方客服团队

      为您解决烦忧 - 24小时在线 专业服务