PostgreSQL MySQL 数据类型映射

2021-10-29 07:18:13

背景

通常一家企业会有比较多的数据库品种，最为常见的如MySQL, PostgreSQL。

那么在不同的产品之间，如果有数据的相互同步，就涉及到类型的映射了。

对于PostgreSQL来说，可以使用PostgreSQL的mysql_fdw外部插件来实现同步，产品设计会简化很多。

而对于MySQL来说，可能就比较复杂，需要自己写程序来实现，会涉及到类型的转换。

PostgreSQL类型转换为 MySQL类型

https://dev.mysql.com/doc/workbench/en/wb-migration-database-postgresql-typemapping.html

PostgreSQL Type	MySQL Type	Comment
INT	INT	-
SMALLINT	SMALLINT	-
BIGINT	BIGINT	-
SERIAL	INT	Sets AUTO_INCREMENT in its table definition.
SMALLSERIAL	SMALLINT	Sets AUTO_INCREMENT in its table definition.
BIGSERIAL	BIGINT	Sets AUTO_INCREMENT in its table definition.
BIT	BIT	-
BOOLEAN	TINYINT(1)	-
REAL	FLOAT	-
DOUBLE PRECISION	DOUBLE	-
NUMERIC	DECIMAL	-
DECIMAL	DECIMAL	-
MONEY	DECIMAL(19,2)	-
CHAR	CHAR/LONGTEXT	Depending on its length. MySQL Server 5.5 and above can have CHAR columns with a length up to 255 characters. Anything larger is migrated as LONGTEXT
NATIONAL CHARACTER	CHAR/LONGTEXT	Depending on its length. MySQL Server 5.5 and above can have VARCHAR columns with a length up to 65535 characters. Anything larger is migrated to one of the TEXT blob types. In MySQL, character set of strings depend on the column character set instead of the datatype.
VARCHAR	VARCHAR/MEDIUMTEXT/LONGTEXT	Depending on its length. MySQL Server 5.5 and above can have VARCHAR columns with a length up to 65535 characters. Anything larger is migrated to one of the TEXT blob types.
NATIONAL CHARACTER VARYING	VARCHAR/MEDIUMTEXT/LONGTEXT	Depending on its length. MySQL Server 5.5 and above can have VARCHAR columns with a length up to 65535 characters. Anything larger is migrated to one of the TEXT blob types. In MySQL, character set of strings depend on the column character set instead of the datatype.
DATE	DATE	-
TIME	TIME	-
TIMESTAMP	DATETIME	-
INTERVAL	TIME	-
BYTEA	LONGBLOB	-
TEXT	LONGTEXT	-
CIDR	VARCHAR(43)	-
INET	VARCHAR(43)	-
MACADDR	VARCHAR(17)	-
UUID	VARCHAR(36)	-
XML	LONGTEXT	-
JSON	LONGTEXT	-
TSVECTOR	LONGTEXT	-
TSQUERY	LONGTEXT	-
ARRAY	LONGTEXT	-
POINT	POINT	-
LINE	LINESTRING	Although LINE length is infinite, and LINESTRING is finite in MySQL, it is approximated
LSEG	LINESTRING	A LSEG is like a LINESTRING with only two points
BOX	POLYGON	A BOX is a POLYGON with five points and right angles
PATH	LINESTRING	-
POLYGON	POLYGON	-
CIRCLE	POLYGON	A POLYGON is used to approximate a CIRCLE
TXID_SNAPSHOT	VARCHAR	-

PostgreSQL还有很多类型，上面并没有列出来，比如图像，化学，raster, 基因等。

MySQL类型转换为 PostgreSQL类型

取自mysql_fdw插件的代码

http://api.pgxn.org/src/mysql_fdw/mysql_fdw-2.1.2/mysql_fdw.c

https://github.com/EnterpriseDB/mysql_fdw/blob/master/mysql_fdw.c

    /*  
     * Fetch all table data from this schema, possibly restricted by  
     * EXCEPT or LIMIT TO.  
     */  
    appendStringInfo(&buf,  
                     " SELECT"  
                     "  t.TABLE_NAME,"  
                     "  c.COLUMN_NAME,"  
                     "  CASE"  
                     "    WHEN c.DATA_TYPE = 'enum' THEN LOWER(CONCAT(c.COLUMN_NAME, '_t'))"  
                     "    WHEN c.DATA_TYPE = 'tinyint' THEN 'smallint'"  
                     "    WHEN c.DATA_TYPE = 'mediumint' THEN 'integer'"  
                     "    WHEN c.DATA_TYPE = 'tinyint unsigned' THEN 'smallint'"  
                     "    WHEN c.DATA_TYPE = 'smallint unsigned' THEN 'integer'"  
                     "    WHEN c.DATA_TYPE = 'mediumint unsigned' THEN 'integer'"  
                     "    WHEN c.DATA_TYPE = 'int unsigned' THEN 'bigint'"  
                     "    WHEN c.DATA_TYPE = 'bigint unsigned' THEN 'numeric(20)'"  
                     "    WHEN c.DATA_TYPE = 'double' THEN 'double precision'"  
                     "    WHEN c.DATA_TYPE = 'float' THEN 'real'"  
                     "    WHEN c.DATA_TYPE = 'datetime' THEN 'timestamp'"  
                     "    WHEN c.DATA_TYPE = 'longtext' THEN 'text'"  
                     "    WHEN c.DATA_TYPE = 'mediumtext' THEN 'text'"  
                     "    WHEN c.DATA_TYPE = 'blob' THEN 'bytea'"  
                     "    WHEN c.DATA_TYPE = 'mediumblob' THEN 'bytea'"  
                     "    ELSE c.DATA_TYPE"  
                     "  END,"  
                     "  c.COLUMN_TYPE,"  
                     "  IF(c.IS_NULLABLE = 'NO', 't', 'f'),"  
                     "  c.COLUMN_DEFAULT"  
                     " FROM"  
                     "  information_schema.TABLES AS t"  
                     " JOIN"  
                     "  information_schema.COLUMNS AS c"  
                     " ON"  
                     "  t.TABLE_CATALOG <=> c.TABLE_CATALOG AND t.TABLE_SCHEMA <=> c.TABLE_SCHEMA AND t.TABLE_NAME <=> c.TABLE_NAME"  
                     " WHERE"  
                     "  t.TABLE_SCHEMA = '%s'",  
                     stmt->remote_schema);

类型映射如下


                     "  CASE"  
                     "    WHEN c.DATA_TYPE = 'enum' THEN LOWER(CONCAT(c.COLUMN_NAME, '_t'))"  
                     "    WHEN c.DATA_TYPE = 'tinyint' THEN 'smallint'"  
                     "    WHEN c.DATA_TYPE = 'mediumint' THEN 'integer'"  
                     "    WHEN c.DATA_TYPE = 'tinyint unsigned' THEN 'smallint'"  
                     "    WHEN c.DATA_TYPE = 'smallint unsigned' THEN 'integer'"  
                     "    WHEN c.DATA_TYPE = 'mediumint unsigned' THEN 'integer'"  
                     "    WHEN c.DATA_TYPE = 'int unsigned' THEN 'bigint'"  
                     "    WHEN c.DATA_TYPE = 'bigint unsigned' THEN 'numeric(20)'"  
                     "    WHEN c.DATA_TYPE = 'double' THEN 'double precision'"  
                     "    WHEN c.DATA_TYPE = 'float' THEN 'real'"  
                     "    WHEN c.DATA_TYPE = 'datetime' THEN 'timestamp'"  
                     "    WHEN c.DATA_TYPE = 'longtext' THEN 'text'"  
                     "    WHEN c.DATA_TYPE = 'mediumtext' THEN 'text'"  
                     "    WHEN c.DATA_TYPE = 'blob' THEN 'bytea'"  
                     "    WHEN c.DATA_TYPE = 'mediumblob' THEN 'bytea'"  
                     "    ELSE c.DATA_TYPE"  
                     "  END,"

其他关注点

如果你要的不是数据同步，还有后续的动作，例如从一个产品迁移到另一个产品，那会是一个比较大的动作，所以多啰嗦几句。

除了数据类型，还有SQL语法，函数、索引方法(8种内置hash,btree,gin,gist,bloom,brin,rum,sp-gist)，也是迁移需要特别考虑的，PostgreSQL在这方面支持更加全面，如果要从PostgreSQL迁移到MySQL需要特别注意。

列举一些例子，取自如下文档

《数据库选型的关键指标》

功能差异

1. 递归查询, connect by, 树形查询

PostgreSQL 通过(with 或 tablefunc支持)支持例子

https://yq.aliyun.com/articles/240

http://www.postgresql.org/docs/9.5/static/tablefunc.html

2. 窗口查询, window over

PostgreSQL 支持例子

http://blog.163.com/digoal@126/blog/static/16387704020137154137930

http://blog.163.com/digoal@126/blog/static/16387704020121024102312302/

http://blog.163.com/digoal@126/blog/static/16387704020124239390354/

http://www.postgresql.org/docs/9.5/static/functions-window.html

3. rollup, grouping sets, cube

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/queries-table-expressions.html#QUERIES-GROUPING-SETS

http://blog.163.com/digoal@126/blog/static/16387704020154269591874/

4. 高级聚合(json,数组,相关性,标准差(采样,全局),截距,斜率,方差(采样,全局),mode,percentile_cont,distc,rank,dense_rank,percent_rank,cume_dist,grouping)

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/functions-aggregate.html

http://blog.163.com/digoal@126/blog/static/1638770402015224124337/

http://blog.163.com/digoal@126/blog/static/1638770402015379286873/

http://blog.163.com/digoal@126/blog/static/16387704020153713222764

4. hash join, merge join, nestloop join

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/xoper-optimization.html

http://www.postgresql.org/docs/9.5/static/planner-optimizer.html

5. 哈希聚合

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/runtime-config-query.html#RUNTIME-CONFIG-QUERY-ENABLE

6. 事务间共享事务快照

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/functions-admin.html#FUNCTIONS-SNAPSHOT-SYNCHRONIZATION

http://www.postgresql.org/docs/9.5/static/sql-set-transaction.html

http://www.postgresql.org/docs/9.5/static/app-pgdump.html

http://blog.163.com/digoal@126/blog/static/163877040201326829943/

http://blog.163.com/digoal@126/blog/static/163877040201241134721101/

7. 展开式索引(支持多列任意组合查询)

PostgreSQL 支持例子

《宝剑赠英雄 - 任意组合字段等效查询, 探探PostgreSQL多列展开式B树》

约束

1. foreign key

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/ddl-constraints.html

2. for no key update, for key share 粒度锁

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/explicit-locking.html#LOCKING-ROWS

http://blog.163.com/digoal@126/blog/static/16387704020130249109133/

http://blog.163.com/digoal@126/blog/static/16387704020130305109687/

3. check 约束

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/ddl-constraints.html

4. exclusion 约束

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/ddl-constraints.html

易用性

1. 表空间

2. alter 列值转表达式

(alter table alter column c1 type newtype using (expression(...)) )

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/sql-altertable.html

https://yq.aliyun.com/articles/30470

3. alter table 需要重组表的操作

PostgreSQL少量操作需要重组

vacuum full, cluster, 修改字段数据类型, (修改长度不需要重组表)

http://www.postgresql.org/docs/9.5/static/sql-altertable.html

4. 分区表

《PostgreSQL 9.5+ 高效分区表实现 - pg_pathman》

《PostgreSQL 10.0 内置分区表》

5. 物化视图

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/sql-creatematerializedview.html

6. 物化视图增量刷新

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/sql-refreshmaterializedview.html

7. 表继承关系

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/tutorial-inheritance.html

8. 使用 like 建结构类似的表

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/sql-createtable.html

开发功能

1. 客户端开发语言支持

C, java, python, ...

2. 函数

返回 void, 单行，SRF，事件触发器(MySQL 不支持)，触发器

例子

http://blog.163.com/digoal@126/blog/static/16387704020132131361949/

http://www.postgresql.org/docs/9.5/static/event-triggers.html

3. 2PC

4. 服务端绑定变量

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/sql-prepare.html

5. savepoint

6. 异步消息

PostgreSQL 支持例子

http://www.postgresql.org/docs/9.5/static/sql-notify.html

http://www.postgresql.org/docs/9.5/static/sql-listen.html

7. 游标

数组FOR循环，query FOR循环，游标FOR循环

PostgreSQL 全面支持例子

http://www.postgresql.org/docs/9.5/static/plpgsql-control-structures.html

http://www.postgresql.org/docs/9.5/static/plpgsql-cursors.html

(MySQL 暂不支持数组)

类型

1. 数据类型

1.1 PostgreSQL

高精度numeric, 浮点, 自增序列，货币，字节流，时间，日期，时间戳，布尔，枚举，平面几何，立体几何，多维几何，地球，PostGIS，网络，比特流，全文检索，UUID，XML，JSON，数组，复合类型，域类型，范围，树类型，化学类型，基因序列，FDW, 大对象, 图像

1.2 MySQL

数字，时间，字符串，简单的GIS，JSON

2. 支持索引的数据类型

2.1 PostgreSQL

高精度numeric, 浮点, 自增序列，货币，字节流，时间，日期，时间戳，布尔，枚举，平面几何，立体几何，多维几何，地球，PostGIS，网络，比特流，全文检索，UUID，XML，JSON，数组，复合类型，域类型，范围，树类型，化学，基因序列

2.2 MySQL

数字，字符串，比特流，时间，全文检索，GIS

索引支持

1. 索引方法

PostgreSQL 支持 btree, hash, gist, sp-gist, gin, brin , bloom , rum 索引

MySQL 支持 btree, gis类型索引

2. 规则表达式、前后模糊查询，支持索引检索

PostgreSQL 支持

3. 数组支持索引

PostgreSQL 支持

4. 全文检索支持索引

5. 索引扩展功能

5.1 PostgreSQL 支持表达式索引，部分索引，联合索引

5.2 PostgreSQL 支持图像相似度、文本相似度搜索

5.3 自定义索引访问方法(bloom, rum, ......)

PostgreSQL支持

多引擎和外部源支持

1. 多引擎支持

1.1 PostgreSQL

内置heap, 通过插件实现内存表, 列存储, 压缩存储, 流式存储, 非关系存储等。

1.2 MySQL

MyISAM, innodb, ...

2. 外部表

PostgreSQL支持任意外部数据源, (例如jdbc, file, odbc, oracle, mysql, db2, redis, mongo, ES, hadoop......)

https://wiki.postgresql.org/wiki/Fdw

3. dblink

PostgreSQL 支持

4. 内存表

PostgreSQL 通过外部表支持，或者通过插件支持

5. ES(弹性搜索引擎) 引擎

PostgreSQL 支持

安全

1. 数据加密

PostgreSQL 支持加密数据类型，可选GPG加密算法

2. 认证方法

PostgreSQL 支持密码、LDAP、AD、GSSAPI、SSPI、Ident、Peer、RADIUS、PAM、签名认证

3. 数据传输加密

PostgreSQL 支持

4. 行安全策略

PostgreSQL 支持

5. 数据库内部支持libselinux接口, (美国国家安全局制定的安全加强标准)

PostgreSQL 支持

优化器

http://www.postgresql.org/docs/9.5/static/runtime-config-query.html

1. GPU 并行计算支持

PostgreSQL 支持

2. 遗传优化器算法

PostgreSQL 支持CBO、CRO、遗传算法

3. HINT PLAN

4. CPU 并行计算

PostgreSQL 支持 (线性性能提升)

5. 自定义成本因子

PostgreSQL 支持

编程扩展

1. 是否支持采样查询

PostgreSQL 支持

2. 是否支持扩展采样算法

PostgreSQL 支持

3. 自定义数据类型

PostgreSQL 支持

4. 自定义索引方法

PostgreSQL 支持

5. 字符集自动转换, C扩展接口

PostgreSQL 支持

6. 自定义聚合

PostgreSQL 支持

7. 自定义窗口

PostgreSQL 支持

扩展能力

1. 类型扩展，操作符扩展，函数扩展，索引方法扩展，索引扩展，

PostgreSQL 支持

2. C触发器函数， C事件触发器函数

PostgreSQL 支持

3. 函数语言扩展

PostgreSQL 支持扩展函数支持接口, erlang, ....

4. 机器学习库

PostgreSQL 支持

5. 流式计算

PostgreSQL 支持

性能

《数据库界的华山论剑 tpc.org》

《facebook linkbench 测试PostgreSQL社交关系图谱场景性能》

《PostgreSQL 主机性能测试方法 - 单机多实例》

《PostgreSQL 主机性能测试方法 - 单机单实例》

《PostgreSQL 源码性能诊断(perf profiling)指南》

《"物联网"流式处理应用 - 用PostgreSQL实时处理(万亿每天)》

《PostgreSQL 百亿地理位置数据近邻查询性能》

《PostgreSQL 百亿数据秒级响应正则及模糊查询》

《PostgreSQL 1000亿数据量正则匹配速度与激情》

《恭迎万亿级营销(圈人)潇洒的迈入毫秒时代 - 万亿user_tags级实时推荐系统数据库设计》

《从难缠的模糊查询聊开 - PostgreSQL独门绝招之一 GIN , GiST , SP-GiST , RUM 索引原理与技术背景》

《分析加速引擎黑科技 - LLVM、列存、多核并行、算子复用大联姻 - 一起来开启PostgreSQL的百宝箱》

服务端编程语言

1. 函数(过程)语言

PostgreSQL支持几乎所有的地球编程语言，你可以用他们在数据库中编写UDF

plpgsql, sql, c, c++, java, javascript, R, python, perl, php, tcl, ruby, lua, ...

scale out

1. PostgreSQL完全支持以下下推功能

支持聚合算子下推

支持WHERE条件下推

支持JOIN下推

支持SORT下推

支持SELECT 子句下推

支持跨数据源JOIN

参考

《数据库选型的关键指标》

《宝剑赠英雄 - 任意组合字段等效查询, 探探PostgreSQL多列展开式B树》

http://api.pgxn.org/src/mysql_fdw/mysql_fdw-2.1.2/mysql_fdw.c

https://dev.mysql.com/doc/workbench/en/wb-migration-database-postgresql-typemapping.html

https://github.com/EnterpriseDB/mysql_fdw/blob/master/mysql_fdw.c

码农公寓

PostgreSQL MySQL 数据类型映射

标签

背景

PostgreSQL类型转换为 MySQL类型

MySQL类型转换为 PostgreSQL类型

其他关注点

功能差异

约束

易用性

开发功能

类型

索引支持

多引擎和外部源支持

安全

优化器

编程扩展

扩展能力

性能

服务端编程语言

scale out

参考

码农公寓

标签

背景

PostgreSQL类型 转换为 MySQL类型

MySQL类型 转换为 PostgreSQL类型

其他关注点

功能差异

约束

易用性

开发功能

类型

索引支持

多引擎和外部源支持

安全

优化器

编程扩展

扩展能力

性能

服务端编程语言

scale out

参考

相关文章

PostgreSQL类型转换为 MySQL类型

MySQL类型转换为 PostgreSQL类型