ABP框架使用Oracle数据库,并实现从SQLServer中进行数据迁移的处理 - 伍华聪

时间:2024-02-15 17:13:07

ABP框架使用Oracle数据库,并实现从SQLServer中进行数据迁移的处理

ABP框架的数据访问底层是基于EFCore(Entity Framework Core)的,是微软标志性且成熟的ORM,因此它本身是支持多种主流数据库MySQL,SqlServer,Oracle,SQLite等等的,我在上篇随笔《ABP框架使用Mysql数据库,以及基于SQLServer创建Mysql数据库的架构和数据》已经详细介绍过如何从SQLServer迁移支持Mysql数据库的操作,同时介绍如何从SQLServer基础数据,通过Navicat工具,实现数据库迁移到Mysql上去。本篇随笔继续介绍ABP框架实现Oracle的适配和数据库的迁移处理。

1、ABP框架中Oracle数据库的适配处理

ABP框架底层是使用EFCore来实现数据处理的,框架默认是使用SQLServer数据库的,如果需要切换到Oracle数据库上去,使用EF Core操作Oracle数据库,首先需要安装Oracle.EntityFrameworkCore,可以直接在NuGet上直接搜索安装即可。

首先在ABP框架的EntityFrameworkCore项目右键上选择【管理NuGet程序包】,然后 搜索Oracle,选择Oracle.ManagedDataAccess.Core和Oracle.EntityFrameworkCore即可,如下所示。

 Oracle.ManagedDataAccess.Core是基于ODP的.netcore的驱动程序,是我们访问Oracle的时候,摆脱X86,X64的繁琐限制。

这个Oracle的ODP.NET方式,之前在微软企业库的相关框架就已经用过,非常不错,有兴趣可以参考随笔《在开发框架中扩展微软企业库,支持使用ODP.NET(Oracle.ManagedDataAccess.dll)访问Oracle数据库》了解一下。

它的连接字符串类似下面的格式

<add name="oracle3" providerName="OracleManaged"  connectionString="Data Source=(DESCRIPTION=(ADDRESS=(PROTOCOL=TCP)(HOST=localhost)(PORT=1521))(CONNECT_DATA=(SERVER=DEDICATED)(SERVICE_NAME=orcl)));User ID=win;Password=win" />

如果是我们目前ABP框架,这是采用appSetting.json的方式了,格式如下所示。

  "ConnectionStrings": {
    "Default": "Server=.\\SQL2014; Database=MyProjectDb; Trusted_Connection=True;",
    "Oracle": "Data Source=(DESCRIPTION=(ADDRESS=(PROTOCOL=TCP)(HOST=localhost)(PORT=1521))(CONNECT_DATA=(SERVER=DEDICATED)(SERVICE_NAME=orcl)));User ID=C##ABP;Password=abp",
    "MySql": "Server=localhost;Database=myprojectdb;Uid=root;Pwd=123456;",
    "PostgreSQL": "Server=localhost;Port=5432;Database=myprojectdb;User Id=postgres;Password=123456"
  },

安装了Oracle的两个驱动文件,我们就需要调整一下对应的代码了,参考随笔《ABP框架使用Mysql数据库,以及基于SQLServer创建Mysql数据库的架构和数据》的处理,我们调整非常方便。

 

 支持,我们感觉好像Oracle的应该调整的差不多了,尝试把项目编译运行,会发现有错误出现:ORA-00942: 表或视图不存在

 

这个问题开始挺困惑的,而且ABP框架切换到Oracle的相关文章介绍也很少,网上很多做法后来回想起来,他们处理都是不太正确的,至少对于当前EFCore的处理来说,不是正确的。

要了解这个问题:ORA-00942: 表或视图不存在,我们需要来看看EFCore底层对表名和字段的限定符处理逻辑了,我们查看host启动项目的错误日志,得到如下提示。

ERROR 2021-08-15 16:12:46,603 [1    ] oft.EntityFrameworkCore.Database.Command - Failed executing DbCommand (114ms) [Parameters=[], CommandType=\'Text\', CommandTimeout=\'0\']
SELECT "a"."Id", "a"."CreationTime", "a"."CreatorUserId", "a"."DeleterUserId", "a"."DeletionTime", "a"."Discriminator", "a"."DisplayName", "a"."IsDeleted", "a"."LastModificationTime", "a"."LastModifierUserId", "a"."Name", "a"."AnnualPrice", "a"."DailyPrice", "a"."ExpiringEditionId", "a"."MonthlyPrice", "a"."TrialDayCount", "a"."WaitingDayAfterExpire", "a"."WeeklyPrice"
FROM "AbpEditions" "a"
WHERE "a"."Name" = N\'Standard\'
FETCH FIRST 1 ROWS ONLY

我们可以看到生成的访问SQL,它使用了双引号作为限定符。

生成的Sql中是将所有的表名和字段名都用双引号修饰的,而Oracle中存储字段名默认都是采用全大写的形式的,它们是不对应的,使用双引号的对象名称,是大小写敏感的,如下在PLSQL中执行语句。

 而不使用限定符的字符串对象,默认是按大写方式来处理的,如下结果所示。

所以如果我们不想将实体类所有的属性名称写成大写,就需要显式的指定映射的column的名称。可以使用DataAnnotations的特性标注所有属性,或者在Context中指定列映射。

显示指定每个访问类的处理方式如下所示。

[Table("EMPLOYEE ")]  //指定数据库对应表名
public class Employee
{
    [Key]  //主键
    [Column("ID")] //指定数据库对应表主键名称
    public long Id { get; set; }

    [Column("EMPLOYEENO")]
    public int EmployeeNo { get; set; }

    [Column("NAME")]
    public string Name { get; set; }

    [Column("BIRTHDAY")]
    public DateTime BirthDay { get; set; }

    [Column("DEPARTMENT")]
    public string Department { get; set; }

    [Column("ISVALID")]
    public bool IsValid { get; set; }
}

这种方式肯定不是很好的方法,这种方式处理起来很累赘,而且ABP框架很多基类我们是通过官方DLL来引用的,没有或者很麻烦去修改相关的映射关系。

那么我们考虑动态公共映射的方式处理,尽量避免这种劳而无功的方式。

我们知道ABP框架中的EntityFrameworkCore项目里面,我们可以通过代码的方式修改它们和表、字段的映射关系,我们的规则就是让它(表名、字段名)变为大写,这样即使它们使用了限定符,也不改变SQL的处理结果。

我们修改EF模型OnModelCreating的处理逻辑,如下代码所示,红框部分就是我们改变问题所在的核心。

运行Host启动项目,我们发现后端的Swagger能够正常打开,成功了第一步了。

 

 

2、使用Oracle的序列和触发器解决自增ID的问题 

不过登陆进入的时候,会发现出现 违反唯一约束条件的错误,这个是由于登录的时候,无法写入日志,因为无法让这个表的自增ID为NULL,违反了数据约束规则。

到这里,我们Oracle方面基本上就解决了大问题了,不过就是还有一个自增长的问题。

INSERT INTO "C##ABP"."ABPUSERTOKENS" ("EXPIREDATE", "LOGINPROVIDER", "NAME", "TENANTID", "USERID", "VALUE")
VALUES (:p0, :p1, :p2, :p3, :p4, :p5)
RETURNING "ID" INTO "lABPUSERTOKENS_0"(1)."ID";
OPEN :cur1 FOR SELECT "lABPUSERTOKENS_0"(1)."ID" FROM DUAL;
END;
ERROR 2021-08-14 17:27:18,636 [52   ] osoft.EntityFrameworkCore.Infrastructure - 2021-08-14 17:27:18.636902 ThreadID:52  (ERROR)   OracleExecutionStrategy.ExecuteAsync() :  Microsoft.EntityFrameworkCore.DbUpdateException: An error occurred while updating the entries. See the inner exception for details.
 ---> Oracle.ManagedDataAccess.Client.OracleException (0x80004005): ORA-00001: 违反唯一约束条件 (C##ABP.PK_ABPUSERTOKENS)
ORA-06512: 在 line 13

 

Oracle插入数据倒是和其他数据库差别不大,但是由于Oracle天生是没有自增Id的,如果我们设计的表的主键需要采用自增键就需要使用Sequence序列代替,通过序列和触发器的方式结合,我们可以顺利解决自增长的问题。

我们一般通过序列和触发器的结合,自动为自增长ID写入对应的起步值,定义Oracle序列和触发器的代码如下所示。

--表 WEB_SITEARTICLE 的自增序列和触发器
CREATE SEQUENCE WEB_SITEARTICLE_ID_AUTO
MINVALUE 1  --定义序列的初始值(即产生的第一个值),默认为1。
MAXVALUE 99999999999
START WITH 70   --因为表中已有3条数据,所以要从第4开始,如果尚未插入数据,那写1即可。
INCREMENT BY 1 --用于定义序列的步长,如果省略,则默认为1,如果出现负值,则代表序列的值是按照此步长递减的。
NOCYCLE --CYCLE代表循环,NOCYCLE代表不循环。
NOCACHE; --CACHE建立缓冲区,NOCACHE不建缓冲区

CREATE OR REPLACE TRIGGER WEB_SITEARTICLE_ID_TRIGGER
BEFORE INSERT ON WEB_SITEARTICLE --before:表示在数据库动作之前触发器执行; after:表示在数据库动作之后触发器执行。
FOR EACH ROW --对表的每一行触发器执行一次。如果不写,则只对整个表执行一次。
BEGIN 
SELECT WEB_SITEARTICLE_ID_AUTO.NEXTVAL INTO :NEW.ID FROM DUAL; -- :new 为一个引用最新的列值;:old 为一个引用以前的列值; 这两个变量只有在使用了关键字 "FOR EACH ROW"时才存在.且update语句两个都有,而insert只有:new ,delect 只有:old;
END WEB_SITEARTICLE_ID_TRIGGER;

下面就是我们实际的文件中,为ABP框架的Oracle表创建序列和触发器的SQL代码截图。

执行后,我们就可以通过PLSQL查看到对应的序列和触发器列表,并可以进行适当的调整了。

序列如下:

触发器列表如下所示。

 弄完这些,如果我们的Oracle表和数据都准备好了,那么就没有什么问题了,已经可以正常使用ABP框架在Oracle上跑了。

由于我们之前已经通过Navicat的方式迁移传输了SQLserver的数据,我们可以顺利跑起来ABP框架了,整套框架包括了WebAPI后端的Swagger管理、Vue&Element的管理前端、Winform管理前端,以及公司门户网站几个部分。

ABP 框架Swagger接口端

 

ABP框架之Vue&Element端

ABP框架之Winform端

 

 ABP框架之公司门户网站

   

3、SQLServer结构和数据迁移到Oracle

我在上篇随笔《ABP框架使用Mysql数据库,以及基于SQLServer创建Mysql数据库的架构和数据》也详细介绍过使用Navicat工具实现SQLserver 数据库迁移到Mysql的处理方式,这里依旧使用这个方式,实现SQLserver 数据库迁移到Oracle。

首先我们需要创建对应的Oracle用户和表空间,用来承载表的结构和数据的存储。如果我们是基于Oracle的DMP导出文件,那么可以不用提前创建用户和表控件也行。

注意,由于ABP框架使用的数据库表和键名称等的标识超过了30个字符,而Oracle12c以下版本不支持超过30个字符的标识,因此本ABP项目以Oracle12c起步的数据库,用于解决这个标识问题。

由于Oracle12C的创建全局用户,需要以C##开始,因此创建用户的代码和Oracle11的有所差异。

下面是基于Oracle12C的创建用户和表空间SQL代码。用户名为C##ABP,密码为abp

create tablespace abp_tbs datafile \'C:\app\Administrator\virtual\oradata\orcl\whcdb\abp_tbs.dbf\' size 100M;
--DROP TABLESPACE abp_tbs INCLUDING CONTENTS AND DATAFILES CASCADE CONSTRAINTS;
create user C##ABP identified by abp default tablespace abp_tbs;

grant connect,resource to C##ABP; 
grant dba to C##ABP;
--Revoke dba from C##ABP;

弄完这些准备工作,就到Navicat工具出场了。

 通过数据传输的方式,我们构建Oracle数据的处理,分别设置源和目标的配置。

 并注意通过选项的方式,设置好传输的规则。

 

其中我们需要设置让标识转换为大写,这个符合Oracle的处理规则,否则用了双引号的标识符,就不正确了。

另外遇到错误继续,是因为Oracle 的迁移,有些记录无法顺利处理,我们可以通过手工的方式补齐它,特别是NCLOB的内容,有些限制。

 选定好相关的表内容,就可以继续一步步完成即可创建和导出表数据了。

最后我们通过PLSQL查看相关的表内容如下所示。

 到这里,切换Oracle的后端代码,以及数据库的数据,包括创建对应自增记录字段ID的序列和触发器的处理也完成了,这样就可以顺利完成整个Oracle的迁移和处理了。