从.dat文件向Sql Server中批量导入数据

摘要:
由于工作的需要,最近正在进行数据分析和数据迁移,以便将数据从TXT文本文档批量导入SqlServer。最初,这种简单的数据导入和导出没有问题,但所有客户的原始数据都存储在中。dat文件。因此,解决方案如下:首先,使用数据库查看工具DatabaseSystemUtility查看原始数据库。客户提供的dat文件。

从TXT文本文档向Sql Server中批量导入数据

      因为工作的需要,近期在做数据的分析和数据的迁移。在做数据迁移的时候需要将原有的数据导入到新建的数据库中。本来这个单纯的数据导入导出是没有什么问题的,但是客户原有的数据全部都是存在.dat文件中的。所以解决方案如下

    一、首先用数据库查看工具Database System Utility查看客户提供的原有的.dat文件。并将该数据文件中的数据导出为.txt文件。

    二、这里才是今天要将的关键部分。建设我们在数据库中的表结构是这样的

create table Test(ID int identity(1,1) primary key ,Name nvarchar(20),Sex nvarchar (2),IsWork bit)

 从.dat文件向Sql Server中批量导入数据第1张

表结构如图

下面我们通过以下的简单的SQL语句即可实现数据的批量导入,代码如下:

Bulk  insert  test

      From  ‘C:\Users\Olive\Desktop\test.txt’

      With

      (   fieldterminator=’,’,

          rowterminator=’\n’

      )

备注:1) bulk insert 为Sql server 中一个批量插入的操作

      2)test 为上边定义的表,即我们的数据将要插入的表

      3) ‘C:\Users\Olive\Desktop\test.txt’为数据源文件所在磁盘上的物理路径

      4)with 相当于一些插入的附属条件,可以起这里添加一些约束限制条件等

      5) fieldterminator=’,’字段的分割符为”,”一般的txt文本数据源的字段分隔都为逗号,当然也可以为其他,比如”|”

      6) rowterminator=’\n’各条信息间的分割符为’\n’,一般的txt文本数据源的信息间的分割都是换行符,即一条信息占一行,也可以用其他格式如:”|\n”

三、执行结果

   1)执行前,test.txt文本文档的数据如下:执行后,sql server中数据如下

                 从.dat文件向Sql Server中批量导入数据第2张

四、bulk Insert详解

这里只是大致上讲了一下bulk insert的用法,因为我们所涉及的表结构比较简单,表之间的关联也不是很大,所有就只是简单的用了下bulk insert。事实上bulk insert的功能还是比较强大的。上边讲了可以在with{}条件中加入一些参数以满足不同的需要。下面我们看一下微软官方的关于bulk insert 的用法介绍

BULK INSERT
   [ database_name . [ schema_name ] . | schema_name . ] [ table_name | view_name ]
      FROM 'data_file'
     [ WITH
    (
   [ [ , ] BATCHSIZE = batch_size ]
   [ [ , ] CHECK_CONSTRAINTS ]
   [ [ , ] CODEPAGE = { 'ACP' | 'OEM' | 'RAW' | 'code_page' } ]
   [ [ , ] DATAFILETYPE =
      { 'char' | 'native'| 'widechar' | 'widenative' } ]
   [ [ , ] FIELDTERMINATOR = 'field_terminator' ]
   [ [ , ] FIRSTROW = first_row ]
   [ [ , ] FIRE_TRIGGERS ]
   [ [ , ] FORMATFILE = 'format_file_path' ]
   [ [ , ] KEEPIDENTITY ]
   [ [ , ] KEEPNULLS ]
   [ [ , ] KILOBYTES_PER_BATCH = kilobytes_per_batch ]
   [ [ , ] LASTROW = last_row ]
   [ [ , ] MAXERRORS = max_errors ]
   [ [ , ] ORDER ( { column [ ASC | DESC ] } [ ,...n ] ) ]
   [ [ , ] ROWS_PER_BATCH = rows_per_batch ]
   [ [ , ] ROWTERMINATOR = 'row_terminator' ]
   [ [ , ] TABLOCK ]
   [ [ , ] ERRORFILE = 'file_name' ]
    )]

这里我们主要看with中的一些参数:(部分)

1)       BATCHSIZE : 指定批处理中的行数

2)       CHECK_CONSTRAINTS:启用约束检查,指定在大容量导入操作期间,必须检查所有对目标表或视图的约束。若没有 CHECK_CONSTRAINTS 选项,则忽略所有 CHECK 和 FOREIGN KEY 约束,并在该操作后将表的约束标记为不可信。始终强制使用 UNIQUE、PRIMARY KEY 和 NOT NULL 约束。

3)       FIRE_TRIGGERS

指定将在大容量导入操作期间执行目标表中定义的所有插入触发器。如果为针对目标表的 INSERT 操作定义了触发器,则每次完成批处理操作时均激发触发器。

4)       KEEPNULLS

指定空列在大容量导入操作期间应保留 Null 值,而不插入列的任何默认值

5)       ORDER ( { column [ ASC | DESC ] } [ ,...n ] )

指定如何对数据文件中的数据排序。如果根据表中的聚集索引(如果有)对要导入的数据排序,则可提高大容量导入的性能

6)       ERRORFILE ='file_name'

指定用于收集格式有误且不能转换为 OLE DB 行集的行的文件。这些行将按原样从数据文件复制到此错误文件中。

    今天的总结就到这里了,希望可以给大家带来一些帮助,如果有不对的地方,还请大家多多指教!

免责声明:文章转载自《从.dat文件向Sql Server中批量导入数据》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇DNSPod DDNS 动态域名设置WebService 之 身份验证下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

用navicate 连接本地数据库提示用户名/口令无效

1、在用navicate连接本地的oracle数据库时,试了oracle几个默认的用户名和密码,但是当我输入时,却提示用户名/口令无效。所以按照网上的办法,cmd,输入了以下命令,修改了几个用户的用户密码。 再次用admin连接即可 2、文件--新建--用户,建立admin用户 3、在新建的表里插入数据时,提示:对表空间‘USERS’无权限。 解决办法...

Wireshark查找与标记数据包

查找数据包 按Ctrl-F。 查找数据包提供了4个选项: 显示过滤器(Display filter):该选项可以让你通过输入表达式进行筛选,并只找出那些满足该表达式的数据包。如:not ip, ip.addr==192.168.0.1, arp 十六进制值(Hex value):改选项使用你所输入的十六进制数对数据包进行搜索。如:00:ff, ff:ff...

C#数据导出到excel 与excel互操作的错误无法将类型为“Microsoft.Office.Interop.Excel.ApplicationClass”的 COM 对象。。。

如果出现类似这种问题 在开始窗口输入regedit,打开注册表管理器 在HKEY_CLASSES_ROOT中找到TypeLib 在TypeLib中找到{00020813-0000-0000-C000-000000000046} 删除不存在的Office版本       当出现这个异常:::异常来自HRESULT.0x80029C4A(TYPE_E...

大数据是什么

大数据是什么 大数据本身是一个抽象的概念。从一般意义上讲,大数据是指无法在有限时间内用常规软件工具对其进行获取、存储、管理和处理的数据集合。 目前,业界对大数据还没有一个统一的定义,但是大家普遍认为,大数据具备 Volume、Velocity、Variety 和 Value 四个特征,简称“4V”,即数据体量巨大、数据速度快、数据类型繁多和数据价值密度低,...

怎么删除表空间对应的某一个数据文件

如果想要删除表空间的数据文件,最好且最安全的办法是,删除表空间后重建 步骤如下:   1,导出该表空间中的所有内容;   2,删除表空间:DROP TABLESPACE <tablespace_name> INCLUDING CONTENTS;   3,重新创建新的表空间及其数据文件;   4,将导出的数据导入表空间; 但是在实际应用环境中,数...

WEB接口测试之Jmeter接口测试自动化 (二)(数据分离)

转载: http://www.cnblogs.com/chengtch/p/6105231.html 通过逐个录入的方式,好不容易将需要测试几十个接口的300多个测试用例录入sampler-http请求中,固定的测试环境跑起来也还 感觉良好。不料在新服务器环境中跑用例时,问题来了:修改参数维护脚本等成本太大! 脚本参数是写死的,修改起来得一个个请求打开来...