备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况

摘要:
备份数据库时,BufferCount选项设置错误,导致内存不足。今天,小组中的东辉兄弟告诉我备份生产数据库时的错误环境:今天,我们介绍了两个DBA在备份数据库时通常不会指定的备份参数:
备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况

今天群里面的东辉兄跟我说备份生产数据库的时候报错

备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况第1张

环境:

32位的SQLSERVER2008

机器有16G内存

数据库大小差不多60G

数据库已经打开了AWE功能

因为是生产库,暂时不能升级到64位SQL2008,那么还有没有其他办法可以解决这个问题呢??


上网搜索了一下就找到了这篇文章:

Incorrect BufferCount data transfer option can lead to OOM condition

http://blogs.msdn.com/b/sqlserverfaq/archive/2010/05/06/incorrect-buffercount-data-transfer-option-can-lead-to-oom-condition.aspx

译文:

今天介绍两个DBA在做数据库备份的时候一般都不会去指定的备份参数。一般备份数据库大家会用下面的方法:

1、使用SSMS或者TSQL脚本来备份数据库

2、使用第三方的备份软件,这些第三方软件利用 SQLVDI.DLL暴露出来的编程接口或者使用快照备份

当你写好备份命令并发送到服务器端的时候,你可以在你的备份命令里添加如下两个参数:

MAXTRANSFERSIZE 

BUFFERCOUNT

联机丛书对于这两个参数的解释是:

http://technet.microsoft.com/zh-cn/library/ms186865(SQL.105).aspx

数据传输选项
BUFFERCOUNT= { buffercount | @buffercount_variable }
指定用于备份操作的 I/O 缓冲区总数。可以指定任何正整数;但是,较大的缓冲区数可能导致由于 Sqlservr.exe 进程中的虚拟地址空间(VAS)不足而发生“内存不足”错误。
缓冲区使用的总空间由下面的公式确定:buffercount * maxtransfersize。
注意
有关使用 BUFFERCOUNT 选项的重要信息,请参阅不正确的 BufferCount 数据传输选项可以导致 OOM 情况博客


MAXTRANSFERSIZE= { maxtransfersize | @maxtransfersize_variable }
指定要在 SQL Server 和备份介质之间使用的最大传输单元(字节)。

可能的值是 65536 字节 (64 KB) 的倍数,最多可到 4194304 字节 (4 MB)。

根据你是否提供这两个参数值,SQLSERVER会指定用于备份的连续的缓冲区大小。

这是对于32位系统中大量的连续的内存分配的 non-Buffer pool区域的虚拟地址空间是至关重要的。这会令备份失败(言下之意,备份使用的是non buffer pool)。

当使用SQLVDI,重要的是在VDI配置已经完成之后,我们不能改变MAXTRANSFERSIZE 。大量的连续的内存分配决定于备份设备的数量和数据库文件存放的磁盘的数量

当你进行备份或者还原数据库的时候可以通过跟踪标志3213来查看你的备份/还原 配置参数。

具体可以参考我这篇文章:《SQLSERVER数据库备份操作和还原操作做了什么

我会给你们演示指定不正确的BUFFERCOUNT 参数或者不指定这个参数出现的致命错误

Trace Flag 3213

我使用下面的SQL命令来备份SQLSERVER数据库

backup database dbBackup

to disk = 'C:dbBackup1.bak',

disk = 'C:dbBackup2.bak',

disk = 'C:dbBackup3.bak',

disk = 'C:dbBackup4.bak',

disk = 'C:dbBackup5.bak',

disk = 'C:dbBackup6.bak'

with stats = 1, format, buffercount = 10, maxtransfersize = 4194304

我特意指定了buffercount参数的值为10 和maxtransfersize为4MB

跟踪标志3213的输出显示了下面的信息

最后使用了 40MB  buffer 空间去完成备份

Backup/Restore buffer configuration parameters

Memory limit: 3954MB

Buffer count:               10

Max transfer size:          4096 KB

Min MaxTransfer size:       64 KB

Total buffer space:         40 MB

上面的内容在SQLSERVER联机丛书上已经提到过。

我们现在需要知道buffer count不指定的情况下会发生什么。如果我们不指定buffer count,那么buffer count 会比之前指定的时候大

Backup/Restore buffer configuration parameters


Memory limit: 3954MB


Buffer count:               26


Max transfer size:          4096 KB


Min MaxTransfer size:       64 KB


Total buffer space:         104 MB

如果你看到上面的输出会发现不指定的情况下buffer space已经飙升到104MB,这是因为buffer count已经增长到26


默认的数据库备份的Buffer Count的计算

 

SQL Server 2005 或以上

(NumberofBackupDevices * GetSuggestedIoDepth) + NumberofBackupDevices + (2*DatabaseDeviceCount)

SQL Server 2000

(NumberofBackupDevices * GetSuggestedIoDepth) + NumberofBackupDevices + (DatabaseDeviceCount)  

注意:如果使用的是磁盘,那么备份时候GetSuggestedIoDepth的默认值是3

上面的公式运算完毕之后会返回一个返回值给SQLSERVER,根据备份介质的不同,例如磁盘、tape磁带 、VDI返回不同的值

根据上面的公式,第一个例子里面我的备份设备是6,磁盘数是1,因此: 在我的例子里buffer count是[(6*3) + 6 + (2*1)]=26

我将上面的SQL运行在64位SQLSERVER实例上。当我把上面的SQL运行在32位SQLSERVER实例上,

这将占近三分之一的可用的  non-Buffer  Pool内存 SQL Server(MemToLeave)区域。

当我使用下面的SQL,从原来的6个备份设备增加到12个,SQLSERVER就会报错

backup database dbBackup
to disk = 'C:dbBackup1.bak',
disk = 'C:dbBackup2.bak',
disk = 'C:dbBackup3.bak',
disk = 'C:dbBackup4.bak',
disk = 'C:dbBackup5.bak',
disk = 'C:dbBackup6.bak'
disk = 'C:dbBackup7.bak'
disk = 'C:dbBackup8.bak'
disk = 'C:dbBackup9.bak'
disk = 'C:dbBackup10.bak'
disk = 'C:dbBackup11.bak'
disk = 'C:dbBackup12.bak'
with stats = 1, format, buffercount = 10, maxtransfersize = 4194304

报错信息

Msg 3013, Level 16, State 1, Line 1
BACKUP DATABASE is terminating abnormally.
Msg 701, Level 17, State 17, Line 1
There is insufficient system memory to run this query.
Backup/Restore buffer configuration parameters
Backup/Restore buffer configuration parameters

 
Memory limit: 4029MB


Buffer count:               50


Max transfer size:          4096 KB
 

Min MaxTransfer size:       64 KB


Total buffer space:         200 MB

我的32位SQLSERVER 的最大的可用连续块在NON BUFFER POOL (MemToLeave)里面只有157MB,因此, 就会报OOM(out of memory)错误

大多数第三方备份软件会使用一个 Max Transfer Size值但是不会指定Buffer Count 的大小。如果你在做备份的时候,遇到OOM错误,你应该下意识的检查一下

Total Buffer Space的使用量在你备份的时候。 

在这种情况下,你应该减少备份设备的数目或者减少buffer count通过指定buffer count的值在书写备份命令的时候

下面的表格指出了默认的buffer count值对于不同的备份/还原操作

 备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况第2张

如果你在数据库完整备份到磁盘的时候想大概估计 Buffer memory的用量,下面的SQL脚本能够计算出来

DECLARE @MaxTransferSize FLOAT ,
    @BufferCount BIGINT ,
    @DBName VARCHAR(255) ,
    @BackupDevices BIGINT

-- Default value is zero. Value to be provided in MB.
SET @MaxTransferSize = 0

-- Default value is zero
SET @BufferCount = 0

-- Provide the name of the database to be backed up
SET @DBName = 'dbBackup'

-- Number of disk devices that you are writing the backup to
SET @BackupDevices = 1

DECLARE @DatabaseDeviceCount INT

SELECT  @DatabaseDeviceCount = COUNT(DISTINCT ( SUBSTRING(physical_name, 1,
                                                          CHARINDEX(physical_name,
                                                              ':') + 1) ))
FROM    sys.master_files
WHERE   database_id = DB_ID(@DBName)
        AND type_desc <> 'LOG'

 

IF @BufferCount = 0
    SET @BufferCount = ( @BackupDevices * 3 ) + @BackupDevices + ( 2
                                                              * @DatabaseDeviceCount )


IF @MaxTransferSize = 0
    SET @MaxTransferSize = 1


SELECT  'Total buffer space (MB): '
        + CAST (( @Buffercount * @MaxTransferSize ) AS VARCHAR(10))

至于更详细的参数可以参考我这篇文章:《SQLSERVER数据库备份操作和还原操作做了什么

备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况第3张

备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况第4张

备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况第5张


实验

我在电脑上安装了一个SQL2005 express版本 32位

使用下面的SQL语句进行备份就会报OOM错误

BACKUP DATABASE [test] TO DISK ='E:	est1FULLBACKUP.BAK' ,
disk = 'E:	est2FULLBACKUP.bak',
disk = 'E:	est3FULLBACKUP.bak',
disk = 'E:	est4FULLBACKUP.bak',
disk = 'E:	est5FULLBACKUP.bak',
disk = 'E:	est6FULLBACKUP.bak'
WITH BUFFERCOUNT=999999999,FORMAT
消息 3013,级别 16,状态 1,第 1BACKUP DATABASE 正在异常终止。
消息 701,级别 17,状态 123,第 1 行
没有足够的系统内存来运行此查询。

但是指定 BUFFERCOUNT=1就不会

BACKUP DATABASE [test] TO DISK ='E:	est1FULLBACKUP.BAK' 
WITH BUFFERCOUNT=1

 备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况第6张


东辉兄的情况

下午的时候我叫他指定  BUFFERCOUNT=1  试试

结果没有报OOM错误

使用了17分钟备份完差不多60G的数据库

虽然指定  BUFFERCOUNT=1  备份速度会慢一点,但是non buffer pool的内存占用不会那么多

感谢东辉兄提供这么鲜明的例子o(∩_∩)o  

如有不对的地方,欢迎大家拍砖o(∩_∩)o 

免责声明:文章转载自《备份数据库的时候设置 BufferCount 选项不正确导致 out of memory 的情况》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇入门级磁带机使用方法开源JS仪表盘 JustGage下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

python连接mysql并进行增删改查操作

查询了菜鸟教程以及博客园等各种文章,有修改完善 转载自https://www.cnblogs.com/yuhou/p/10893056.html 自己完善部分: python连接mysql使用连接池: 一、为什么要用连接池? 1、数据库 本身有压力,并不能创建太多的并发数访问数据库,如果是大表那更加会有压力,因此限制一定的连接是更加科学的方法。2、创建和释...

PgSql备份pg_dump与还原手记pg_restore

真没有想到,以前一直是PostgreSQL使用者,突然需要库移植又成了头一招了!原来它与mysql命令行操作区别还挺大。不用怕,但绝对要细心,因为数据库操作是网站的核心,一旦出现损坏或丢失,后果就非常严重了。我先写了步骤,然后按计划进行,虽然也出现了错误,但最终还是安全移植了。这里记录在案,以备后用。备份还原方法:pg_dump和pg_restore,先仔...

C#实现对数据库的备份还原(完全)

C#实现对数据库的备份还原        ( 用SQL语句实现对数据库备份还原操作        备份SqlServer数据库:  backup database 数据库名 to disk (备份文件存放路径+文件名).bak   还原SqlServer数据库:  string path = this.FileUpload1.PostedFile.Fil...

Ambari安装

    adp环境配置文档adp环境配置文档 1 一,环境的基础配置同Apache hadoop类似(可参考) 1 二,不同配置之处 1 2.1 同步时钟 1 三. Hdp服务器配置 2 3.1 资源库的配置 2 3.2安装mysql 2 3.3安装配置Ambari 3 3.4重启Ambari-server 4 3.5启动图界面 4 3.5.1在物理主机浏...

mysql开发总结

一、理解MySQL基本概念   1、MySQL软件:MySQL实际上就是一软件,是一工具,是关系型数据库管理系统软件   2、MySQL数据库:就是按照数据结构来组织、存储和管理数据的仓库   3、MySQL数据库实例:     ①MySQL是单进程多线程(而oracle是多进程),也就是说MySQL实例在系统上表现就是一个服务进程,即进程;     ②M...

SQL Server 2000详细安装过程及配置

说明:这篇文章是几年前我发布在网易博客当中的原创文章,但由于网易博客现在要停止运营了,所以我就把这篇文章搬了过来,虽然现如今SQL Server 2000软件早已经过时了,但仍然有一部分人在使用它,尤其是某些高校的学生在做毕业设计或者课程设计的时候可能会使用到,所以就把该软件的安装过程保留在这里吧。 另外,此SQL Server 2000软件只能在Wind...