Matlab内存不足问题的解决_matlab运算内存不足-程序员宅基地

技术标签: matlab  内存溢出  

刚用matlab做实验,由于数据量比较大,出现“Out of Memory”,但是算了下数据量,发现还不足以让2.5G的内存消耗殆尽啊,于是在网上查找问题解决方法,下面是别人的方法:

Matlab内存不足问题的解决

最近尝试采用matlab中的神经网络工具包做些试验,但是数据的规模比较大,在模型训练的过程中,总是返回“Out Of Memory”错误,而不能继续训练。尝试了几种可能的解决方案,最后总算解决,至少运行到现在还没有出现这种错误。




  1. 增加虚拟内存:在查看任务管理器发现物理内存为2GB,虚拟内存为共6GB,而观察matlab在运行过程中使用的内存没有超过2GB,因此不存在内存不足的问题。因此增加虚拟内存的方法是不可行的。
  2. 使用PACK:PACK可以将matlab中的变量导出到磁盘中,以增加可用内存。但是尝试之后,没有解决问题。
  3. 减少变量的内存开销:目前使用的变量都是必须的变量,不能再减小了。
  4. 64位架构:采用64位的软硬件架构,目前实验室条件下不可行。
  5. 3GB切换(3GB switch):由于在windows上运行matlab时,如果内存的使用超过约1.7G左右就要出现这种错误,而无论你有多大的内存也没用。幸好现在 在Windows XP上,MATLAB现在支持3GB切换(3GB switch)启动选项(boot option),配置额外的1GB的可寻址内存到每个程序上。这增加了你可以储存到MATLAB workspace中资料的总量约到2.7 GB。这相当于33亿的精度值。此新增的内存区块和MATLAB使用剩下的(内存)并不是连续的,所以你不能建立一个数组来填满此空间。


具体做法:修改C:\ Boot.ini文件如下:

[boot loader] 
timeout=30 
default=multi(0)disk(0)rdisk(0)partition(2)\WINNT 
[operating systems] 
multi(0)disk(0)rdisk(0)partition(2)\WINNT="????" /3GB
注意后面的/3GB就是后加上的。重新启动系统再次运行matlab。

在采用了最后这种方法时,问题解决,至少运行了一段时间还没有出现上面的错误。


参考:


[1] http://www.microsoft.com/whdc/system/platform/server/PAE/PAEmem.mspx


[2] http://www.mathworks.com/support/tech-notes/1100/1106.shtml


[3] http://www.terasoft.com.tw/news/data/news041203.asp


[4] http://blog.sina.com.tw/872/article.php?pbgid=872&entryid=17053

转自:http://hi.baidu.com/zxshow1983/blog/item/ecc77f23795c41569922ed70.html


另外,还有两篇文章可能有用,放在这先:

matlab内存溢出的解决方案

matlab内存溢出的解决方案(整理)
1)增加虚拟内存的方法是不可行的
2)使用PACK:PACK可以将matlab中的变量导出到磁盘中,以增加可用内存
3)减少变量的内存开销
4)64位架构:采用64位的软硬件架构
5)3GB 切换(3GB switch):由于在windows上运行matlab时,如果内存的使用超过约1.7G左右就要出现这种错误,而无论你有多大的内存也没用。幸好现在 在Windows XP上,MATLAB现在支持3GB切换(3GB switch)启动选项(boot option),配置额外的1GB的可寻址内存到每个程序上。这增加了你可以储存到MATLAB workspace中资料的总量约到2.7 GB。这相当于33亿的精度值。此新增的内存区块和MATLAB使用剩下的(内存)并不是连续的,所以你不能建立一个数组来填满此空间。

 6)更有效的优化方案调整Java虚拟机可分配的内存大小

matlab java.lang.OutOfMemoryError
Java虚拟机内存不够用了.可以增加最大内存设置.

1. 查找matlab根路径.在matlab命令行中敲入:matlabroot
显示根路径,如:C:\MATLAB7

2.查看当前Java虚拟机最大堆内存, 敲入:java.lang.Runtime.getRuntime.maxMemory

3.查看Java虚拟机版本.敲入:version -java

4.在 $MATLAB\bin\$ARCH 路径下新建java.opts文件.
$MATLAB是根路径,例如C:\MATLAB7
$ARCH是系统架构.例如win32,则在C:\MATLAB7\bin\win32下新建java.opts文件.

5.用记事本打开java.opts文件,
对于不同的版本的Java虚拟机,输入:
The following table shows the default settings MATLAB uses for versions of the JVM:

JVM       Initial Heap Size     Max Heap Size
1.6.0     -Xms64m               -Xmx128m (32-bit)
                                             -Xmx196m (64-bit)
1.5.0     -Xms64m               -Xmx96m   (32-bit)
                                             -Xmx128m (64-bit)
1.4.2     -Xms16m               -Xmx96m
1.3.1     -Xms16000000         -Xmx64000000
1.2.2     -Xms16000000         -Xmx64000000
1.1.8     -ms16000000           -mx64000000

例如我的Java是1.4.2,在java.opts文件写入-Xmx96m,保存就ok啦
如果输入错误就报错:warning : Failed to start to Java Virtual machine

6. 重启matlab,敲入java.lang.Runtime.getRuntime.maxMemory
显示最大内存改变,设置成功.

转自:http://hi.baidu.com/albertleemon/blog/item/d66384089786d5c262d986c4.html

Matlab 的内存分配机制
2011年04月23日 星期六 下午 02:19
1、创建和修改数组——基本思想是保持内存的连续性
(1)当为数组赋值时,Matlab在内存中分配连续的虚拟块,在另一个地方,将数组的类型和维数等保存为头信息。
(2) 当向数组增加新元素时,如果原来位置的连续内存区域可以容纳新增加的数据,则扩大分配的内存,然后增加元素;如果连续块不够大,需要先重新分配能够容纳原 有数据和新增数据的连续内存块,再将原有数据拷贝到新分配的内存中(在此期间,内存中会有原来数据的两份拷贝,增加了out of memory的风险),并添加新的元素到新的块中,然后释放原来的内存。
(3)当删除数组元素时,先移除元素,再压缩原来分配的空间。

2、数组的拷贝

(1)当将一个数组赋值给另一个变量时,不会为新变量分配内存,新变量只是到原来数组的引用,直到新变量中元素值改变时,才会为其分配内存。
(2)通过参数传递给函数的数据,当数据内容发生改变时才会分配内存,函数内部新的数据通过返回值传递给调用该函数的函数。

3、数组头

(1)由于数组头占据存储空间(虽然不多),数据存放在几个大数组中要由于存放在多个小数组中。
(2)对结构体和元胞(cell)数组,Matlab不仅为他们创建头信息,还为结构体的每个字段和元胞数组的每个元素创建头信息,因此结构题和元胞数组消耗的内存与其创建方式有关。
(3)whos函数只能查看数据占用的存储空间,不会显示头信息占用的空间。

4、数据结构与内存

(1)8-bit、16-bit、32-bit、64-bit的有符号整型或无符号整型分别占用1、2、4、8字节空间,单精度、双精度浮点数分别占用4、8字节空间。
(2)复数的实部和虚部分别占用存贮空间,当修改实部或虚部时,会同时复制实部和虚部。
(3)当数组的元素绝大部分为0时,用稀疏矩阵存贮以节省空间。

5、内存占用计算

(1) 元胞数组占用的空间计算方法为:(header_size x number_of_cells) + data,对于64位系统,header_size为112,查看header_size的方法: A = {[]}, whos A。A = {1 2 3}, A = {[1 2 3]}, A = { {1 2 3}}占用的字节数分别为:112×3+8×3,112×1+8×3,112×4+8×3。

(2)64bit系统中结构体占用空间的计算方法:fields x ((112 x array elements) + 64) + data (32bit系统中将112改为60)。


转自:http://blog.sina.com.cn/s/blog_6c17a3a00100rzhv.html

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/dlaicxf/article/details/54140041

智能推荐

十大Python机器学习开源项目-程序员宅基地

文章浏览阅读50次。2019独角兽企业重金招聘Python工程师标准>>> ...

rman备份恢复总结-程序员宅基地

文章浏览阅读80次。Recovery Manager(RMAN)是一种用于备份(backup)、还原(restore)和恢复(recover)数据库的Oracle 工具.RMAN只能用于ORACLE8或更高的版本中。它能够备份整个数据库或数据库部件,如表空间、数据文件、控制文件、归档文件以及Spfile参数文件。RMAN也允许您进行增量数据块级别的备份,增量RMA..._backup incremental level 2 database plus archivelog;

win10系统jupyter notebook无法打开虚拟环境,自动补全,无法找到程序输入点的解决方法_无法定位程序输入点 steamapi_getsteaminstallpath launcher.dl-程序员宅基地

文章浏览阅读1.1k次。解决方法:需要安装nb_conda命令:conda install nb_conda_kernels或者conda install nb_conda然后重新启动conda打开jupyter notebook即可。_无法定位程序输入点 steamapi_getsteaminstallpath launcher.dll

win8.1 cygwin编译java轻量虚拟机avian-程序员宅基地

文章浏览阅读146次。1.背景  昨天在网上看到别人用aauto写本地小程序写的很爽,我觉得如果java的jre能小一点,凭借java庞大的第三方类库写小工具也还算不错的。本人就经常用eclipse+一些commons包写些小工具软件。不过可惜的是只能自己用,对于没装java环境的人来说就麻烦了。所以就去网上找到了一个轻量级java虚拟机avian。但是在编译和安装过程中遇到了很多困难,特此记录。..._avian jvm

TDD和单元测试_tdd测试-程序员宅基地

文章浏览阅读966次。这篇博客的动机是解释测试驱动开发中使用的测试的性质和目的。为了避免混淆,我将使用表达式TDD测试来引用测试驱动开发环境中使用的测试类型。这篇博客文章的目的是澄清TDD测试、单元测试和验收测试之间的关系。TDD Tests are not Unit Tests让我们从TDD测试和单元测试之间的区别开始。表面上,TDD测试与单元测试非常相似。这并不奇怪,因为您使用单元测试框架,如Visual Studio Tests或NUnit来创建这两种类型的测试。单元测试的目的是独立测试代码单元。例如,您可以创建一_tdd测试

在移动硬盘中安装win10和macos双系统-程序员宅基地

文章浏览阅读1.1k次,点赞22次,收藏23次。本文通过在SSD移动硬盘中安装win10和macos双系统,实现操作系统随身携带小慢哥的原创文章,欢迎转载目录 目标 准备工作 Step1. 清空分区,转换为GPT Step2. 安装win10 Step3. 压缩win10分区容量 Step4. 创建2个分区 Step5. 将bootcamp驱动放置到exFAT分区中 Step6. 将macos分区..._mac移动硬盘装双机系统

随便推点

第二章:整数二分与浮点数二分(极限思想)_浮点数二分为什么不加一-程序员宅基地

文章浏览阅读5.8k次,点赞83次,收藏163次。通过画图的方式帮助大家理解二分的应用。_浮点数二分为什么不加一

IDEA/Pycharm激活后无法打开的解决办法_为什么激活的pycharm-程序员宅基地

文章浏览阅读2.1k次。问题:在按照操作破解PyCharm后,发现双击无法启动编译器破解方法:https://blog.51cto.com/zhaoanan/2107396可能的解决方案1.检查JetbrainsCrack-2.6.10-release-enc.jar的路径是否正确注意JetbrainsCrack-2.6.10-release-enc.jar的路径:pycharm64.exe.vmoptions和pycharm.exe.vmoptions中添加的路径应该是JetbrainsCrack-2.6.10-re_为什么激活的pycharm

如何查看Django的版本-程序员宅基地

文章浏览阅读869次。在 settings.py中开头几行就可以看到。转载于:https://blog.51cto.com/ipcpu/2325913_如何查看django是版本几

自动柜员机属于微型计算机的一种,自动柜员机属于微型计算机的一种。(  )...-程序员宅基地

文章浏览阅读563次。摘要:或腐毒物成皮肤灼蚀造伤的,自动种经皮物肤吸收毒,即脱应立去受污染物的衣。新皮的是层指,于微核团灰质海脑半质B质D、脊球深半球部的半球表面大脑的白、大大脑的灰髓的。个案工作者对、型计责判断价值拒斥愿和案主不宜备、的意的态度采用否定。...或腐毒物成皮肤灼蚀造伤的,自动种经皮物肤吸收毒,即脱应立去受污染物的衣。机属现实认为治疗模式判断价值基石疗过程的是治。新皮的是层指,于微核团灰质海脑半质B质D..._atm 控制部微型计算机

常用CHM帮助文档集锦下载-程序员宅基地

文章浏览阅读64次。ADO 2.5 Microsoft ADO 2.5 程序员参考.chmADO.NET_微软出版社 《ADO.Net技术内幕》《Microsoft ADO.Net Core Reference 》.NET.En.chmADO210.CHMasp.net 2.0_Apress.ASP.Dot.NET.2.0.Revealed.eBook-LiB.chmasp中文.chmASP基础教材.chmasp帮助..._c语言帮助文档chm

利用金山快盘云服务搭建自己的SVN服务器-程序员宅基地

文章浏览阅读61次。我是程序员,一般习惯使用svn来管理自己的代码,连带着,我很多历史性文档,也都丢在svn服务器里面。但这里有个问题,我单位一台机器,家里一台机器,同步起来很不方便,老是U盘带来带去,容易丢不说,代码安全也得不到保障。也想过利用sourceForge等公开的svn服务,不过总觉得代码在人家那里,有点不大放心。不过,我也还没有疯到为了这个小小的需求,自己买台服务器托管到电信机房,呵呵。...

推荐文章

热门文章

相关标签