1.内存查看
memory.limit():查看内存大小 memory.limit(n):申请内存大小 memory.size(NA):查看内存大小 memory.size(T):查看已分配的内存 memory.size(F):查看已使用的内存
2.内存申请
在Windows开始菜单运行:
Rgui -max-mem-size 8GB
与在R GUI中执行:
memory.limit(8)
都能申请8GB使用内存
3.垃圾清除
rm(x):从workplace中删除变量/文件x gc():清除内存垃圾 rm(list=ls()):清除workplace中所有变量
4.提升R的性能和突破内存限制的技巧
4.1性能提升的方法
4.1.1 系统升级
升级硬件
使用64位操作系统
利用GPU
租用云计算服务器
4.1.2 开发层面的优化
算法降低算法复杂度
调用C/C++或者Fortran关键的、耗时的计算步骤
缓冲技术减少重复计算
4.1.3 使用层面的优化
充分利用R的内存机制——R的基础优化
增强R的矩阵运算——加速BLAS
并行计算
大规模数据的处理——图片内存限制
使用Revolution R Enterprise(RRE)
4.2 充分利用R的内部机制优化性能
4.2.1向量化
向量化的代码,不要用循环!
利用矩阵运算
利用内置的向量化函数,比如exp、sin、rowMeans、rowSums、colSums、ifelse等
利用Vectorize函数将非向量化的函数改装为向量化的函数
*apply函数族:apply、lapply、sapply、tapply、mapply等
plyr和dplyr包Rstudio发布的data wrangling cheat sheet
##利用矩阵运算 n <- x1 <- :n x2 <- :n y <- vector() system.time( :n){y[i] <- x1[i] + x2[i]} ) system.time(y <- x1 + x2) ## 利用向量化运算 ## 内置的向量化函数 v <- : result <- rep(:) system.time( :){result[i] <- sin(v[i])} ) system.time(result <- sin(v)) ## 利用rowMeans、rowSums、colSums、colMeans等函数对矩阵或数据库做整体处理 colSums(iris[,:])
利用R内置的向量化函数,自定义向量化函数,只要在函数定义时每个运算是向量化的。但是在函数定义时用了逻辑判断语句,就会破坏的向量化特征。
func <- function(x){ == ){ ret <- TRUE }else{ ret <- FALSE} return(ret) } func() func(c(,,,)) ## Warning message: ## In == ) { : ## the condition has length > and only the first element will be used ## 在函数的定义中有if语句,不能接受向量作为判断的条件,否则判断第一个元素。 ## 利用ifelse函数做向量化的判断 myfunc <- function(x){ ifelse(x %% == ,TRUE,FALSE) } myfunc(c(,,,)) ##利用Vectorize函数将非向量化的函数改装为向量化的函数 funcv <- Vectorize(func) funcv(c(,,,)) ##利用sapply函数向量化运算 sapply(c(,,,),func)
4.2.2预先给对象分配内存
R为解释性语言,也是动态语言,如果不事先指定对象的类型和长度,在运算过程会动态分配内存,提高灵活性,但降低了效率。
尽量减少cbind、rbind的使用
## 求出10000个斐波那契数 x <- c(,) i <- system.time( ){ ] x <- cbind(x,new) i <- i + } ) ## 指定类型和长度 x <- vector(mode=) x[] <- x[] <- system.time( ){ i <- i + x[i] <- x[i-] + x[i-] } )
4.2.3避免内存拷贝
假设我们有许多彼此不相关的向量,但因为一些其他的原因,我们希望将每个向量的第三个元素设为8,既然它们是互不相关的,甚至可能具有不同的长度,我们也许会考虑将它们放在一个列表中:
m <- n <- z <- list() :m) z[[i]] <- sample(:, n, replace = T) system.time(:m) z[[i]][] <- ) ## 把这些向量一起放到矩阵中 z <- matrix(sample(:, m * n, replace = T),nrow = m) system.time(z[,] <- )
4.2.4删除临时对象和不再用的对象
rm()
删除对象
rm(object)删除指定对象,rm(list = ls())可以删除内存中的所有对象gc()
内存垃圾回收
使用rm(object)删除变量,要使用gc()做垃圾回收,否则内存是不会自动释放的。invisible(gc())不显示垃圾回收的结果
4.2.5分析内存的函数
ls()
列出特定环境中的对象object.size()
返回R对象的大小(近似的)memory.profile()
分析cons单元的使用情况memory.size()
监测全部内存的使用情况(仅Windows下可用)
memory.size(max=T)返回历史占用过的最大内存;memory.size(max=F)返回目前占用的内存。未做垃圾清理时,已使用内存和已分配内存同步增加,但在垃圾清理后rm(list=ls());gc(),已使用内存会减少,而已分配给R的内存不会改变。memory.limit()
系统可分配的内存上限(仅Windows下可用)
memory.limit(newLimit)更改到一个新的上限。 注意,在32位的R中,封顶上限为4G,你无法在一个程序上使用超过4G (数位上限)。这种时候,可以考虑使用64位的版本。