内核早期内存分配器:memblock

时间:2023-01-31 21:58:57

内核早期内存分配器:memblock
Linux内核使用伙伴系统管理内存,那么在伙伴系统工作前,如何管理内存?答案
是memblock。
memblock在系统启动阶段进行简单的内存管理,记录物理内存的使用情况。
在进一步介绍memblock之前,有必要先了解下系统内存的使用情况:
首先,内存中的某些部分是永久的分配给内核的,比如内核代码段和数据段,ramdisk和fdt占
用的空间等,它们是系统内存的一部分,但是不能被侵占,也不参与内存分配,称之为静态内存
;其次,GPU,Camera等都需要预留大量连续内存,这部分内存平时不用,但是系统必须提前预
留好,称之为预留内存;最后,内存的其余部分称之为动态内存,是需要内核管理的宝贵资源。
memblock把物理内存划分为若干内存区,按使用类型分别放在memory和reserved两个集
合(数组)中,memory即动态内存的集合,reserved集合包括静态内存和预留内存。
1. memblock关键数据结构
memblock数据结构定义如下:
memblock相关数据结构十分的简单,内核还为memblock定义了一个全局变量,并为其赋
初值,如下:
memory类型的内存集合指向memblock_memory_init_regions数组,最多可以记录128个内
存区。
reserved类型的内存集合指向memblock_reserved_init_regions数组,最多可以记录128个内
存区。
注:内核代码经常用到类似”__initdata_memblock”的宏定义,通常用来指定变量或函数所在
的section,该宏的定义如下:
2. memblock基本操作
1) 添加内存区
分别为memory和reserved集合添加内存区,如果新加入的内存区与原有内存区重叠,则合并
到原有内存区,否则插入新内存区。
实际工作由memblock_add_range()完成,type参数指定内存集合类型。
需要注意的是该函数内部会执行两次:
第一次计算需要插入几个内存区,如果超过允许的最大内存区个数,则double内存区数组;
第二次执行内存区的实际插入与合并操作。
2) 移除内存区
从memory集合移除给定物理地址所指的内存区,如果是内存区域的一部分,则涉及到调
更多精彩攻略访问gl.baidu.com 1
整region大小,或者将一个region拆分成两个region。
系统将不会为移除的内存区建立内存映射,这部分内存区后续应该由DMA或CMA管理。
3) 分配内存
使用该函数向kernel申请一块可用的物理内存,memblock使用自顶向下(取决于bottom_up
的值)的方式查找空闲内存,实际操作是在memory region中查找合适的内存,并加入到reserved
region中以标记这块内存已经被使用。
4) 释放内存
使用该函数来释放由memblock_alloc申请到的物理内存。
3. 探测系统可用内存
内核是如何知晓物理内存的拓扑结构呢?相信很多人都有过类似的疑问。
通过DDR的模式寄存器(MR8),可以很容易获得内存密度,进而推断出内存容量,这部分工
作通常由bootloader完成,然后使用fdt或者atag等方式传递给内核。
以fdt为例,内核解析memory节点,取得物理内存的拓扑结构(起始地址及大小),并添加
到memblock中,代码如下:
该函数扫描memory节点,并解析reg属性,注意此时DeviceTree还没有执行unflattern操作,
需要使用”fdt”类型接口解析dtb。
以4G DDR为例,输出的调试信息如下:
reg属性由addr和size组成,分别占用2个cell(u32类型数据),上面的reg data可以看成:“0
00000080 0 00000080, 01000000 0 0 00557e”。
dtb使用big endian方式存储数据,需要转换成cpu字节序。
解析出来的内存包含两个Rank,起始地址分别是0x80000000和0x100000000,这是系统的
可用内存,用来初始化memory region。
从fdt解析的内存信息是否可信呢?内核有自己的判断,在启动阶段,内核会根据自身的运行
地址计算内存基地址,即PHYS_OFFSET。
如果base地址小于phys_offset,则内核使用可信的phys_offset做为主存的基地址。
这里要注意区分PHYS_OFFSET, PAGE_OFFSET:
PAGE_OFFSET是内核虚拟地址空间的起始地址,PHYS_OFFSET是RAM在物理空间的起
始地址,内核空间的地址映射通常具有固定的偏移量,即:
4. 记录系统预留内存
这里说的系统预留内存,包括静态内存(内核Image,ramdisk,fdt等占用空间),以及系统
为Camera,Display等子系统预留的大量连续内存。
更多精彩攻略访问gl.baidu.com 2
另外,高通平台通常包含多核,还需要为Modem,TZ/TA等预留运行空间,这部分空间类似
静态内存,都是永久分配给其它核心使用,根据节点属性,通常由DMA管理。
arm64_memblock_init()函数初始化系统预留内存,代码如下:
“no-map”属性决定向reserved region添加内存区,还是从memory region移除内存区,二者差
别在于内核不会给”no-map”属性的内存区建立内存映射,即该内存区不在动态内存管理范围。
预留内存还会被添加到reserved_mem数组,为后续的初始化做准备,”reg”属性指定内存区的
起始地址和大小,如果没有”reg”属性,还需要为内存区分配空间。
至此,memblock的初始化工作已经基本完成了,主要是记录系统内存的使用情况:
memory region记录系统了所有可用的动态内存;
reserved region记录了系统预留内存,这部分内存通常由CMA管理,也属于动态内存范畴;
reserved_mem数组则记录系统所有预留内存,包括”no-map”属性的内存区,为后续进一步初
始化工作做准备。
5. 初始化预留内存区
内存向来是系统的宝贵资源,预留内存如果仅做为子系统的专用内存,就有点浪费了。
Linux内核引入CMA(Contiguous Memory Allocator,连续内存分配器)。
其工作原理是:为驱动预留一段内存,当驱动不用时,Memory Allocator(Buddy System)
可以分配给用户进程使用;而当驱动需要使用时,就将进程占用的内存通过回收或者迁移的方式
腾出来,供驱动使用。
但是并不是所有的预留内存都由CMA管理,像Modem,TA等永久分配给其它核心使用的内
存空间,内核并不为这部分空间建立内存映射,而是交由DMA管理。
通过上面的分析,我们看到所有预留内存信息都记录在reserved_mem数组,下面先看看该结
构体的定义:
reserved-memory子节点包含预留内存属性,典型定义如下:
“reg”和”no-map”属性前面介绍过,详细可以参考reserved-memory.txt,”compatible”属性使用
标准定义,内核注册两种不同的处理方法:
“removed-dma-pool”表示该内存区位于DMA管理区,内核不可见(没有页表)。
“shared-dma-pool”表示该内存区位于CMA管理区,平时是可用的,只有需要时才分配给驱动
使用。
如果没有”reg”属性,即没有指定预留内存的起始地址,则需要由系统分配预留内存,然后初
始化reserved_mem的ops成员:
以”shared-dma-pool”为例,它的初始化函数如下:
更多精彩攻略访问gl.baidu.com 3
此处为”shared-dma-pool”类型的内存注册操作方法,cma_init_reserved_mem初始
化cma_area(CMA管理区)。
reserved_mem的ops成员包括init和release两个操作方法:
驱动注册预留内存区时调用device_init方法,为设备指定预留内存操作方法(DMA)或预留内存
区域(CMA),这些方法包括预留内存的申请,释放和mmap等。
6. 连续内存分配器(CMA)
CMA的初始化必须在buddy系统工作之前和memblock分配器初始化完成之后。 在ARM中,
初始化CMA的接口是:
@limit: 指定CMA区域的上限,在64位系统上@limit的值通常是0x100000000。
以命令行参数”cma=32M@0-0xfffffff”为例: size_cmdline = 32M, base_cmdline = 0x0,
limit_cmdline = 0xffffffff 。
计算好CMA的size等值以后就进入cma_declare_contiguous中:
dma_contiguous_default_are是用户自定义CMA管理区,定义如下:
下面进入cma_init_reserved_mem初始化用户自定义CMA管理区:
以上只是将CMA区域预留下来,并记录到相关数组,进一步初始化和使用需要等slab等子系
统初始化完成后了。
CMA并不直接开放给驱动开发人员,在注册设备时可以使用”memory-region”属性指定要操作
的内存区域,需要分配DMA内存时,调用DMA相关函数就可以了。
例如dma_alloc_coherent(),最终DMA相关的分配函数会到达CMA的分配函
数dma_alloc_from_contiguous()。
7. 进阶阅读
memblock和bootmem的区别CMA(连续内存分配器)Contiguous Memory Allocator (CMA)
源码分析Linux内核最新连续内存分配器(CMA) — 避免预留大块内存内存管理笔记(CMA)
更多精彩攻略访问gl.baidu.com 4