注:本分类下文章大多整理自《深入分析linux内核源代码》一书,另有参考其他一些资料如《linux内核完全剖析》、《linux c 编程一站式学习》等,只是为了更好地理清系统编程和网络编程中的一些概念性问题,并没有深入地阅读分析源码,我也是草草翻过这本书,请有兴趣的朋友自己参考相关资料。此书出版较早,分析的版本为2.4.16,故出现的一些概念可能跟最新版本内核不同。
此书已经开源,阅读地址 http://www.kerneltravel.net
一、Ext2 文件系统
Block
),一个块究竟多大是在格式化时确定的,例如
mke2fs
的
-b
选项可以设定块大小为
1024
、
2048
或
4096
字节。而上图中启动块(
Boot Block
)的大小是确定的,就是
1KB
,启动块是由
PC
标准规定的,用来存储磁盘分区信息和启动信息,任何文件系统都不能使用启动块。启动块之后才是
ext2
文件系统的开始,
ext2
文件系统将整个分区划成若干个同样大小的块组(
Block Group
),每个块组都由以下部分组成。
Super Block
)
描述整个分区的文件系统信息,例如块大小、文件系统版本号、上次
mount
的时间等等。超级块在每个块组的开头都有一份拷贝。
GDT
,
Group Descriptor Table
)
由很多块组描述符组成,整个分区分成多少个块组就对应有多少个块组描述符。每个块组描述符(
Group Descriptor
)存储一个块组的描述信息,例如在这个块组中从哪里开始是
inode
表,从哪里开始是数据块,空闲的
inode
和数据块还有多少个等等。和超级块类似,块组描述符表在每个块组的开头也都有一份拷贝,这些信息是非常重要的,一旦超级块意外损坏就会丢失整个分区的数据,一旦块组描述符意外损坏就会丢失整个块组的数据,因此它们都有多份拷贝。通常内核只用到第
0
个块组中的拷贝,当执行
e2fsck
检查文件系统一致性时,第
0
个块组中的超级块和块组描述符表就会拷贝到其它块组,这样当第
0
个块组的开头意
外损坏时就可以用其它拷贝来恢复,从而减少损失。
Block Bitmap
)
一个块组中的块是这样利用的:数据块存储所有文件的数据,比如某个分区的块大小是
1024
字节,某个文件是
2049
字节,那么就需要三个数据块来存,即使第三个块只存了一个字节也需要占用一个整块;超级块、块组描述符表、块位图、
inode
位图、
inode
表这几部分存储该块组的描述信息。那么如何知道哪些块已经用来存储文件数据或其它描述信息,哪些块仍然空闲可用呢?块位图就是用来描述整个块组中哪些块已用哪些块空闲的,它本身占一个块,其中的每个
bit
代表本块组中的一个块,这个
bit
为
1
表示该块已用,这个
bit
为
0
表示该块空闲可用。
为什么用
df
命令统计整个磁盘的已用空间非常快呢?因为只需要查看每个块组的块位图即可,而不需要搜遍整个分区。相反,用
du
命令查看一个较大目录的已用空间就非常慢,因为不可避免地要搜遍整个目录的所有文件。
与此相联系的另一个问题是:在格式化一个分区时究竟会划出多少个块组呢?主要的限制在于块位图本身必须只占一个块。用
mke2fs
格式化时默认块大小是
1024
字节,可以用
-b
参数指定块大小,现在设块大小指定为
b
字节,那么一个块可以有
8b
个
bit
,这样大小的一个块位图就可以表示
8b
个块的占用情况,因此一个块组最多可以有
8b
个块,如果整个分区有
s
个块,那么就可以有
s/(8b)
个块组。格式化时可以用
-g
参数指定一个块组有多少个块,但是通常不需要手动指定,
mke2fs
工具会计算出最优的数值。
位图(
inode Bitmap
)
和块位图类似,本身占一个块,其中每个
bit
表示一个
inode
是否空闲可用。
表(
inode Table
)
我们知道,一个文件除了数据需要存储之外,一些描述信息也需要存储,例如文件类型(常规、目录、符号链接等),权限,文件大小,创建
/
修改
/
访问时间等,也就是
ls -l
命令看到的那些信息,这些信息存在
inode
中而不是数据块中。每个文件都有一个
inode
,一个块组中的所有
inode
组成了
inode
表。
inode
表占多少个块在格式化时就要决定并写入块组描述符中,
mke2fs
格式化工具的默认策略是一个块组有多少个
8KB
就分配多少个
inode
。由于数据块占了整个块组的绝大部分,也可以近似认为数据块有多少个
8KB
就分配多少个
inode
,换句话说,如果平均每个文件的大小是
8KB
,当分区存满的时候
inode
表会得到比较充分的利用,数据块也不浪费。如果这个分区存的都是很大的文件(比如电影),则数据块用完的时候
inode
会有一些浪费,如果这个分区存的都是很小的文件(比如源代码),则有可能数据块还没用完
inode
就已经用完了,数据块可能有很大的浪费。如果用户在格式化时能够对这个分区以后要存储的文件大小做一个预测,也可以用
mke2fs
的
-i
参数手动指定每多少个字节分配一个
inode
。
Data Block
)
根据不同的文件类型有以下几种情况:
对于常规文件,文件的数据存储在数据块中。
对于目录,该目录下的所有文件名和目录名存储在数据块中,注意文件名保存在它所在目录的数据块中,除文件名之外,
ls -l
命令看到的其它信息都保存在该文件
的
inode
中。注意这个概念:目录也是一种文件,是一种特殊类型的文件。
对于符号链接,如果目标路径名较短则直接保存在
inode
中以便更快地查找,如果目标路径名较长则分配一个数据块来保存。
设备文件、
FIFO
和
socket
等特殊文件没有数据块,即文件大小为0,设备文件的主设备号和次设备号保存在
inode
中。
(二)、数据块寻址
事实上,每个文件的inode的索引项一共有
15
个,从
Blocks[0]
到
Blocks[14]
,每个索引项占
4
字节。前
12
个索引项都表示块编号,例如若
Blocks[0]
字段保存着
24
,就表示第
24
个块是该文件的数据块,如果块大小是
1KB
,这样可以表示从
0
字节到
12KB
的文件。如果剩下的三个索引项
Blocks[12]
到
Blocks[14]
也是这么用的,就只能表示最大
15KB
的文件了,这是远远不够的,事实上,剩下的三个索引项都是间接索引。
Blocks[12]
所指向的块并非数据块,而是称为间接寻址块(
Indirect Block
),其中存放的都是类似
Blocks[0]
这种索引项,再由索引项指向数据块。设块大小是
b
,那么一个间接寻址块中可以存放
b/4
个索引项,指向
b/4
个数据块。所以如果把
Blocks[0]
到
Blocks[12]
都用上,最多可以表示
b/4+12
个数据块,对于块大小是
1K
的情况,最大可表示
268K
的文件。如下图所示,注意文件的数据块编号是从
0
开始的,
Blocks[0]
指向第
0
个数据块,
Blocks[11]
指向第
11
个数据块,
Blocks[12]
所指向的间接寻址块的第一个索引项指向第
12
个数据块,依此类推。
Blocks[13]
指向两级的间接寻址块,总共最多可表示
(b/4)^2
+b/4+12
个数据块,对于
1K
的块大小最大可表示
64.26MB
的文件。索引项
Blocks[14]
指向三级的间接寻址块,总共最多可表示
(b/4)^3
+(b/4)^
2
+b/4+12
个数据块,对于
1K
的块大小最大可表示
16.06GB
的文件。
12
个数据块的小文件是非常快的,访问文件中的任意数据只需要两次读盘操作,一次读
inode
(也就是读索引项)一次读数据块。而访问大文件中的数据则需要最多五次读盘操作:
inode
、一级间接寻址块、二级间接寻址块、三级间接寻址块、数据块。实际上,磁盘中的
inode(索引节点高速缓存)
和数据块(块高速缓存)往往已经被内核缓存了,读大文件的效率也不会太低。
支持各种各样的文件系统格式,如
ext2
、
ext3
、
reiserfs
、
FAT
、
NTFS
、
iso9660
等等,不同的磁盘分区、光盘或其它存储设备都有不同的文件系统格式,然而这些文件系统都可以
mount
到某个目录下,使我们看到一个统一的目录树,各种文件系统上的目录和文件我们用
ls
命令看起来是一样的,读写操作用起来也都是一样的,这是怎么做到的呢?
Linux
内核在各种不同的文件系统格式之上做了一个抽象层,使得文件、目录、读写访问等概念成为抽象层的概念,因此各种文件系统看起来用起来都一样,这个抽象层称为虚拟文件系统(
VFS
,
Virtual Filesystem
)。
。不过,在某些情
况下,一个文件操作可能由VFS 本身去执行,无需调用下一层程序。例如,当某个进程关闭
一个打开的文件时,并不需要涉及磁盘上的相应文件,因此,VFS 只需释放对应的文件对象。
类似地,如果系统调用lseek()修改一个文件指针,而这个文件指针指向有关打开的文件与
进程交互的一个属性,那么VFS 只需修改对应的文件对象,而不必访问磁盘上的文件,因此,
无需调用具体的文件系统子程序。从某种意义上说,可以把VFS 看成“通用”文件系统,它
在必要时依赖某种具体的文件系统。
PCB
(
Process Control Block
)中都保存着一个指向文件描述符表的指针(struct files_struct* files),文件描述符就是这个表的索引,每个表项都有一个指向已打开文件的指针,现在我们明确一下:已打开的文件在内核中用
file
结构体表示,文件描述符表中的指针指向
file
结构体。
file
结构体中维护
File Status Flag
(
file
结构体的成员
f_flags
)和当前读写位置(
file
结构体的成员
f_pos
)。在上图中,进程
1
和进程
2
都打开同一文件,但是对应不同的
file
结构体,因此可以有不同的
File Status Flag
和读写位置。
file
结构体中比较重要的成员还有
f_count
,表示引用计数(
Reference Count
),
dup
、
fork
等系统调用会导致多个文件描述符指向同一个
file
结构体,例如有
fd1
和
fd2
都引用同一个
file
结构体,那么它的引用计数就是
2
,当
close(fd1)
时并不会释放
file
结构体,而只是把引用计数减到
1
,如果再
close(fd2)
,引用计数就会减到
0
同时释放
file
结构体,这才真的关闭了文件。
file
结构体都指向一个
file_operations
结构体,这个结构体的成员都是函数指针,指向实现各种文件操作的内核函数。比如在用户程序中
read
一个文件描述符,
read
通过系统调用进入内核,然后找到这个文件描述符所指向的
file
结构体,找到
file
结构体所指向的
file_operations
结构体,调用它的
read
成员所指向的内核函数以完成用户请求。在用户程序中调
用
、
read
、
write
、
ioctl
、
open
等函数,最终都由内核调用
file_operations
的各成员所指向的内核函数完成用户请求。
file_operations
结构体中的
release
成员用于完成用户程序的
close
请求,之所以叫
release
而不叫
close
是因为它不一定真的关闭文件,而是减少引用计数,只有引用计数减到
0
才关闭文件。对于同一个文件系统上打开的常规文件来说,
read
、
write
等文件操作的步骤和方法应该是一样的,调用的函数应该是相同的,所以图中的三个打开文件的
file
结构体指向同一个
file_operations
结构体。如果打开一个字符设备文件,那么它的
read
、
write
操作肯定和常规文件不一样,不是读写磁盘的数据块而是读写硬件设备,所以
file
结构体应该指向不同的
file_operations
结构体,其中的各种文件操作函数由该设备的驱动程序实现。
file
结构体都有一个指向
dentry
结构体的指针,
“dentry”
是
directory entry
(目录项)的缩写。我们传给
open
、
stat
等函数的参数的是一个路径,例如
/home/akaedu/a
,需要根据路径找到文件的
inode
。为了减少读盘次数,内核缓存了目录的树状结构,称为
dentry cache(目录高速缓存)
,其中每个节点是一个
dentry
结构体,只要沿着路径各部分的
dentry
搜索即可,从根目录
/
找到
home
目录,然后找到
akaedu
目录,然后找到文件
a
。
dentry cache
只保存最近访问过的目录项,如果要找的目录项在
cache
中没有,就要从磁盘读到内存中。
dentry
结构体都有一个指针指向
inode
结构体。
inode
结构体保存着从磁盘
inode
读上来的信息。在上图的例子中,有两个
dentry
,分别表示
/home/akaedu/a
和
/home/akaedu/b
,它们都指向同一个
inode
,说明这两个文件互为硬链接。
inode
结构体中保存着从磁盘分区的
inode
读上来信息,例如所有者、文件大小、文件类型和权限位等。每个
inode
结构体都有一个指向
inode_operations
结构体的指针,后者也是一组函数指针指向一些完成文件目录操作的内核函数。和
file_operations
不同,
inode_operations
所指向的不是针对某一个文件进行操作的函数,而是影响文件和目录布局的函数,例如添加删除文件和目录、跟踪符号链接等等,属于同一文件系统的各
inode
结构体可以指向同一个
inode_operations
结构体。
结构体有一个指向
super_block
结构体的指针。
super_block
结构体保存着从磁盘分区的超级块读上来的信息,例如文件系统类型、块大小等。
super_block
结构体的
s_root
成员是一个指向
dentry
的指针,表示这个文件系统的根目录被
mount
到哪里,在上图的例子中这个分区被
mount
到
/home
目录下。
、
dentry
、
inode
、
super_block
这几个结构体组成了
VFS
的核心概念。对于
ext2
文件系统来说,在磁盘存储布局上也有
inode
和超级块的概念,所以很容易和
VFS
中的概念建立对应关系。而另外一些文件系统格式来自非
UNIX
系统(例如
Windows
的
FAT32
、
NTFS
),可能没有
inode
或超级块这样的概念,但为了能
mount
到
Linux
系统,也只好在驱动程序中硬凑一下,在
Linux
下看
FAT32
和
NTFS
分区会发现权限位是错的,所有文件都是
rwxrwxrwx
,因为它们本来就没有
inode
和权限位的概念,这是硬凑出来的。
Ext2文件系统布局,文件数据块寻址,VFS虚拟文件系统的更多相关文章
-
时序数据库 Apache-IoTDB 源码解析之文件数据块(四)
上一章聊到行式存储.列式存储的基本概念,并介绍了 TsFile 是如何存储数据以及基本概念.详情请见: 时序数据库 Apache-IoTDB 源码解析之文件格式简介(三) 打一波广告,欢迎大家访问Io ...
-
存储系列之 VFS虚拟文件系统简介
引言:文件系统发展到一定阶段,开始进一步抽象和分层. 前面我们介绍了ext系列文件系统和xfs文件系统,这些是Linux使用最多的文件系统,也是很多发布版本默认选择的文件系统.而事实上,Linux ...
-
分布式文件系统 之 数据块(Block)
众所周知,HDFS中以数据块(block)为单位进行存储管理.本文简单介绍一下HDFS中数据块(block)的概念,以及众多分布式存储系统(不止是HDFS)使用block作为存储管理基本单位的意义. ...
-
linux文件系统体系结构 和 虚拟文件系统(VFS)
图 1. Linux 文件系统组件的体系结构 用户空间包含一些应用程序(例如,文件系统的使用者)和 GNU C 库(glibc),它们为文件系统调用(打开.读取.写和关闭)提供用户接口.系统调用接口的 ...
-
ext2磁盘布局
概述 本篇博客主要关注ext2文件系统的磁盘布局,即ext2会在格式化时将磁盘划分成什么样子. ext2磁盘布局 任何Ext2分区中的第一个块从不受Ext2文件系统的管理, ...
-
ext4文件系统由文件的inode号定位其inode Table
在ubuntu中(以16.06为例),stat filename 可以查看文件的inode数值,但是如何确定该inode项具体在哪个块组下的inode Table中不是那么容易,接下来通过一步步计算来 ...
-
Linux的文件系统及文件缓存知识点整理
Linux的文件系统 文件系统的特点 文件系统要有严格的组织形式,使得文件能够以块为单位进行存储. 文件系统中也要有索引区,用来方便查找一个文件分成的多个块都存放在了什么位置. 如果文件系统中有的文件 ...
-
Hadoop第三天---分布式文件系统HDFS(大数据存储实战)
1.开机启动Hadoop,输入命令: 检查相关进程的启动情况: 2.对Hadoop集群做一个测试: 可以看到新建的test1.txt和test2.txt已经成功地拷贝到节点上(伪分布式只有一个节 ...
-
Hadoop hbase集群断电数据块被破坏无法启动
集群机器意外断电重启,导致hbase 无法正常启动,抛出reflect invocation异常,可能是正在执行的插入或合并等操作进行到一半时中断,导致部分数据文件不完整格式不正确或在hdfs上blo ...
随机推荐
-
Atitit.软件与编程语言中的锁机制原理attilax总结
Atitit.软件与编程语言中的锁机制原理attilax总结 1. 用途 (Db,业务数据加锁,并发操作加锁.1 2. 锁得类型 排它锁 "互斥锁 共享锁 乐观锁与悲观锁1 2.1. 自旋锁 ...
-
把strassen乘法调出来了...
完美... 指针搞死我了 /// /// Author: zball /// No rights reserved /// (Creative Commons CC0) /// #include &l ...
-
Java基础之读文件——使用通道读取混合数据2(ReadPrimesMixedData2)
控制台程序,本例读取Java基础之写文件部分(PrimesToFile2)写入的Primes.txt. 方法二:设置一个任意容量的.大小合适的字节缓冲区并且使用来自文件的字节进行填充.然后整理出缓冲区 ...
-
hbase 停止regionserver
每个regionserver节点可以*启动或停止,可以不随hbase整体一起. 停止后regionserver上的数据会被移到其他regionserver上,不影响hbase的使用. 停止reg ...
-
Const和readonly这间的区别和相同处
相同: const和readonly都是用来修饰常量的 不同: const 在申明之前就要对它初始化,readonly修饰的常量则可以到构造函数中初始化 const注重的是效率但是readonly注 ...
-
paip.svn使用最佳实践
paip.svn使用最佳实践 作者Attilax , EMAIL:1466519819@qq.com 来源:attilax的专栏 地址:http://blog.csdn.net/attilax 1 ...
-
精通CSS+DIV基础总结(一)
这段时间学习了玩了DIV+CSS的视频,感觉效率不高.前边的Javascript总结的不好,但是看了后边的JQuery,觉得学习的再多一点,再进行Javascript的总结.DIV+CSS总结,估计会 ...
-
OS调度算法常用摘要
一.常见的批处理作业调度 1.先来先服务调度算法(FCFS):就是依照各个作业进入系统的自然次序来调度作业.这样的调度算法的长处是实现简单,公平. 其缺点是没有考虑到系统中各种资源的综合使用情况,往往 ...
-
less的基本操作
less的四大特性及示例 1.特性一(变量) less写法 @color:#ffffff: body{background-color:@color:} 生成的css body{background- ...
-
HDU--2024
C语言合法标识符 Time Limit: 2000/1000 MS (Java/Others) Memory Limit: 65536/32768 K (Java/Others) Total S ...