文件系统深度理解之inode解读

时间:2022-11-11 05:14:15

一、问题:
  在一台Linux服务器的/data分区内创建文件时,系统提示磁盘空间不足,用df -h命令查看了一下磁盘使用情况,发现/data分区只使用了66%,还有12G的剩余空间。
  
二、分析问题:
  用df -i查看了一下/data分区的索引节点(inode),发现已经用满(IUsed=100%),导致系统无法创建新目录和文件。inode译成中文就是索引节点,每个存储设备(例如硬盘)或存储设备的分区被格式化为文件系统后,应该有两部份,一部份是inode,另一部份是Block,Block是用来存储数据用的。而inode呢,就是用来存储这些数据的信息,这些信息包括文件大小、属主、归属的用户组、读写权限等。inode为每个文件进行信息索引,所以就有了inode的数值。操作系统根据指令,能通过inode值最快的找到相对应的文件。
  而这台服务器的Block虽然还有剩余,但inode已经用满,因此在创建新目录或文件时,系统提示磁盘空间不足。
  
 文件系统深度理解之inode解读

三、原因:
  /data/cache目录中存在数量非常多的小字节缓存文件,占用的Block不多,但是占用了大量的inode。
  
四、解决方案:
  1、删除/data/cache目录中的部分文件,释放出/data分区的一部分inode。
  2、用软连接将空闲分区/opt中的newcache目录连接到/data/cache,使用/opt分区的inode来缓解/data分区inode不足的问题:
  ln -s /opt/newcache /data/cache
  3、增加空间

一、inode
硬盘的最小存储单位叫做”扇区”(Sector)。每个扇区储存512字节(相当于0.5KB)。操作系统读取硬盘的时候,不会一个个扇区地读取,这样效率太低,而是一次性读取一个”块”(block),每个”块”(block)由八个连续的sector组成。这种由多个扇区组成的”块”,是文件存取的最小单位。”块”的大小,最常见的是4KB,文件数据都储存在”块”中,那么还必须找到一个地方储存文件的元信息,比如文件的创建者、文件的创建日期、文件的大小等等。这种储存文件元信息的区域就叫做inode,中文译名为”索引节点”。每一个文件都有对应的inode,里面包含了与该文件有关的一些信息。

二、inode的内容
inode包含文件的元信息,具体有以下内容:
  * 文件的字节数
  * 文件拥有者的User ID
  * 文件的Group ID
  * 文件的读、写、执行权限
  * 文件的时间戳,共有三个:ctime指inode上一次变动的时间,mtime指文件内容上一次变动的时间,atime指文件上一次打开的时间。
  * 链接数,即有多少文件名指向这个inode
  * 文件数据block的位置
可以用stat命令查看某个文件的inode信息:

[root@Zabbix_server home]# stat zabbix/
File: `zabbix/'
Size: 4096 Blocks: 8 IO Block: 4096 directory
Device: 803h/2051d Inode: 130647 Links: 4
Access: (0700/drwx------) Uid: ( 500/ zabbix) Gid: ( 500/ zabbix)
Access: 2014-08-12 10:46:02.810999643 +0800
Modify: 2014-07-23 07:19:01.146989703 +0800
Change: 2014-07-23 07:19:01.146989703 +0800

除了文件名以外的所有文件信息,都存在inode之中。(为什么没有文件名,继续看下文)

三、inode的大小
概念:
inode也会消耗硬盘空间,所以硬盘格式化的时候,操作系统自动将硬盘分成两个区域。一个是数据区,存放文件数据;另一个是inode区(inode table),存放inode所包含的信息。
每个inode节点的大小,一般是128字节或256字节。inode节点的总数,在格式化时就给定,一般是每1KB或每2KB就设置一个inode。假定在一块1GB的硬盘中,每个inode节点的大小为128字节,每1KB就设置一个inode,那么inode table的大小就会达到128MB,占整块硬盘的12.8%。
使用df -i可以查看每个硬盘分区的inode总数和已经使用的数量

[root@Zabbix_server ~]# df -i
Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/sda3 1166880 103467 1063413 9% /
tmpfs 128806 4 128802 1% /dev/shm
/dev/sda1 51200 38 51162 1% /boot
/dev/sr0 0 0 0 - /media/RHEL_6.5 i386 Disc 1
[root@Zabbix_server ~]#

查看每个inod

[root@Zabbix_server ~]# dumpe2fs /dev/sda3 | grep -i "inode size"
dumpe2fs 1.41.12 (17-May-2010)
Inode size: 256

默认未加入PATH中,需要手动加入

[root@Zabbix_server ~]# export PATH=/sbin/dumpe2fs:$PATH
[root@Zabbix_server ~]# echo $PATH
/sbin/dumpe2fs:/home/script:/usr/lib/qt-3.3/bin:/usr/local/sbin:/usr/local/bin:/bin:/usr/sbin:/usr/bin:/home:/root/bin
[root@Zabbix_server ~]#

由于每个文件都必须有一个inode,因此有可能发生inode已经用光,但是硬盘还未存满的情况。这时,就无法在硬盘上创建新文件,出现上面的实例情形。
inode大小调整:
一般来讲,一个文件将占用1~2个inode值。如果磁盘中主要为小文件,可以适当的增加inode值。 如果大文件居多,可以适量减少inode空间,可以使用 mkfs来调整inode数值。
具体方法&案例

[root@localhost ~]# df -i /dev/sdb5
Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/sdb5 327680 11 327669 1% /data
[root@localhost ~]#

将sdb5的inods值增加到350000(当前为327680),我的系统是rhel6.5,调整inode会格式化整个分区,分区将被删除,修改inode之后,uuid会被修改。因此,/etc/fstab文件也需要作相应调整,最好先将该文件cp备份一下

[root@localhost ~]# umount /data/    
[root@localhost ~]# mkfs.ext4 -N 350000 /dev/sdb5 ;-N 指定要建立的inode数目。
mke2fs 1.41.12 (17-May-2010)
Filesystem label=
OS type: Linux
Block size=4096 (log=2)
Fragment size=4096 (log=2)
Stride=0 blocks, Stripe width=0 blocks
350080 inodes, 1309281 blocks
65464 blocks (5.00%) reserved for the super user
First data block=0
Maximum filesystem blocks=1342177280
40 block groups
32768 blocks per group, 32768 fragments per group
8752 inodes per group
Superblock backups stored on blocks:
32768, 98304, 163840, 229376, 294912, 819200, 884736

Writing inode tables: done
Creating journal (32768 blocks): done
Writing superblocks and filesystem accounting information: done

This filesystem will be automatically checked every 27 mounts or
180 days, whichever comes first. Use tune2fs -c or -i to override.
[root@localhost ~]# tune2fs -j /dev/sdb5 ;tune2fs用来调整和查看ext2/ext3/ext4)文件系统的文件系统参数,-j 将ext2文件系统转换为ext4类型的文件系统
tune2fs 1.41.12 (17-May-2010)
The filesystem already has a journal.
[root@localhost ~]# vim /etc/fstab
#UUID=da86355c-7184-4c3a-8b3e-59429a9087eb /data ext4 defaults 0 0 ;开始的UUID
UUID=a03a11a1-bac2-4cf4-ac97-b710f78c0a84 /data ext4 defaults 0 0
[root@localhost ~]# mount -a
[root@localhost ~]# df -i /dev/sdb5
Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/sdb5 350080 11 350069 1% /data
[root@localhost ~]#

四、inode号码
每个inode都有一个号码,Unix/Linux系统内部不使用文件名,而使用inode号码来识别文件。对于系统来说,文件名只是inode号码便于识别的别称或者绰号。表面上,用户通过文件名,打开文件。实际上,系统内部这个过程分成三步:首先,系统找到这个文件名对应的inode号码;其次,通过inode号码,获取inode信息;最后,根据inode信息,找到文件数据所在的block,读出数据。
使用ls -i命令,可以看到文件名对应的inode号码:

[root@Zabbix_server zabbix]# ls -i indoe.txt 
130698 indoe.txt
[root@Zabbix_server zabbix]#

五、目录文件
Unix/Linux系统中,目录(directory)也是一种文件。打开目录,实际上就是打开目录文件。
目录文件的结构非常简单,就是一系列目录项(dirent)的列表。每个目录项,由两部分组成:所包含文件的文件名,以及该文件名对应的inode号码。
ls命令只列出目录文件中的所有文件名,ls -i命令列出整个目录文件,即文件名和inode号码:

[root@Zabbix_server home]# ls ./zabbix/
indoe.txt
[root@Zabbix_server home]# ls ./zabbix/ -i
130698 indoe.txt
[root@Zabbix_server home]#

如果要查看文件的详细信息,就必须根据inode号码,访问inode节点,读取信息。ls -l命令列出文件的详细信息。

[root@Zabbix_server home]# ll ./zabbix/
total 0
-rw-r--r-- 1 root root 0 Aug 13 15:02 indoe.txt
[root@Zabbix_server home]#

综上,目录文件的读权限(r)和写权限(w),都是针对目录文件本身。由于目录文件内只有文件名和inode号码,所以如果只有读权限,只能获取文件名,无法获取其他信息,因为其他信息都储存在inode节点中,而读取inode节点内的信息需要目录文件的执行权限(x)。

六、硬链接
一般情况下,文件名和inode号码是”一一对应”关系,每个inode号码对应一个文件名。但是,Unix/Linux系统允许,多个文件名指向同一个inode号码。
这意味着,可以用不同的文件名访问同样的内容;对文件内容进行修改,会影响到所有文件名;但是,删除一个文件名,不影响另一个文件名的访问。这种情况就被称为”硬链接”(hard link)。
ln命令可以创建硬链接:ln 源文件 目标文件

[root@Zabbix_server ~]# cat /home/zabbix/indoe.txt 
hard link
[root@Zabbix_server ~]# ll -i !$
ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ln !$ indoehl.txt
ln /home/zabbix/indoe.txt indoehl.txt
[root@Zabbix_server ~]# cat indoehl.txt
hard link
[root@Zabbix_server ~]# ll -i indoehl.txt
130698 -rw-r--r-- 2 root root 10 Aug 13 15:21 indoehl.txt
[root@Zabbix_server ~]# ll /home/zabbix/indoe.txt
-rw-r--r-- 2 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 2 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# rm -f indoehl.txt
[root@Zabbix_server ~]# ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]#

硬链接源文件与目标文件的inode号码相同,都指向同一个inode。inode信息中有一项叫做”链接数”,记录指向该inode的文件名总数,这时就会增加1。
反过来,删除一个文件名,就会使得inode节点中的”链接数”减1。当这个值减到0,表明没有文件名指向这个inode,系统就会回收这个inode号码,以及其所对应block区域。
创建目录时,默认会生成两个目录项:”.”和”..”。前者的inode号码就是当前目录的inode号码,等同于当前目录的”硬链接”;后者的inode号码就是当前目录的父目录的inode号码,等同于父目录的”硬链接”。所以,任何一个目录的”硬链接”总数,总是等于2加上它的子目录总数(含隐藏目录)。

七、软链接
文件A和文件B的inode号码虽然不一样,但是文件A的内容是文件B的路径。读取文件A时,系统会自动将访问者导向文件B。因此,无论打开哪一个文件,最终读取的都是文件B。这时,文件A就称为文件B的”软链接”(soft link)或者”符号链接(symbolic link)。
这意味着,文件A依赖于文件B而存在,如果删除了文件B,打开文件A就会报错:”No such file or directory”。这是软链接与硬链接最大的不同:文件A指向文件B的文件名,而不是文件B的inode号码,文件B的inode”链接数”不会因此发生变化。
ln -s命令可以创建软链接:ln -s 源文文件或目录 目标文件或目录

[root@Zabbix_server ~]# cat /home/zabbix/indoe.txt 
soft link
[root@Zabbix_server ~]# ll -i !$
ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:35 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ln -s !$ indoesl.txt
ln -s /home/zabbix/indoe.txt indoesl.txt
[root@Zabbix_server ~]# ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:35 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ll -i indoesl.txt
922388 lrwxrwxrwx 1 root root 22 Aug 13 15:36 indoesl.txt -> /home/zabbix/indoe.txt
[root@Zabbix_server ~]# cat indoesl.txt
soft link
[root@Zabbix_server ~]# rm -f /home/zabbix/indoe.txt
[root@Zabbix_server ~]# cat indoesl.txt
cat: indoesl.txt: No such file or directory
[root@Zabbix_server ~]#

八、inode的特殊作用
由于inode号码与文件名分离,这种机制导致了一些Unix/Linux系统特有的现象。
  1. 有时,文件名包含特殊字符,无法正常删除。这时,直接删除inode节点,就能起到删除文件的作用。
  2. 移动文件或重命名文件,只是改变文件名,不影响inode号码。
  3. 打开一个文件以后,系统就以inode号码来识别这个文件,不再考虑文件名。因此,通常来说,系统无法从inode号码得知文件名。
扩展:
一般inode使用完是系统中创建了大量的小文件导致,例如日志文件,只是后我们可以到日志文件目录下去删除行不用的日志文件
如果启动了crond作业,系统中的邮件服务有没开启,由于linux在执行cron时,会将cron执行脚本中的output和warning信息,都会以邮件的形式发送Cron所有者, 而由于客户环境中的sendmail和postfix没有正常运行,导致邮件发送不成功,全部小文件堆积在了/var/spool/postfix/maildrop目录下面,如果sendmail或者postfix正常运行,则会在/var/mail目录下产生大量的邮件,也会堆积。在cron的第一行加入 MAILTO=”“便可,这样执行当前用户的Cron时,不会发送邮件。

[root@localhost maildrop]# ll|wc -l
554744
[root@localhost maildrop]# rm -rf *
[root@localhost maildrop]# ls|xargs rm -rf
[root@localhost maildrop]# vim /etc/crontab

SHELL=/bin/bash
PATH=/sbin:/bin:/usr/sbin:/usr/bin
#MAILTO=root
MAILTO=" "
HOME=/
[root@localhost maildrop]# service crond restart

如果无法确定位置可以通过逐层目录查找来定位

[root@localhost backup]# for i in /*; do echo -n -e "$i\t"; find $i | wc -l; done