深入理解Linux文件系统与日志分析

一、inode和block概述

文件数据包括元信息与实际数据

元数据存在inode

实际数据存在block

文件存储在硬盘上，硬盘最小存储单位是“扇区”，每个扇区存储512字节

block（块）

一般连续八个扇区组成一个"块"（block），一个块是4K大小，是文件存取的最小单位。

操作系统读取硬盘的时候，是一次性连续读取多个文件数据包括实际数据与元信息（类似文件属性）。

文件数据存储在“块”中，存储文件元信息（比如文件的创建者、创建日期、文件大小、文件权限等）的区域就叫做inode。

因此，一个文件必须占用一个inode，并且至少占用一个block。

inode（索引节点）

inode中文译名为“索引节点”，也叫“i”节点

inode不包含文件名。

文件名是存放在目录当中的。

Linux系统中一切皆文件，因此目录也是一种文件。

每个inode都有一个号码，操作系统用inode号码来识别不同的文件。

Linux系统内部不适用文件名，而使用inode号码来识别文件。对于系统来说，文件名知识inode号码便于识别的别称，文件名和inode号码是一一对应关系，每个inode号码对应一个文件名。

所以，当用户在Linux系统中视图访问一个文件时，系统会先根据文件名去查找对应的inode号码，通告inode号码获取inode信息，根据inode信息，看该用户是否具有访问这个文件的权限，如果有，就指向相对应的数据block，并读取数据。

二、inode的号码

用户通过文件名打开文件时，系统内部的过程

①系统找到这个文件名对应的inode号码。

②通过inode号码，获取inode信息。

③根据inode信息，找到文件数据所在的block，读出数据。

查看文件名称的inode号码有两种方式：

查看文件名对应的inode号码

ls -l 文件名

查看文件inode信息中的inode号码

stat 文件名

三、Linux系统文件三个主要的时间属性

atime（accesstime）：

当使用这个文件的时候就会更新这个时间。

mtime（modifcation time）：

当修改文件内容数据的时候，就会更新这个时间，而更改权限或者属性，mtime不会改变，这就是和ctime的区别。

ctime（status time）：

当修改文件的权限或者属性的时候，就会更新这个时间，ctime并不是create time，更像是change time。

只有当更新文件的属性或者权限的时候才会更新这个时间，但是更改内容的话是不会更新这个时间。

inode的大小

inode也会消耗硬盘空间，所以格式化的时候，操作系统自动将硬盘分成两个区域。

一个是数据区，存放文件数据；另一个是inode区，存放inode所包含的信息。

每个inode的大小一般是128字节或256字节。

通常情况下不需要关注单个inode的大小，而是需要重点关注inode总数。inode的总数在格式化时就给定了，执行 df -i 命令即可查看每个硬盘分区对应的inode总数和已经使用的inode数量。

inode的特殊作用

由于inode号码与文件名分离，导致Linux系统具备以下几种特有现象：

①文件名包含特殊字符，可能无法正常删除，这时直接删除inode，能够起到删除文件的作用。

②移动文件或重命名文件，只是改变文件名，不影响inode号码。

③打开一个文件以后，系统就以inode号码来识别这个文件，不再考虑文件名。

④文件数据被修改保存后，会生成一个新的inode号码。

删除文件inode号码的几种方法：

find ./ -inum 67357281 -exec rm -rf  {} \；
或
find ./ inum 67357281 -delete
或
find ./ inum 67357281 | xargs rm -rf

例：

使用find ./ -inum 67357281 -exec rm -rf {} \；删除

链接文件

为文件或目录建立链接文件

链接文件分类

inode节点耗尽故障处理

#使用fdisk创建分区/dev/sdb1，分区大小30M即可
fdisk /dev/sdb
mkfs -t ext4 /dev/sdb1
mkdir /data
mount /dev/sdb1 /data
df -i
#模拟inode节点耗尽故障
for （(i=1； i<=7680; i++)）;do touch /data /file$i;done
df -i
df -hT
#删除文件恢复
rm -rf /data/*
df -i
df -hT

例：

EXT类型文件恢复

extundelete是一个开源的Linux数据恢复工具，支持ext3、ext4文件系统。（ext4只能在centos6版本恢复）

#使用fdisk创建分区/dev/sdb2，格式化ext3文件系统
fdisk /dev/sdb
partprobe /dev/sdb
mkfs -t ext3 /dev/sdb2
mkdir /data
mount /dev/sdb2 /data
df -hT
#安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs
#编译安装extundelete
cd /data
wget http：//nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4/
./configure --prefix=/usr/local/extundelete && make && make install
ln -s /urs/local/extundelete/bin/* /urs/bin/

模拟删除并执行恢复操作

cd /data
echo a > a
echo a > b
echo a > c
echo a > d
ls
extundelete /dev/sdb2
#查看文件系统/dev/sdb2下存在哪些文件，i节点是从2开始的，2代表该文件系统最开始的目录

rm -rf a b 
extundelete /dev/sdb --inode 2
cd ~
umount /data
extundelete /dev/sdb2 --restore-all  #恢复/dev/sdb2 文件系统下的所有内容
#在当前目录下会出现一个RECOVERED_FILES/目录，里面保存了已经恢复的文件
ls RECOVERED_FILES/

例：

xfs类型文件备份和恢复

CentOS 7系统默认采用xfs类型文件，xfs类型的文件可用xfsdump与xfsrestore工具进行备份恢复。

xfsdump的备份级别有两种：0表示完全备份；1-9表示增量备份。xfsdump的备份级别默认为0。

xfsdump的命令格式

xfsdump -f 备份存放位置 要备份的路径或备份文件

xfsdump命令的常用选项

-f：指定备份文件目录

-L：指定标签session label

-M：指定设备标签media label

-s：备份单个文件，-s后面不能直接跟路径

xfsdump使用限制

①只能备份已挂载的文件系统

②必须使用root的权限才能操作

③只能备份XFS文件系统

④备份后的数据只能让xfsrestore解析

⑤不能备份两个具有相同UUID的文件系统（可用blkid命令查看）

操作步骤

#使用fdisk创建分区/dev/sdb，格式化xfs文件系统
fdisk /dev/sdb
partprobe /dev/sdb
mkfs -t xfs 【-f】 /dev/sdb3
mkdir /data
mount /dev/sdb3 /data
cd /data
cp /etc/passwd ./
mkdir data
touch data/a
#使用xfsdump命令备份整个分区
rpm -qa | grep xfsdump
yum install -y xfsdump
xfsdump -f /opt/dump_sdb3 /dev/sdb3 【-L dump_sdb3 -M sdb3】
#模拟数据丢失并使用xfsrestore命令恢复文件
cd /data
rm -rf ./*
ls
xfsrestore -f /opt/dump_sdb3 /data

例：

文件日志

日志的功能

?用于记录系统、程序运行的发生的各种事件

?通过阅读日志，有助于诊断和解决系统故障

日志文件的分类

①内核及系统日志

?由系统服务rsyslog统一进行管理，日志格式基本相似

?主配置文件/etc/rsyslog.conf

②用户日志

?记录系统用户登录及退出系统的相关信息

③程序日志

?由各种应用程序独立管理的日志文件，记录格式不统一

日志保存位置

Linux操作系统本身和大部分服务器程序的日志文件都默认放在目录/var/log/下。

常见的一些日志文件

内核及公共消息日志

/var/log/messages：记录Linux内核消息及各种应用程序的公共日志信息，包括启动、IO错误、网络错误、程序故障等。对于为使用独立日志文件的应用程序过服务，一般都可以从该日志文件中获得相关的事件记录信息。

计划任务日志

/var/log/cron：记录crond计划任务产生的事件信息

系统引导日志

/var/log/dmesg：记录Linux系统在引导过程中的各种事件信息

邮件系统日志

/var/log/maillog：记录进入或发出系统的电子邮件活动

用户登录日志

/var/log/secure：记录用户认证相关的安全事件信息

/var/log/lastlog：记录每个用户最近的登录事件。二进制格式

/var/log/wtmp：记录每个用户登录、注销及系统启动和停机事件。二进制格式

/var/run/utmp：记录失败的、错误的登录尝试及验证事件。二进制格式

日志消息的级别

Linux系统内核日志消息的优先级别（数字等级越小，优先级越高，消息越重要）

公共日志/var/log/messages文件的记录格式

时间标签：信息发出的日期和时间

主机名：生成消息的计算机的名称

子系统名称：发出消息的应用程序的名称

消息：消息的具体内容

用户日志分析

保存了用户登录、退出系统等相关信息

/var/log/lastlog：最近的用户登录事件

/var/log/wtmp：用户登录、注销及系统开、关机事件

/var/run/utmp：当前登录的每个用户的详细信息

/var/log/secure：与用户验证相关的安全性事件

分析工具

?users、who、w、last、lastb

?last命令用于查询成功登录到系统的用户记录

?lastb命令用于查询登录失败的用户记录

程序日志分析

由相应的应用程序独立进行管理

Web服务：/var/log/httpd/

access_log  #记录客户访问事件

error_log   #记录错误事件

代理服务：/var/log/squid/

access.log
cache.log

分析工具

文本查看、grep过滤检索、Webmin管理套件中查看

awk、sed等文本过滤、格式化编辑工具

Webalizer、Awstats等专用日志分析工具

日志管理策略

及时做好备份和归档

延长日志保存期限

控制日志访问权限

?日志中可能会包含各类敏感信息，如账户、口令等

集中管理日志

?将服务器的日志文件发到统一的日志文件服务器

?便于日志信息的统一收集、整理和分析

?杜绝日志信息的意外丢失、恶意篡改或删除

深入理解Linux文件系统与日志分析