【刘蔚然 原创作品转载请注明出处 《Linux内核分析》MOOC课程http://mooc.study.163.com/course/USTC-1000029000】
WEEK SEVEN（4.4——4.10）可执行程序的装载
SECTION 1 预处理、编译、链接和目标文件的格式
1.可执行程序如何产生的？
-
编译器预处理（把include的文件包含进来，并且完成宏的替换）
gcc -E -o XX.cpp XX.c (-m32)//.cpp是预处理文件 -
汇编器编译成汇编代码
gcc -x cpp-output -S -o hello.s hello.cpp (-m32)//.s是汇编代码 -
汇编代码编译成二进制目标文件（不可读，含有部分机器代码但不可执行）
gcc -x assembler -c hello.s -o hello.o (-m32) -
链接成可执行文件
gcc -o hello.static hello.c (-m32) -static -
补充：
- hello和hello.o都是ELF文件
- .static文件会将所有用到C库文件都放到这一个可执行程序中（所以占用空间比较多）
2.目标文件格式ELF
-
.out是最古老的可执行文件，目前Windows系统上多是PE，Linux系统上多是ELF
ELF文件已经是适应到某一种CPU体系结构的二进制兼容文件了
-
目标文件三种形式
- 可重定位文件（用来和其他object文件一起创建下面两种文件）——.o文件
- 可执行文件（指出了应该从哪里开始执行）
- 共享文件（主要是.so文件，用来被链接编辑器和动态链接器链接）
-
ELF格式
-
解释：
- 左半边是ELF格式，右半边是执行时候的格式；
- 其中，ELF头描述了该文件的组织情况，程序投标告诉系统如何创建一个进程的内存映像，section头表包含了描述文件sections的信息
-
解释：
- 当系统要执行一个文件的时候，理论上讲，他会把程序段拷贝到虚拟内存中某个段
-
解释
- entry代表（刚加载过新的可执行文件之后的）程序的入口地址（头部之后是代码和数据，进程的地址空间是4G，上面的1G是内核用，下面的3G是程序使用）默认的ELF头加载地址是0x8048000,头部大概要到0x48100处或者0x483000处，也就是可执行文件加载到内存之后执行的第一条代码地址
- 一般静态链接会将所有代码放在一个代码段；动态链接的进程会有多个代码段
可执行文件、共享库和动态链接
1.装载可执行程序之前的工作
-
可执行程序的执行环境
一般我们执行一个程序的Shell环境，我们的实验直接使用execve系统调用。
-
Shell本身不限制命令行参数的个数，命令行参数的个数受限于命令自身
- 例如，int main(int argc, char *argv[])
- 又如， int main(int argc, char *argv[], char *envp[])//envp是shell的执行环境
-
Shell会调用execve将命令行参数和环境参数传递给可执行程序的main函数
- int execve(const char * filename,char * const argv[ ],char * const envp[ ]);
-
例子：
1.#include <stdio.h>
2.#include <stdlib.h>
3.#include <unistd.h>
4.int main(int argc, char * argv[])//这里不是完整的命令函数，没有写命令行参数
5.{
6. int pid;
7. /* fork another process *///避免原有的shell程序被覆盖掉
8. pid = fork();
9. if (pid<0)
10. {
11. /* error occurred */
12. fprintf(stderr,"Fork Failed!");
13. exit(-1);
14. }
15. else if (pid==0)
16. {
17. /* child process */
18. execlp("/bin/ls","ls",NULL);//以ls命令为例
19. }
20. else
21. {
22. /* parent process */
23. /* parent will wait for the child to complete*/
24. wait(NULL);
25. printf("Child Complete!");
26. exit(0);
27. }
28.}
-
命令行参数和环境串都放在用户态堆栈中
fork子进程的时候完全复制了父进程；调用exec的时候，要加载的可执行程序把原来的进程环境覆盖掉，用户态堆栈也被清空
命令行参数和环境变量进入新程序的堆栈：把环境变量和命令行参数压栈（如上图），也就相当于main函数启动
shell程序-->execve-->sys_execve，然后在初始化新程序堆栈的时候拷贝进去
先传递函数调用参数，再传递系统调用参数
2.装载时动态链接和运行时动态链接应用
动态链接分为可执行程序装载时动态链接和运行时动态链接（大部分使用前者）；
-
举例1（共享库的动态链接）
-
准备.so文件（在Linux下动态链接文件格式，在Windows中是.dll）
#ifndef _SH_LIB_EXAMPLE_H_
#define _SH_LIB_EXAMPLE_H_ #define SUCCESS 0
#define FAILURE (-1) #ifdef __cplusplus
extern "C" {
#endif
/*
* Shared Lib API Example
* input : none
* output : none
* return : SUCCESS(0)/FAILURE(-1)
*
*/
int SharedLibApi();//内容只有一个函数头定义 #ifdef __cplusplus
}
#endif
#endif /* _SH_LIB_EXAMPLE_H_ */
/*------------------------------------------------------*/ #include <stdio.h>
#include "shlibexample.h" int SharedLibApi()
{
printf("This is a shared libary!\n");
return SUCCESS;
}/* _SH_LIB_EXAMPLE_C_ */ -
编译成.so文件
$ gcc -shared shlibexample.c -o libshlibexample.so -m32
-
-
举例2（动态加载库）（与上面的方式一样）
#ifndef _DL_LIB_EXAMPLE_H_
#define _DL_LIB_EXAMPLE_H_ #ifdef __cplusplus
extern "C" {
#endif
/*
* Dynamical Loading Lib API Example
* input : none
* output : none
* return : SUCCESS(0)/FAILURE(-1)
*
*/
int DynamicalLoadingLibApi(); #ifdef __cplusplus
}
#endif
#endif /* _DL_LIB_EXAMPLE_H_ */
/*------------------------------------------------------*/ #include <stdio.h>
#include "dllibexample.h" #define SUCCESS 0
#define FAILURE (-1) /*
* Dynamical Loading Lib API Example
* input : none
* output : none
* return : SUCCESS(0)/FAILURE(-1)
*
*/
int DynamicalLoadingLibApi()
{
printf("This is a Dynamical Loading libary!\n");
return SUCCESS;
} -
比较
#include <stdio.h> #include "shlibexample.h" //只include了共享库 #include <dlfcn.h> /*
* Main program
* input : none
* output : none
* return : SUCCESS(0)/FAILURE(-1)
*
*/
int main()
{
printf("This is a Main program!\n");
/* Use Shared Lib */
printf("Calling SharedLibApi() function of libshlibexample.so!\n");
SharedLibApi();//可以直接调用，因为include了这个库的接口
/* Use Dynamical Loading Lib */
void * handle = dlopen("libdllibexample.so",RTLD_NOW);//先打开动态加载库
if(handle == NULL)
{
printf("Open Lib libdllibexample.so Error:%s\n",dlerror());
return FAILURE;
}
int (*func)(void);
char * error;
func = dlsym(handle,"DynamicalLoadingLibApi");
if((error = dlerror()) != NULL)
{
printf("DynamicalLoadingLibApi not found:%s\n",error);
return FAILURE;
}
printf("Calling DynamicalLoadingLibApi() function of libdllibexample.so!\n");
func();
dlclose(handle);//与dlopen函数配合，用于卸载链接库
return SUCCESS;
}-
解释
- dlopen函数参考http://baike.baidu.com/link?url=05ftxNgbVsyrGNLqJbo3TpCyn27QeKOKaU7D70O-3bMu9ZsvruBZIHBZz-mhJgviNf4obS5HBNlpMPzcrbABZK的说明，负责打开一个动态库并将其加载到内存；
- dlsym函数与上面的dlopen函数配合使用，通过dlopen函数返回的动态库句柄（由dlopen打开动态链接库后返回的指针handle）以及对应的符号返回符号对应的指针
-
编译
1.$ gcc main.c -o main -L/path/to/your/dir -lshlibexample -ldl -m32 #这里只提供shlibexample的-L（库对应的接口头文件所在目录，也就是path to your dir）和-l（库名，如libshlibexample.so去掉lib和.so的部分），并没有提供dllibexample的相关信息，只是指明了-ldl
2.$ export LD_LIBRARY_PATH=$PWD #将当前目录加入默认路径，否则main找不到依赖的库文件，当然也可以将库文件copy到默认路径下。
3.$ ./main
4.This is a Main program!
5.Calling SharedLibApi() function of libshlibexample.so!
6.This is a shared libary!
7.Calling DynamicalLoadingLibApi() function of libdllibexample.so!
8.This is a Dynamical Loading libary!
-
可执行程序装载
1.可执行程序装载的关键问题
-
execve与fork是比较特殊的系统调用
- execve用它加载的可执行文件把当前的进程覆盖掉，返回之后就不是原来的程序而是新的可执行程序起点；
- fork函数的返回点ret_from_fork是用户态起点
-
sys_execve内核处理过程
do_execve -> do_execve_common -> exec_binprm
-
最后，根据文件头部信息寻找对应的文件格式处理模块
1369 list_for_each_entry(fmt, &formats, lh) {//在链表中寻找可以处理这种格式（比如ELF）的模块
1370 if (!try_module_get(fmt->module))
1371 continue;
1372 read_unlock(&binfmt_lock);
1373 bprm->recursion_depth++;
1374 retval = fmt->load_binary(bprm);//对于ELF格式的可执行文件fmt->load_binary(bprm);执行的应该是load_elf_binary其内部是和ELF文件格式解析的部分需要和ELF文件格式标准结合起来阅读
1375 read_lock(&binfmt_lock);
-
Linux内核是如何支持多种不同的可执行文件格式的？
1.82static struct linux_binfmt elf_format = {//elf_format结构体
2.83 .module = THIS_MODULE,
3.84 .load_binary = load_elf_binary,
4.85 .load_shlib = load_elf_library,
5.86 .core_dump = elf_core_dump,
6.87 .min_coredump = ELF_EXEC_PAGESIZE,
7.88}; 1.2198static int __init init_elf_binfmt(void)
2.2199{
3.2200 register_binfmt(&elf_format);//把elf_format变量注册到fmt链表中
4.2201 return 0;
5.2202}
【庄周梦蝶——庄周（调用execve的可执行程序）入睡（调用execve陷入内核），醒来（系统调用execve返回用户态）发现自己是蝴蝶（被execve加载的可执行程序）】
-
load_elf_binary调用start_thread函数
-
解释：
- struct pt_regs *regs就是内核堆栈栈底的部分
- 发生中断的时候，esp和ip都进行压栈
- 通过修改内核堆栈中EIP的值（也就是把压入栈中的值用new_ip替换）作为新程序的起点
- 那么，new_ip从何而来？
这里的elf_entry就是静态链接的时候可执行文件里面头部定义的entry
- 动态链接的过程更加复杂一点
2.sys_execve内部处理过程
-
- 先打开file文件，然后找到文件头部，把命令行参数和环境变量copy到结构体中（1505行）
-
- 1416行是关键代码，即寻找打开的可执行文件处理函数
-
- 寻找能够解析当前可执行文件的模块
- 1374行load_binary加载这个模块，它实际调用的是binfmt_elf.c
- ELF可执行文件默认映射到0x8048000这个地址
-
- 需要动态链接的可执行文件先加载连接器ld；否则直接把elf文件entry地址赋值给entry即可。
- start_thread(regs, elf_entry, bprm->p)会将CPU控制权交给ld来加载依赖库并完成动态链接；对于静态链接的文件elf_entry是新程序执行的起点
3.使用gdb跟踪sys_execve内核函数的处理过程
-
更新menu内核
-
查看test.c文件（shift+G直接到文件尾）：可以看到新增加了exec系统调用，其源代码与之前的fork类似
-
直接e hello.c切换到hello.c
-
查看Makefile，发现增加了gcc -o hello hello.c -m32 -static一句；并且我依照实验视频补充了cp hello ../rootfs以及cp init ../rootfs
-
启动内核并验证execv函数
-
冻结内核，启动GDB调试
-
进行调试
先停在sys_execve处，再设置其它断点；按c一路运行下去直到断点sys_execve
按s跳入函数内单步执行
new_ip是返回到用户态的第一条指令
-
退出调试状态，输入redelf -h hello可以查看hello的EIF头部
4.浅析动态链接的可执行程序的装载
- 动态链接的过程中，内核做了什么
- ldd test
- 可执行程序需要依赖动态链接库，而这个动态链接库可能会依赖其他的库，这样形成了一个关系图；
- interpreter：需要依赖动态链接器进行加载这些库并进行解析（这就是一个图的遍历），装载所有需要的动态链接库；之后ld将CPU的控制权交给可执行程序
- 所以，动态链接的过程主要是动态链接器在起作用，而不是内核