iOS中图片的解压缩到渲染过程详解

时间:2022-09-18 20:48:40

前言

在移动app开发过程中,图片往往是不可或缺的资源。从磁盘上加载一张图片,到显示到屏幕上,中间经过了一些复杂的过程,其中非常重要的一步就是对图片的解压缩。下面来一起看看详细的介绍吧

一.图像从文件到屏幕过程

iOS中图片的解压缩到渲染过程详解

通常计算机在显示是cpu与gpu协同合作完成一次渲染.接下来我们了解一下cpu/gpu等在这样一次渲染过程中,具体的分工是什么?

  • cpu: 计算视图frame,图片解码,需要绘制纹理图片通过数据总线交给gpu
  • gpu: 纹理混合,顶点变换与计算,像素点的填充计算,渲染到帧缓冲区。
  • 时钟信号:垂直同步信号v-sync / 水平同步信号h-sync。
  • ios设备双缓冲机制:显示系统通常会引入两个帧缓冲区,双缓冲机制

图片显示到屏幕上是cpu与gpu的协作完成

对应应用来说,图片是最占用手机内存的资源,将一张图片从磁盘中加载出来,并最终显示到屏幕上,中间其实经过了一系列复杂的处理过程。

二.图片加载的工作流程

1、假设我们使用 +imagewithcontentsoffile: 方法从磁盘中加载一张图片,这个时候的图片并没有解压缩;

2、然后将生成的 uiimage 赋值给 uiimageview ;

3、接着一个隐式的 catransaction 捕获到了 uiimageview 图层树的变化;

4、在主线程的下一个 runloop 到来时,core animation 提交了这个隐式的 transaction ,这个过程可能会对图片进行 copy 操作,而受图片是否字节对齐等因素的影响,这个 copy 操作可能会涉及以下部分或全部步骤:

  • 分配内存缓冲区用于管理文件 io 和解压缩操作;
  • 将文件数据从磁盘读到内存中;
  • 将压缩的图片数据解码成未压缩的位图形式,这是一个非常耗时的 cpu 操作;
  • 最后 core animation 中calayer使用未压缩的位图数据渲染 uiimageview 的图层。
  • cpu计算好图片的frame,对图片解压之后.就会交给gpu来做图片渲染

5、渲染流程

  • gpu获取获取图片的坐标
  • 将坐标交给顶点着色器(顶点计算)
  • 将图片光栅化(获取图片对应屏幕上的像素点)
  • 片元着色器计算(计算每个像素点的最终显示的颜色值)
  • 从帧缓存区中渲染到屏幕上

我们提到了图片的解压缩是一个非常耗时的 cpu 操作,并且它默认是在主线程中执行的。那么当需要加载的图片比较多时,就会对我们应用的响应性造成严重的影响,尤其是在快速滑动的列表上,这个问题会表现得更加突出。

三.为什么要解压缩图片

既然图片的解压缩需要消耗大量的 cpu 时间,那么我们为什么还要对图片进行解压缩呢?是否可以不经过解压缩,而直接将图片显示到屏幕上呢?答案是否定的。要想弄明白这个问题,我们首先需要知道什么是位图

其实,位图就是一个像素数组,数组中的每个像素就代表着图片中的一个点。我们在应用中经常用到的 jpeg 和 png 图片就是位图

大家可以尝试

?
1
2
uiimage *image = [uiimage imagenamed:@"text.png"];
cfdataref rawdata = cgdataprovidercopydata(cgimagegetdataprovider(image.cgimage));

打印rawdata,这里就是图片的原始数据.

事实上,不管是 jpeg 还是 png 图片,都是一种压缩的位图图形格式。只不过 png 图片是无损压缩,并且支持 alpha 通道,而 jpeg 图片则是有损压缩,可以指定 0-100% 的压缩比。值得一提的是,在苹果的 sdk 中专门提供了两个函数用来生成 png 和 jpeg 图片:

?
1
2
3
4
5
// return image as png. may return nil if image has no cgimageref or invalid bitmap format
uikit_extern nsdata * __nullable uiimagepngrepresentation(uiimage * __nonnull image);
 
// return image as jpeg. may return nil if image has no cgimageref or invalid bitmap format. compression is 0(most)..1(least)      
uikit_extern nsdata * __nullable uiimagejpegrepresentation(uiimage * __nonnull image, cgfloat compressionquality);

因此,在将磁盘中的图片渲染到屏幕之前,必须先要得到图片的原始像素数据,才能执行后续的绘制操作,这就是为什么需要对图片解压缩的原因。

四.解压缩原理

既然图片的解压缩不可避免,而我们也不想让它在主线程执行,影响我们应用的响应性,那么是否有比较好的解决方案呢?

我们前面已经提到了,当未解压缩的图片将要渲染到屏幕时,系统会在主线程对图片进行解压缩,而如果图片已经解压缩了,系统就不会再对图片进行解压缩。因此,也就有了业内的解决方案,在子线程提前对图片进行强制解压缩。

而强制解压缩的原理就是对图片进行重新绘制,得到一张新的解压缩后的位图。其中,用到的最核心的函数是 cgbitmapcontextcreate :  

?
1
2
3
4
cg_extern cgcontextref __nullable cgbitmapcontextcreate(void * __nullable data,
 size_t width, size_t height, size_t bitspercomponent, size_t bytesperrow,
 cgcolorspaceref cg_nullable space, uint32_t bitmapinfo)
 cg_available_starting(__mac_10_0, __iphone_2_0);
  • data :如果不为 null ,那么它应该指向一块大小至少为 bytesperrow * height 字节的内存;如果 为 null ,那么系统就会为我们自动分配和释放所需的内存,所以一般指定 null 即可;
  • width 和height :位图的宽度和高度,分别赋值为图片的像素宽度和像素高度即可;
  • bitspercomponent :像素的每个颜色分量使用的 bit 数,在 rgb 颜色空间下指定 8 即可;
  • bytesperrow :位图的每一行使用的字节数,大小至少为 width * bytes per pixel 字节。当我们指定 0/null 时,系统不仅会为我们自动计算,而且还会进行 cache line alignment 的优化
  • space :就是我们前面提到的颜色空间,一般使用 rgb 即可;
  • bitmapinfo :位图的布局信息.kcgimagealphapremultipliedfirst

五.yyimage\sdwebimage开源框架实现

用于解压缩图片的函数 yycgimagecreatedecodedcopy 存在于 yyimagecoder 类中,核心代码如下

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
cgimageref yycgimagecreatedecodedcopy(cgimageref imageref, bool decodefordisplay) {
 ...
 
 if (decodefordisplay) { // decode with redraw (may lose some precision)
  cgimagealphainfo alphainfo = cgimagegetalphainfo(imageref) & kcgbitmapalphainfomask;
 
  bool hasalpha = no;
  if (alphainfo == kcgimagealphapremultipliedlast ||
   alphainfo == kcgimagealphapremultipliedfirst ||
   alphainfo == kcgimagealphalast ||
   alphainfo == kcgimagealphafirst) {
   hasalpha = yes;
  }
 
  // bgra8888 (premultiplied) or bgrx8888
  // same as uigraphicsbeginimagecontext() and -[uiview drawrect:]
  cgbitmapinfo bitmapinfo = kcgbitmapbyteorder32host;
  bitmapinfo |= hasalpha ? kcgimagealphapremultipliedfirst : kcgimagealphanoneskipfirst;
 
  cgcontextref context = cgbitmapcontextcreate(null, width, height, 8, 0, yycgcolorspacegetdevicergb(), bitmapinfo);
  if (!context) return null;
 
  cgcontextdrawimage(context, cgrectmake(0, 0, width, height), imageref); // decode
  cgimageref newimage = cgbitmapcontextcreateimage(context);
  cfrelease(context);
 
  return newimage;
 } else {
  ...
 }
}

它接受一个原始的位图参数 imageref ,最终返回一个新的解压缩后的位图 newimage ,中间主要经过了以下三个步骤:

  • 使用 cgbitmapcontextcreate 函数创建一个位图上下文;
  • 使用 cgcontextdrawimage 函数将原始位图绘制到上下文中;
  • 使用 cgbitmapcontextcreateimage 函数创建一张新的解压缩后的位图。

事实上,sdwebimage 中对图片的解压缩过程与上述完全一致,只是传递给 cgbitmapcontextcreate 函数的部分参数存在细微的差别

性能对比:

  • 在解压png图片,sdwebimage>yyimage
  • 在解压jpeg图片,sdwebimage<yyimage

总结

1、图片文件只有在确认要显示时,cpu才会对齐进行解压缩.因为解压是非常消耗性能的事情.解压过的图片就不会重复解压,会缓存起来.

2、图片渲染到屏幕的过程: 读取文件->计算frame->图片解码->解码后纹理图片位图数据通过数据总线交给gpu->gpu获取图片frame->顶点变换计算->光栅化->根据纹理坐标获取每个像素点的颜色值(如果出现透明值需要将每个像素点的颜色*透明度值)->渲染到帧缓存区->渲染到屏幕

3、面试中如果能按照这个逻辑阐述,应该没有大的问题.不过,如果细问到离屏渲染和渲染中的细节处理.就需要掌握opengl es/metal 这个2个图形处理api. 面试过程可能会遇到不在自己技术能力范围问题,尽量知之为知之不知为不知.

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对服务器之家的支持。

原文链接:https://www.jianshu.com/p/72dd074728d8