iOS8 Core Image In Swift:人脸检测以及马赛克

时间:2021-07-18 19:22:32

iOS8 Core Image In Swift:自动改善图像以及内置滤镜的使用

iOS8 Core Image In Swift:更复杂的滤镜

iOS8 Core Image In Swift:人脸检测以及马赛克

iOS8 Core Image In Swift:视频实时滤镜

Core Image不仅内置了诸多滤镜,还能检测图像中的人脸,不过Core Image只是检测,并非识别,检测人脸是指在图像中寻找符合人脸特征(只要是个人脸)的区域,识别是指在图像中寻找指定的人脸(比如某某某的脸)。Core Image在找到符合人脸特征的区域后,会返回该特征的信息,比如人脸的范围、眼睛和嘴巴的位置等。

人脸检测并标记检测到的区域

先做好以下几步:
  1. 新建一个Single View Application工程
  2. 然后在Storyboard里放入UIImageView,ContentMode设置为Aspect Fit
  3. 将UIImageView连接到VC里
  4. 放入一个名为“人脸检测”的UIButton,然后连接到VC的faceDetecting方法上
  5. 关闭Auto Layout以及Size Classes
UIImageView的frame以及VC的UI如下:
 
iOS8 Core Image In Swift:人脸检测以及马赛克
 
以下是工程中会用到的图,齐刷刷一排脸,点击图片显示原图:
 
iOS8 Core Image In Swift:人脸检测以及马赛克
 
然后在VC上添加基本的属性:懒加载的originalImage、context(Core Image框架绕不开的对象)。

class ViewController: UIViewController {

@IBOutlet var imageView: UIImageView!

lazy var originalImage: UIImage = {

return UIImage(named: "Image")

}()

lazy var context: CIContext = {

return CIContext(options: nil)

}()

......

在viewDidLoad方法里显示originalImage:

override func viewDidLoad() {

super.viewDidLoad()

// Do any additional setup after loading the view, typically from a nib.

self.imageView.image = originalImage

}

然后就可以准备实现faceDetecting方法了。

在Core Image框架中,CIDetector对象提供了对图像检测的功能,只需要通过几个APIs就能完成CIDetector的初始化并得到检测结果:

@IBAction func faceDetecing() {

let inputImage = CIImage(image: originalImage)

let detector = CIDetector(ofType: CIDetectorTypeFace,

context: context,

options: [CIDetectorAccuracy: CIDetectorAccuracyHigh])

var faceFeatures: [CIFaceFeature]!

if let orientation: AnyObject = inputImage.properties()?[kCGImagePropertyOrientation] {

faceFeatures = detector.featuresInImage(inputImage,

options: [CIDetectorImageOrientation: orientation]

) as [CIFaceFeature]

} else {

faceFeatures = detector.featuresInImage(inputImage) as [CIFaceFeature]

}

println(faceFeatures)

......

使用kCGImagePropertyOrientation的时候,可能需要导入ImageIO框架
originalImage和context通过懒加载都得到了,在创建CIDetector对象的时候,必须告诉它要检测的内容,这里当然是传CIDetectorTypeFace了, 除了CIDetectorTypeFace外,CIDetector还能检测二维码;然后传递一个context,多个CIDetector可以共用一个 context对象;第三个参数是一个字典,我们能够指定检测的精度,除了CIDetectorAccuracyHigh以外,还有 CIDetectorAccuracyLow,精度高会识别度更高,但识别速度就更慢。
创建完CIDetector之后,把要识别的CIImage传递给它,在这里,我判断了CIImage是否带有方向的元数据,如果带的话调用就featuresInImage:options这个方法,因为方向对CIDetector来说至关重要,直接导致识别的成功与否;而有的图片没有方向这些元数据,就调用featuresInImage方法,由于这张《生活大爆炸》的图是不带方向元数据的,所以是执行的featuresInImage方法,但是大多数情况下应该会用到前者。
featuresInImage方法的返回值是一个CIFaceFeature数组,CIFaceFeature包含了面部的范围、左右眼、嘴巴的位置等,我们通过使用bounds就能标记出面部的范围。
我们很容易写出这样的代码:
  1. 获取所有的面部特征
  2. 用bounds实例化一个UIView
  3. 把View显示出来
实现出来就像这样:

@IBAction func faceDetecing() {

let inputImage = CIImage(image: originalImage)

let detector = CIDetector(ofType: CIDetectorTypeFace,

context: context,

options: [CIDetectorAccuracy: CIDetectorAccuracyHigh])

var faceFeatures: [CIFaceFeature]!

if let orientation: AnyObject = inputImage.properties()?[kCGImagePropertyOrientation] {

faceFeatures = detector.featuresInImage(inputImage, options: [CIDetectorImageOrientation: orientation]) as [CIFaceFeature]

} else {

faceFeatures = detector.featuresInImage(inputImage) as [CIFaceFeature]

}

println(faceFeatures)

for faceFeature in faceFeatures {

let faceView = UIView(frame: faceFeature.bounds)

faceView.layer.borderColor = UIColor.orangeColor().CGColor

faceView.layer.borderWidth = 2

imageView.addSubview(faceView)

}

}

这样写是否可以呢?如果你运行起来会得到这样的效果:

iOS8 Core Image In Swift:人脸检测以及马赛克
这是因为我们的inputImage,其实是用originalImage初始化的,而我这张originalImage的真实大小比实际看到的大得多:
iOS8 Core Image In Swift:人脸检测以及马赛克
它的宽实有600像素,我把它以@2x命名,实际显示有300像素,且在imageView里以Aspect Fit模 式展示(imageViwe宽为300像素),在显示的时候被缩放了,但是在内存中它是完整的,除此之外,CIImage的坐标系统和UIView的坐标 系统也不一样,CIImage的坐标系统就像数学坐标系统,原点在下,在UIView看来,就是倒置的,这是因Core Image、Core Graphics这些框架都来源于Mac OS X,在Mac OS X上这种坐标系统已存在多年,iOS直接引入了这些框架,这解决了Cocoa App和iOS App底层兼容性的问题,但是在上层就只能自己解决了。所以实际上它是这样的:
iOS8 Core Image In Swift:人脸检测以及马赛克
我们需要做两步工作:
  • 调整transform,让它正过来
  • 缩放bounds,让它适配imageView
然后再次很容易的写下了这样的代码:

@IBAction func faceDetecing() {

let inputImage = CIImage(image: originalImage)

let detector = CIDetector(ofType: CIDetectorTypeFace,

context: context,

options: [CIDetectorAccuracy: CIDetectorAccuracyHigh])

var faceFeatures: [CIFaceFeature]!

if let orientation: AnyObject = inputImage.properties()?[kCGImagePropertyOrientation] {

faceFeatures = detector.featuresInImage(inputImage, options: [CIDetectorImageOrientation: orientation]) as [CIFaceFeature]

} else {

faceFeatures = detector.featuresInImage(inputImage) as [CIFaceFeature]

}

println(faceFeatures)

// 1.

let inputImageSize = inputImage.extent().size

var transform = CGAffineTransformIdentity

transform = CGAffineTransformScale(transform, 1, -1)

transform = CGAffineTransformTranslate(transform, 0, -inputImageSize.height)

for faceFeature in faceFeatures {

var faceViewBounds = CGRectApplyAffineTransform(faceFeature.bounds, transform)

// 2.

let scaleTransform = CGAffineTransformMakeScale(0.5, 0.5)

faceViewBounds = CGRectApplyAffineTransform(faceViewBounds, scaleTransform)

let faceView = UIView(frame: faceViewBounds)

faceView.layer.borderColor = UIColor.orangeColor().CGColor

faceView.layer.borderWidth = 2

imageView.addSubview(faceView)

}

}

现 在看起来就没有问题了,在第一步里我们放置了一个调整坐标系统的tranform,在第二步对bounds进行了缩放(等同于把x、y、width、 height全部乘以0.5),由于我们知道实际scale是0.5(原图600像素,imageView宽为300像素),就直接写死了0.5,但运行 后出现了一点点偏移:

iOS8 Core Image In Swift:人脸检测以及马赛克
这其实是因为我把imageView的ContentMode设为Aspect Fit的结果 :
 
iOS8 Core Image In Swift:人脸检测以及马赛克
一般来讲,我们不会拉伸照片,通常会按宽、高进行适配,所以我们还需要对Aspect Fit进行处理,上面代码修改后如下:

@IBAction func faceDetecing() {

let inputImage = CIImage(image: originalImage)

let detector = CIDetector(ofType: CIDetectorTypeFace,

context: context,

options: [CIDetectorAccuracy: CIDetectorAccuracyHigh])

var faceFeatures: [CIFaceFeature]!

if let orientation: AnyObject = inputImage.properties()?[kCGImagePropertyOrientation] {

faceFeatures = detector.featuresInImage(inputImage, options: [CIDetectorImageOrientation: orientation]) as [CIFaceFeature]

} else {

faceFeatures = detector.featuresInImage(inputImage) as [CIFaceFeature]

}

println(faceFeatures)

// 1.

let inputImageSize = inputImage.extent().size

var transform = CGAffineTransformIdentity

transform = CGAffineTransformScale(transform, 1, -1)

transform = CGAffineTransformTranslate(transform, 0, -inputImageSize.height)

for faceFeature in faceFeatures {

var faceViewBounds = CGRectApplyAffineTransform(faceFeature.bounds, transform)

// 2.

var scale = min(imageView.bounds.size.width / inputImageSize.width,

imageView.bounds.size.height / inputImageSize.height)

var offsetX = (imageView.bounds.size.width - inputImageSize.width * scale) / 2

var offsetY = (imageView.bounds.size.height - inputImageSize.height * scale) / 2

faceViewBounds = CGRectApplyAffineTransform(faceViewBounds, CGAffineTransformMakeScale(scale, scale))

faceViewBounds.origin.x += offsetX

faceViewBounds.origin.y += offsetY

let faceView = UIView(frame: faceViewBounds)

faceView.layer.borderColor = UIColor.orangeColor().CGColor

faceView.layer.borderWidth = 2

imageView.addSubview(faceView)

}

}

在第二步里,除了通过宽、高比计算scale外,还计算了x、y轴的偏移,以确保在宽或高缩放的情况下都能正常工作(最后除以2是因为缩放时是居中显示,上下或左右都各有一半)。

编译、运行,在不同的高度下的效果图:
iOS8 Core Image In Swift:人脸检测以及马赛克iOS8 Core Image In Swift:人脸检测以及马赛克
 

面部马赛克

检测到面部以后,我们还能做一些有趣的操作,比如打上马赛克:
iOS8 Core Image In Swift:人脸检测以及马赛克
这是苹果官方例子上的一张图,展示了把一张照片中所有的面部打上马赛克的方法:
  1. 基于原图,创建一个将所有部分都马赛克的图片
  2. 为检测到的人脸创建一张蒙版图
  3. 用蒙版图,将完全马赛克的图和原图混合起来
我们在VC上添加一个名为“马赛克”的按钮,将其事件连接到VC的pixellated方法上,然后开始实现马赛克的效果。
具体步骤如下:

创建完全马赛克的图

使用CIPixellate滤镜,其参数设置:
  • 设置inputImage为原图
  • 可以根据自己的需要,选择设置inputScale参数,inputScale取值为1到100,取值越大,马赛克就越大
这一步的效果图:
iOS8 Core Image In Swift:人脸检测以及马赛克
 

为检测到的人脸创建蒙版图

和之前一样,使用CIDetector检测人脸,然后为每一张脸:
  • 使用CIRadialGradient滤镜创建一个把脸包围起来的圆
  • 使用CISourceOverCompositing滤镜把各个蒙版(有几张脸其实就有几个蒙版)组合起来
这一步的效果图:
iOS8 Core Image In Swift:人脸检测以及马赛克
 

混合马赛克图、蒙版图以及原图

CIBlendWithMask滤镜来混合三者,其参数设置如下:
  • 设置inputImage为马赛克图
  • 设置inputBackground为原图
  • 设置inputMaskImage为蒙版图
完整实现代码如下:

@IBAction func pixellated() {

// 1.

var filter = CIFilter(name: "CIPixellate")

println(filter.attributes())

let inputImage = CIImage(image: originalImage)

filter.setValue(inputImage, forKey: kCIInputImageKey)

// filter.setValue(max(inputImage.extent().size.width, inputImage.extent().size.height) / 60, forKey: kCIInputScaleKey)

let fullPixellatedImage = filter.outputImage

// let cgImage = context.createCGImage(fullPixellatedImage, fromRect: fullPixellatedImage.extent())

// imageView.image = UIImage(CGImage: cgImage)

// 2.

let detector = CIDetector(ofType: CIDetectorTypeFace,

context: context,

options: nil)

let faceFeatures = detector.featuresInImage(inputImage)

// 3.

var maskImage: CIImage!

for faceFeature in faceFeatures {

println(faceFeature.bounds)

// 4.

let centerX = faceFeature.bounds.origin.x + faceFeature.bounds.size.width / 2

let centerY = faceFeature.bounds.origin.y + faceFeature.bounds.size.height / 2

let radius = min(faceFeature.bounds.size.width, faceFeature.bounds.size.height)

let radialGradient = CIFilter(name: "CIRadialGradient",

withInputParameters: [

"inputRadius0" : radius,

"inputRadius1" : radius + 1,

"inputColor0" : CIColor(red: 0, green: 1, blue: 0, alpha: 1),

"inputColor1" : CIColor(red: 0, green: 0, blue: 0, alpha: 0),

kCIInputCenterKey : CIVector(x: centerX, y: centerY)

])

println(radialGradient.attributes())

// 5.

let radialGradientOutputImage = radialGradient.outputImage.imageByCroppingToRect(inputImage.extent())

if maskImage == nil {

maskImage = radialGradientOutputImage

} else {

println(radialGradientOutputImage)

maskImage = CIFilter(name: "CISourceOverCompositing",

withInputParameters: [

kCIInputImageKey : radialGradientOutputImage,

kCIInputBackgroundImageKey : maskImage

]).outputImage

}

}

// 6.

let blendFilter = CIFilter(name: "CIBlendWithMask")

blendFilter.setValue(fullPixellatedImage, forKey: kCIInputImageKey)

blendFilter.setValue(inputImage, forKey: kCIInputBackgroundImageKey)

blendFilter.setValue(maskImage, forKey: kCIInputMaskImageKey)

// 7.

let blendOutputImage = blendFilter.outputImage

let blendCGImage = context.createCGImage(blendOutputImage, fromRect: blendOutputImage.extent())

imageView.image = UIImage(CGImage: blendCGImage)

}

我详细的分为了7个部分:

  1. 用CIPixellate滤镜对原图先做个完全马赛克
  2. 检测人脸,并保存在faceFeatures中
  3. 初始化蒙版图,并开始遍历检测到的所有人脸
  4. 由于我们要基于人脸的位置,为每一张脸都单独创建一个蒙版,所以要先计算出脸的中心点,对应为x、y轴坐标,再基于脸的宽度或高度给一个半径,最后用这些计算结果初始化一个CIRadialGradient滤镜(我将inputColor1的alpha赋值为0,表示将这些颜色值设为透明,因为我不关心除了蒙版以外的颜色,这点和苹果官网中的例子有太一样,苹果将其赋值为了1)
  5. 由于CIRadialGradient滤镜创建的是一张无限大小的图,所以在使用之前先对它进行裁剪(苹果官网例子中没有对其裁剪。。),然后把每一张脸的蒙版图合在一起
  6. CIBlendWithMask滤镜把马赛克图、原图、蒙版图混合起来
  7. 输出,在界面上显示
运行效果:
iOS8 Core Image In Swift:人脸检测以及马赛克
一个简单的对照片进行马赛克处理的例子就完成了。
 
 

GitHub下载地址

我在GitHub上会保持更新。
 

UPDATED:

细心的朋友会发现马赛克的面积比检测到的面积要大:
iOS8 Core Image In Swift:人脸检测以及马赛克
这是因为计算马赛克radius时没有考虑缩放的因素,只要先计算出scale,再把scale和现在的radius相乘就能得到精确的范围。
计算scale:

var scale = min(imageView.bounds.size.width / inputImage.extent().size.width,

imageView.bounds.size.height / inputImage.extent().size.height)

修正radius:

let radius = min(faceFeature.bounds.size.width, faceFeature.bounds.size.height) * scale

修正后的马赛克效果与人脸检测效果:

iOS8 Core Image In Swift:人脸检测以及马赛克

参考资料:

https://developer.apple.com/library/mac/documentation/graphicsimaging/conceptual/CoreImaging/ci_intro/ci_intro.html