GPUImage-美顏+人臉識別

前言

一個群友用琨君的美顏錄制和訊飛離線人臉識別SDK做了一個demo,功能是錄制視頻,要求有美顏,并且能識別人臉并放置貼圖。但是遇到一個問題:
錄制過程能過進行人臉識別,也有美顏效果;
但是錄制的視頻,有美顏效果,但沒有貼圖;

在幫忙查找bug的過程中,發現代碼寫得略復雜,不便于學習。
于是,抽空把核心代碼抽離出來,做成了本次的demo

效果如下

正文

核心邏輯

demo的流程圖如下

GPUImage-實時美顏濾鏡的基礎上,引入了IFlyFaceDetector類,用GPUImageUIElement來繪制人臉識別后的貼圖,并用GPUImageAddBlendFilter把美顏后的圖像(GPUImageBeautifyFilter)和貼圖(GPUImageUIElement)合并,傳給GPUImageMovieWriter寫入文件。

人臉識別相關

IFlyFaceDetector
IFlyFaceDetector是訊飛提供的本地人臉檢測類,可以人臉檢測、視頻流檢測功能。
初始化代碼如下

    self.faceDetector = [IFlyFaceDetector sharedInstance];
    if(self.faceDetector){
        [self.faceDetector setParameter:@"1" forKey:@"detect"];
        [self.faceDetector setParameter:@"1" forKey:@"align"];
    }

demo會用到IFlyFaceDetector對NSData的識別接口


/**
 *  檢測frame視頻幀中的人臉
 *
 *  @param frame   視頻幀數據
 *  @param width  視頻幀圖像寬
 *  @param height 視頻幀圖像高
 *  @param dir    圖像的方向
 *
 *  @return json格式人臉數組,沒有檢測到人臉則返回空
 */
- (NSString*)trackFrame:(NSData*)frame withWidth:(int)width height:(int)height direction:(int)dir;

CanvasView
CanvasView是群友提供demo中的繪制貼圖類,可以對頭部、眼睛、鼻子、嘴巴、面部進行貼圖,本demo會用到headMap頭部貼圖。

//頭部貼圖
@property (nonatomic,strong) UIImage *  headMap;
//眼睛貼圖
@property (nonatomic,strong) UIImage * eyesMap;
//鼻子貼圖
@property (nonatomic,strong) UIImage * noseMap;
//嘴巴貼圖
@property (nonatomic,strong) UIImage * mouthMap;
//面部貼圖
@property (nonatomic,strong) UIImage * facialTextureMap;

GPUImage相關

GPUImageAddBlendFilter
繼承類GPUImageTwoInputFilter用于合并兩個圖像,公式如下:

    float r; // 顏色的紅色分量
     if (overlay.r * base.a + base.r * overlay.a >= overlay.a * base.a) {
         r = overlay.a * base.a + overlay.r * (1.0 - base.a) + base.r * (1.0 - overlay.a);
     } else {
         r = overlay.r + base.r;
     }

GPUImageUIElement
GPUImageUIElement繼承GPUImageOutput類,作為響應鏈的源頭。
通過CoreGraphics把UIView渲染到圖像,并通過glTexImage2D綁定到outputFramebuffer指定的紋理,最后通知targets紋理就緒。

demo中的作用是把CanvasView轉成紋理,并傳遞給GPUImageAddBlendFilter。

遇到的問題

1、貼圖無法出現在錄制的視頻中

啟動群友提供的demo,預覽正常,錄制的視頻確實沒有貼圖;
檢查響應鏈代碼,發現代碼的實現存在一個問題:
預覽的幀和寫入視頻的幀不是相同的,GPUImageUIElement的輸出的結果是直接指向合并的filter,合并后的圖像直接輸給writer寫入文件;屏幕的貼圖預覽效果是因為canvasView直接被addsubview到視圖層中。
懷疑是GPUImageUIElement繪制的紋理的為空。通過檢查GPU的紋理,GPUImageUIElement對應紋理id的紋理預覽為正常,排除這個問題。
檢查美顏filter的輸出,同樣正常。
檢查合并filter的輸出,發現貼圖消失。
定位到是合并filter的問題,檢查著色器代碼,正常。
檢查初始化代碼,找到問題所在:

群友把合并的filter的mix=0.0;導致合并的filter只取第一個的圖像。

小結,在查找bug的過程,因為demo較為復雜,花費了較多時間熟悉代碼;通過Xcode的工具,可以較快定位大多數GPUImage 的問題。

2、貼圖沒有隨著臉移動

測試本demo的過程中,出現過貼圖固定住不動的情況。
通過檢查人臉識別的輸出結果,確定人臉識別的輸出是正常;
檢查canvasView的更新,發現問題:
canvasView沒有更新

解決方案是把canvasView添加到視圖層。
但不知道是否為[self.viewCanvas setNeedsDisplay];造成的影響。

總結

demo在這里,代碼較短。
因為是每幀識別,所以CPU的消耗較高。
如果是實際應用,可以考慮3~5幀左右做一次人臉識別。
還有另外一個簡單的思路:把輸入從攝像頭變成視頻,對視頻進行逐幀人臉識別并把貼圖合并到視頻中。

?著作權歸作者所有,轉載或內容合作請聯系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,572評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,071評論 3 414
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 175,409評論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,569評論 1 307
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,360評論 6 404
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 54,895評論 1 321
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,979評論 3 440
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,123評論 0 286
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,643評論 1 333
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,559評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,742評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,250評論 5 356
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 43,981評論 3 346
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,363評論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,622評論 1 280
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,354評論 3 390
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,707評論 2 370

推薦閱讀更多精彩內容