SurfaceView與TextureView是Android做視頻開發(fā)是必定要用到的兩個控件,它們的特性和使用場景有什么區(qū)別。先來概括如下:
Surface 可以簡單理解為內(nèi)存中的一段繪圖緩沖區(qū)
SurfaceView是一個有自己Surface的View。它的渲染可以放在單獨線程而不是主線程中。其缺點是不能做變形和動畫。從Android7.0開始,SurfaceView的窗口位置與其他View渲染同步更新。 這意味著在屏幕上平移和縮放SurfaceView不會導致渲染失真。
SurfaceTexture可以用作非直接輸出的內(nèi)容流,這樣就提供二次處理的機會。與SurfaceView直接輸出相比,這樣會有若干幀的延遲。同時,由于它本身管理BufferQueue,因此內(nèi)存消耗也會稍微大一些。
TextureView是一個可以把內(nèi)容流作為外部紋理輸出在上面的View。它本身需要是一個硬件加速層。事實上TextureView本身也包含了SurfaceTexture。它與SurfaceView+SurfaceTexture組合相比可以完成類似的功能(即把內(nèi)容流上的圖像轉(zhuǎn)成紋理,然后輸出)。
TextureView是在View hierachy中做繪制,因此一般它是在主線程上做的(在Android 5.0引入渲染線程后,它是在渲染線程中做的)。而SurfaceView+SurfaceTexture在單獨的Surface上做繪制,可以是用戶提供的線程,而不是系統(tǒng)的主線程或是渲染線程。
下面內(nèi)容來自CharonChui
作者:CharonChui
文章鏈接:https://github.com/CharonChui/AndroidNote/blob/master/VideoDevelopment/SurfaceView%E4%B8%8ETextureView.md
一、SurfaceView
在說SurfaceView之前,需要先說一下幾個相關(guān)的部分。
1.1 Surface簡介
-
Surface
就是“表面”的意思,可以簡單理解為內(nèi)存中的一段繪圖緩沖區(qū)。在SDK
的文檔中,對Surface
的描述是這樣的:“Handle onto a raw buffer that is being managed by the screen compositor
”,
翻譯成中文就是“由屏幕顯示內(nèi)容合成器(screen compositor)
所管理的原生緩沖器的句柄”, 這句話包括下面兩個意思:- 通過
Surface
(因為Surface
是句柄)就可以獲得原生緩沖器以及其中的內(nèi)容。就像在C
語言中,可以通過一個文件的句柄,就可以獲得文件的內(nèi)容一樣; - 原生緩沖器(
rawbuffer
)是用于保存當前窗口的像素數(shù)據(jù)的。
- 通過
簡單的說
Surface
對應了一塊屏幕緩沖區(qū),每個Window
對應一個Surface
,任何View
都是畫在Surface
上的,傳統(tǒng)的view
共享一塊屏幕緩沖區(qū),所有的繪制必須在UI
線程中進行我們不能直接操作
Surface
實例,要通過SurfaceHolder
,在SurfaceView
中可以通過getHolder()
方法獲取到SurfaceHolder
實例。Surface
是一個用來畫圖形的地方,但是我們知道畫圖都是在一個Canvas
對象上面進行的,Surface
中的Canvas
成員,是專門用于提供畫圖的地方,就像黑板一樣,其中的原始緩沖區(qū)是用來保存數(shù)據(jù)的地方,
Surface
本身的作用類似一個句柄,得到了這個句柄就可以得到其中的Canvas
、原始緩沖區(qū)以及其他方面的內(nèi)容,所以簡單的說Surface
是用來管理數(shù)據(jù)的(句柄)。
1.2 SurfaceView 簡介
- 簡單的說
SurfaceView
就是一個有Surface
的View
里面內(nèi)嵌了一個專門用于繪制的Surface
,SurfaceView
控制這個Surface
的格式和尺寸以及繪制位置。
SurfaceView就是在Window上挖一個洞,它就是顯示在這個洞里,其他的View是顯示在Window上,所以View可以顯式在 SurfaceView之上,你也可以添加一些層在SurfaceView之上。
if (mWindow == null) { ?
mWindow = new MyWindow(this);
mLayout.type = mWindowType;
mLayout.gravity = Gravity.LEFT|Gravity.TOP;
mSession.addWithoutInputChannel(mWindow, mWindow.mSeq, mLayout,
mVisible ? VISIBLE : GONE, mContentInsets);
}
很明顯,每個SurfaceView
創(chuàng)建的時候都會創(chuàng)建一個MyWindow
,new MyWindow(this)
中的this
正是SurfaceView
自身,因此將SurfaceView
和window
綁定在一起,而前面提到過每個window
對應一個Surface
,
所以SurfaceView
也就內(nèi)嵌了一個自己的Surface
,可以認為SurfaceView
是來控制Surface
的位置和尺寸。傳統(tǒng)View
及其派生類的更新只能在UI
線程,然而UI
線程還同時處理其他交互邏輯,
這就無法保證view
更新的速度和幀率了,而SurfaceView
可以用獨立的線程來進行繪制,因此可以提供更高的幀率,例如游戲,攝像頭取景等場景就比較適合用SurfaceView
來實現(xiàn)。
Surface
是縱深排序(Z-ordered)
的,這表明它總在自己所在窗口的后面。-
Surfaceview
提供了一個可見區(qū)域,只有在這個可見區(qū)域內(nèi)的Surface
部分內(nèi)容才可見,可見區(qū)域外的部分不可見,所以可以認為SurfaceView
就是展示Surface
中數(shù)據(jù)的地方,Surface
就是管理數(shù)據(jù)的地方,
SurfaceView
就是展示數(shù)據(jù)的地方,只有通過SurfaceView
才能展現(xiàn)Surface
中的數(shù)據(jù)。
-
Surface
的排版顯示受到視圖層級關(guān)系的影響,它的兄弟視圖結(jié)點會在頂端顯示。這意味者Surface
的內(nèi)容會被它的兄弟視圖遮擋,這一特性可以用來放置遮蓋物(overlays)
(例如,文本和按鈕等控件)。
注意,如果Surface
上面有透明控件,那么它的每次變化都會引起框架重新計算它和頂層控件的透明效果,這會影響性能。surfaceview
變得可見時,surface
被創(chuàng)建;surfaceview
隱藏前,surface
被銷毀。
這樣能節(jié)省資源。如果你要查看surface
被創(chuàng)建和銷毀的時機,可以重載surfaceCreated(SurfaceHolder)
和surfaceDestroyed(SurfaceHolder)
。SurfaceView
的核心在于提供了兩個線程:UI
線程和渲染線程,兩個線程通過“雙緩沖”機制來達到高效的界面適時更新。
這個雙緩沖可以理解為,SurfaceView在更新視圖時用到了兩張Canvas,一張frontCanvas和一張backCanvas。每次實際顯示的是frontCanvas,backCanvas存儲的是上一次更改前的視圖,當使用lockCanvas()獲取畫布時,得到的實際上是backCanvas而不是正在顯示的frontCanvas,之后你在獲取到的backCanvas上繪制新視圖,再unlockCanvasAndPost(canvas)此視圖,那么上傳的這張canvas將替換原來的frontCanvas作為新的frontCanvas,原來的frontCanvas將切換到后臺作為backCanvas。例如,如果你已經(jīng)先后兩次繪制了視圖A和B,那么你再調(diào)用lockCanvas()獲取視圖,獲得的將是A而不是正在顯示的B,之后你將重繪的C視圖上傳,那么C將取代B作為新的frontCanvas顯示在SurfaceView上,原來的B則轉(zhuǎn)換為backCanvas。()
不用畫布,直接在窗口上進行繪圖叫做無緩沖繪圖。用了一個畫布,將所有內(nèi)容都先畫到畫布上,在整體繪制到窗口上,就該叫做單緩沖繪圖,那個畫布就是一個緩沖區(qū)。用了兩個畫布,一個進行臨時的繪圖,一個進行最終的繪圖,這樣就叫做雙緩沖。)
SurfaceView的優(yōu)缺點:
一般的Activity包含的多個View會組成View hierachy的樹形結(jié)構(gòu),只有最頂層的DectorView才是對WMS可見的,這個DecorView在WMS中有一個對應的WindowState,再SurfaceFlinger中有對應的Layer,而SurfaceView正因為它有自己的Surface,有自己的Window,它在WMS中有對應的WindowState,在SurfaceFlinger中有Layer。雖然在App端它仍在View hierachy中,但在Server端(WMS和SurfaceFlinger)中,它與宿主窗口是分離的。
--》音視頻開發(fā)之旅標注:添加了SurfaceView及TextureView區(qū)別(https://blog.csdn.net/while0/article/details/81481771)的一張圖片
這樣的好處是對這個Surface的渲染可以放到單獨的線程中去做,渲染時可以有自己的GL context。因為它不會影響主線程對時間的響應。所以它的優(yōu)點就是可以在獨立的線程中繪制,不影響主線程,而且使用雙緩沖機制,播放視頻時畫面更順暢。
但是這也有缺點,因為這個Surface不在View hierachy中,它的顯示也不受View的屬性控制,所以不能進行平移、縮放等動畫,它也不能放在其它ViewGroup中,SurfaceView不能嵌套使用,而且不能使用某些View的特性,例如View.setAlpha()。
從Android7.0開始,SurfaceView的窗口位置與其他View渲染同步更新。 這意味著在屏幕上平移和縮放SurfaceView不會導致渲染失真。
1.3 SurfaceHolder`簡介
顯示一個Surface
的抽象接口,使你可以控制Surface
的大小和格式以及在Surface
上編輯像素,和監(jiān)視Surace
的改變。這個接口通常通過SurfaceView
類實現(xiàn)。
簡單的說就是我們無法直接操作Surface
只能通過SurfaceHolder
這個接口來獲取和操作Surface
。
SurfaceHolder
中提供了一些lockCanvas()
:獲取一個Canvas
對象,并鎖定之。所得到的Canvas
對象,其實就是Surface
中一個成員。加鎖的目的其實就是為了在繪制的過程中,
Surface
中的數(shù)據(jù)不會被改變。lockCanvas
是為了防止同一時刻多個線程對同一canvas
寫入。
從設計模式的角度來看,Surface、SurfaceView、SurfaceHolder
實質(zhì)上就是MVC(Model-View-Controller)
,Model
就是模型或者說是數(shù)據(jù)模型,更簡單的可以理解成數(shù)據(jù),在這里也就是Surface
,
View
就是視圖,代表用戶交互界面,這里就是SurfaceView
,SurfaceHolder
就是Controller.
--》音視頻開發(fā)之旅 標注:這個MVC的理解很精彩
二、 TextureView
因為上面所說的SurfaceView不在主窗口中,它沒法做動畫沒法使用一些View的特性方法,所以在Android 4.0中引入了TextureView,它是一個結(jié)合了View和SurfaceTexture的View對象。它不會在WMS中單獨創(chuàng)建窗口,而是作為View hierachy中的一個普通view,因此它可以和其他普通View一樣進行平移、旋轉(zhuǎn)等動畫。但是TextureView必須在硬件加速的窗口中,它顯示的內(nèi)容流數(shù)據(jù)可以來自App進程或者遠程進程。
TextureView重載了draw()方法,其中主要SurfaceTexture中收到的圖像數(shù)據(jù)作為紋理更新到對應的HardwareLayer中。
SurfaceTexture.OnFrameAvailableListener用于通知TextureView內(nèi)容流有新圖像到來。SurfaceTextureListener接口用于讓TextureView的使用者知道SurfaceTexture已準備好,這樣就可以把SurfaceTexture交給相應的內(nèi)容源。Surface為BufferQueue的Producer接口實現(xiàn)類,使生產(chǎn)者可以通過它的軟件或硬件渲染接口為SurfaceTexture內(nèi)部的BufferQueue提供graphic buffer。
SurfaceTexture可以用作非直接輸出的內(nèi)容流,這樣就提供二次處理的機會。與SurfaceView直接輸出相比,這樣會有若干幀的延遲。同時,由于它本身管理BufferQueue,因此內(nèi)存消耗也會稍微大一些。
TextureView是一個可以把內(nèi)容流作為外部紋理輸出在上面的View, 它本身需要是一個硬件加速層。
SurfaceTexture
SurfaceTexture是Surface和OpenGL ES(GLES)紋理的組合。SurfaceTexture用于提供輸出到GLES 紋理的Surface。
SurfaceTexture是從Android 3.0開始加入,與SurfaceView不同的是,它對圖像流的處理并不直接顯示,而是轉(zhuǎn)為GL外部紋理,因此用于圖像流數(shù)據(jù)的二次處理。
比如Camera的預覽數(shù)據(jù),變成紋理后可以交給GLSurfaceView直接顯示,也可以通過SurfaceTexture交給TextureView作為View heirachy中的一個硬件加速層來顯示。首先,SurfaceTexture從圖像流(來自Camera預覽、視頻解碼、GL繪制場景等)中獲得幀數(shù)據(jù),當調(diào)用updateTexImage()時,根據(jù)內(nèi)容流中最近的圖像更新SurfaceTexture對應的GL紋理對象。
SurfaceTexture 包含一個應用是其使用方的BufferQueue。當生產(chǎn)方將新的緩沖區(qū)排入隊列時,onFrameAvailable() 回調(diào)會通知應用。然后,應用調(diào)用updateTexImage(),這會釋放先前占有的緩沖區(qū),從隊列中獲取新緩沖區(qū)并執(zhí)行EGL調(diào)用,從而使GLES可將此緩沖區(qū)作為外部紋理使用
三、SurfaceView vs TextureView
SurfaceView是一個有自己Surface的View。它的渲染可以放在單獨線程而不是主線程中。其缺點是不能做變形和動畫。
SurfaceTexture可以用作非直接輸出的內(nèi)容流,這樣就提供二次處理的機會。與SurfaceView直接輸出相比,這樣會有若干幀的延遲。同時,由于它本身管理BufferQueue,因此內(nèi)存消耗也會稍微大一些。
TextureView是一個可以把內(nèi)容流作為外部紋理輸出在上面的View。它本身需要是一個硬件加速層。事實上TextureView本身也包含了SurfaceTexture。它與SurfaceView+SurfaceTexture組合相比可以完成類似的功能(即把內(nèi)容流上的圖像轉(zhuǎn)成紋理,然后輸出)。
TextureView是在View hierachy中做繪制,因此一般它是在主線程上做的(在Android 5.0引入渲染線程后,它是在渲染線程中做的)。而SurfaceView+SurfaceTexture在單獨的Surface上做繪制,可以是用戶提供的線程,而不是系統(tǒng)的主線程或是渲染線程。
與 SurfaceView 相比,TextureView 具有更出色的 Alpha 版和旋轉(zhuǎn)處理能力,但在視頻上以分層方式合成界面元素時,SurfaceView 具有性能方面的優(yōu)勢。當客戶端使用 SurfaceView 呈現(xiàn)內(nèi)容時,SurfaceView 會為客戶端提供單獨的合成層。如果設備支持,SurfaceFlinger 會將單獨的層合成為硬件疊加層。當客戶端使用 TextureView 呈現(xiàn)內(nèi)容時,界面工具包會使用 GPU 將 TextureView 的內(nèi)容合成到 View 層次結(jié)構(gòu)中。對內(nèi)容進行的更新可能會導致其他 View 元素重繪,例如,如果其他 View 位于 TextureView 上方。View 呈現(xiàn)完成后,SurfaceFlinger 會合成應用界面層和所有其他層,以至每個可見像素合成兩次。
注意:受 DRM 保護的視頻只能在疊加平面上呈現(xiàn)。支持受保護內(nèi)容的視頻播放器必須使用 SurfaceView 進行實現(xiàn)。
項目 | SurfaceView | TextureView |
---|---|---|
內(nèi)存 | 低 | 高 |
耗電 | 低 | 高 |
繪制 | 及時 | 1-3幀延遲 |
動畫和截圖 | 不支持 | 支持 |
- 在android 7.0上系統(tǒng)surfaceview的性能比TextureView更有優(yōu)勢,支持對象的內(nèi)容位置和包含的應用內(nèi)容同步更新,平移、縮放不會產(chǎn)生黑邊。 - 在7.0以下系統(tǒng)如果使用場景有動畫效果,可以選擇性使用TextureView
- 由于失效(invalidation)和緩沖的特性,TextureView增加了額外1~3幀的延遲顯示畫面更新
- TextureView總是使用GL合成,而SurfaceView可以使用硬件overlay后端,可以占用更少的內(nèi)存
- TextureView的內(nèi)部緩沖隊列導致比SurfaceView使用更多的內(nèi)存
- SurfaceView: 內(nèi)部自己持有surface,surface 創(chuàng)建、銷毀、大小改變時系統(tǒng)來處理的,通過surfaceHolder 的callback回調(diào)通知。當畫布創(chuàng)建好時,可以將surface綁定到MediaPlayer中。SurfaceView如果為用戶可見的時候,創(chuàng)建SurfaceView的SurfaceHolder用于顯示視頻流解析的幀圖片,如果發(fā)現(xiàn)SurfaceView變?yōu)橛脩舨豢梢姷臅r候,則立即銷毀SurfaceView的SurfaceHolder,以達到節(jié)約系統(tǒng)資源的目的