理論
傅里葉變換用來分析多種過濾器的頻率特征。對于圖片,2D離散傅里葉變換(DFT)用來找頻率范圍。一個快速算法叫快速傅里葉變換(FFT)用來計算DFT。
對于正弦信號,x(t) = Asin(2πft).我們可以說f是信號的頻率,如果頻率范圍給定,我們可以看到f的峰值。如果信號是從離散信號采樣,我們還是一樣的頻率范圍,但是是周期范圍[-π, π] 或[0, 2π]。你可以認為一個圖像是從兩個方向采樣的信號。所以在X和Y方向做傅里葉變換得到圖像的頻率表現。
對于正弦信號,如果振幅變化很快,你可以說它是高頻信號。如果變化很慢,就是低頻信號。這個也可以擴展到圖像領域,圖像里的振幅變化,在邊緣,或者噪點變化最大。所以我們可以說,邊緣和噪點是圖像里的高頻內容。如果在振幅上沒特別大變化,就是低頻內容
我們來看怎么做傅里葉變換
Numpy 里的傅里葉變換
首先我們來看怎么在Numpy里找傅里葉變換。Numpy有一個FFT包來做這個。np.fft.fft2()讓我們做頻率變換。第一個參數是輸入圖像,是灰度的,第二個參數是可選的,決定輸出數組的大小。如果比輸入圖像大的話,輸入圖像會補全0然后再做轉換。如果比輸入圖像小,輸入圖像會被裁切,如果不傳,輸出圖像大小和輸入一樣
當你得到了結果,0頻率內容會在左上角,如果你想拿到中間來,你需要N/2在兩個方向上來移動結果。這個是用函數np.fft.fftshift().當你找到了頻率轉換,你可以找到振幅譜線。
import cv2
import numpy as np
from matplotlib import pyplot as pltimg = cv2.imread('messi5.jpg',0)
f = np.fft.fft2(img)
fshift = np.fft.fftshift(f)
magnitude_spectrum = 20*np.log(np.abs(fshift))plt.subplot(121),plt.imshow(img, cmap = 'gray')
plt.title('Input Image'), plt.xticks([]), plt.yticks([])
plt.subplot(122),plt.imshow(magnitude_spectrum, cmap = 'gray')
plt.title('Magnitude Spectrum'), plt.xticks([]), plt.yticks([])
plt.show()
你可以看到白色區域在中心,表示低頻內容更多。
現在你達到了頻率轉換,就可以在頻率范圍內做更多運算了,比如高通過濾和重建圖像,比如反向離散傅里葉變換。你只需要通過一個60x60的矩形窗口去掉低頻內容,然后用np.fft.ifftshift()做反向變換,0頻率內容又在左上角了。然后做反向快速傅里葉變換 np.ifft2()。結果是復數。
rows, cols = img.shape
crow,ccol = rows/2 , cols/2
fshift[crow-30:crow+30, ccol-30:ccol+30] = 0
f_ishift = np.fft.ifftshift(fshift)
img_back = np.fft.ifft2(f_ishift)
img_back = np.abs(img_back)plt.subplot(131),plt.imshow(img, cmap = 'gray')
plt.title('Input Image'), plt.xticks([]), plt.yticks([])
plt.subplot(132),plt.imshow(img_back, cmap ='gray')
plt.title('Image after HPF'), plt.xticks([]), plt.yticks([])
plt.subplot(133),plt.imshow(img_back)
plt.title('Result in JET'), plt.xticks([]), plt.yticks([])plt.show()
結果是
結果顯示高通濾波器是一個邊緣檢測運算,這個我們在圖片地圖的章節看過,這還顯示了大多數凸顯該數據是在光譜的低頻區域。
如果你仔細看結果,特別是JET色下的圖像,你可以看到一些(紅色箭頭指向的位置),這些波紋狀的結構叫做ringing effects(振鈴效應)。這是由于我們用來掩圖的矩形窗口導致的。所以矩形窗口不用來做過濾,更好的選擇是高斯窗口
OpenCV里的傅里葉變換
OpenCV提供了函數cv2.dft()和cv2.idft()。它返回和前面同樣的結果但是是雙通道的。第一個通道包含了結果的實數部分,第二個通道包含虛數部分,輸入圖像應該先被轉換成np.float32。我們來看看:
import numpy as np
import cv2
from matplotlib import pyplot as pltimg = cv2.imread('messi5.jpg',0)
dft = cv2.dft(np.float32(img),flags = cv2.DFT_COMPLEX_OUTPUT)
dft_shift = np.fft.fftshift(dft)magnitude_spectrum = 20*np.log(cv2.magnitude(dft_shift[:,:,0],dft_shift[:,:,1]))
plt.subplot(121),plt.imshow(img, cmap = 'gray')
plt.title('Input Image'), plt.xticks([]), plt.yticks([])
plt.subplot(122),plt.imshow(magnitude_spectrum, cmap = 'gray')
plt.title('Magnitude Spectrum'), plt.xticks([]), plt.yticks([])
plt.show()
你也可以用cv2.cartToPolar()同時返回magnitude和phase
現在我們改做反向DFT了,在前面的例子里我們創建了HPF,這次我們看如何用LPF來去除圖像里的高頻內容,它實際上會模糊圖片。我們用高值(1)在低頻創建一個掩圖,傳入低頻內容,在高頻區域用0.
rows, cols = img.shape
crow,ccol = rows/2 , cols/2# create a mask first, center square is 1, remaining all zeros
mask = np.zeros((rows,cols,2),np.uint8)
mask[crow-30:crow+30, ccol-30:ccol+30] = 1# apply mask and inverse DFT
fshift = dft_shift*mask
f_ishift = np.fft.ifftshift(fshift)
img_back = cv2.idft(f_ishift)
img_back = cv2.magnitude(img_back[:,:,0],img_back[:,:,1])plt.subplot(121),plt.imshow(img, cmap = 'gray')
plt.title('Input Image'), plt.xticks([]), plt.yticks([])
plt.subplot(122),plt.imshow(img_back, cmap = 'gray')
plt.title('Magnitude Spectrum'), plt.xticks([]), plt.yticks([])
plt.show()
注意:
和平常一樣,OpenCV函數cv2.dft()和cv2.idft()比Numpy要快,但是Numpy函數更友好。
DFT性能優化
DFT計算的性能在數組大小在有些情況下會好一些,當數組大小是2的乘方的時候是最快的。大小是2,3,5的城際是也處理的比較有效。所以如果你擔心你的代碼的性能,你可以修改數組的大小到某些優化的大小(通過補0),之后再做DFT,對于OpenCV,你必須手動補0,對于Numpy,你指定FFT計算的大小,它會自動補0.
我們怎么找優化大小呢?OpenCV提供了函數cv2.getOptimalDFTSize()。它可以給cv2.dft()和np.fft.fft2()用,我們可以用IPython魔法命令%timeit
In [16]: img = cv2.imread('messi5.jpg',0)
In [17]: rows,cols = img.shape
In [18]: print rows,cols
342 548In [19]: nrows = cv2.getOptimalDFTSize(rows)
In [20]: ncols = cv2.getOptimalDFTSize(cols)
In [21]: print nrows, ncols
360 576
(342,548)被修改成了(360,576)。現在用0補全(對于OpenCV)然后看計算DFT的性能。你可以創建一個新的大的全0的數組,然后吧數據拷貝進去,使用cv2.copyMakeBorder()。
nimg=np.zeros((nrows,ncols))
nimg[:rows,:cols]=img
或者
right = ncols - cols
bottom = nrows - rows
bordertype = cv2.BORDER_CONSTANT ? ?#just to avoid line breakup in PDF file
nimg = cv2.copyMakeBorder(img,0,bottom,0,right,bordertype,value=0)
現在我們計算DFT性能和Numpy函數對比
In [22]: %timeit fft1 = np.fft.fft2(img)
10 loops, best of 3: 40.9 ms per loop
In [23]: %timeit fft2 = np.fft.fft2(img,[nrows,ncols])
100 loops, best of 3: 10.4 ms per loop
顯示有4倍的性能差別,現在我們用OpenCV的函數
In [24]: %timeit dft1= cv2.dft(np.float32(img),flags=cv2.DFT_COMPLEX_OUTPUT)
100 loops, best of 3: 13.5 ms per loop
In [27]: %timeit dft2= cv2.dft(np.float32(nimg),flags=cv2.DFT_COMPLEX_OUTPUT)
100 loops, best of 3: 3.11 ms per loop
也是4倍的差別。你還可以看到OpenCV函數比Numpy的函數快3倍。在反向FFT也是一樣。
為什么拉普拉斯是高通濾波器?
有很多人提類似的問題,為什么拉普拉斯是一個高通濾波器?為什么Sobel是高通濾波器等,第一個回答是通過傅里葉變換。對于一些高的FFT取拉普拉斯的傅里葉變換,分析它
import cv2
import numpy as np
from matplotlib import pyplot as plt# simple averaging filter without scaling parameter
mean_filter = np.ones((3,3))# creating a guassian filter
x = cv2.getGaussianKernel(5,10)
gaussian = x*x.T# different edge detecting filters
# scharr in x-direction
scharr = np.array([[-3, 0, 3],
[-10,0,10],
[-3, 0, 3]])# sobel in x direction
sobel_x= np.array([[-1, 0, 1],
[-2, 0, 2],
[-1, 0, 1]])# sobel in y direction
sobel_y= np.array([[-1,-2,-1],
[0, 0, 0],
[1, 2, 1]])# laplacian
laplacian=np.array([[0, 1, 0],
[1,-4, 1],
[0, 1, 0]])filters = [mean_filter, gaussian, laplacian, sobel_x, sobel_y, scharr]
filter_name = ['mean_filter', 'gaussian','laplacian', 'sobel_x', \
'sobel_y', 'scharr_x']fft_filters = [np.fft.fft2(x) for x in filters]
fft_shift = [np.fft.fftshift(y) for y in fft_filters]
mag_spectrum = [np.log(np.abs(z)+1) for z in fft_shift]for i in xrange(6):
? ? plt.subplot(2,3,i+1),plt.imshow(mag_spectrum[i],cmap = 'gray')
? ? plt.title(filter_name[i]), plt.xticks([]), plt.yticks([])plt.show()
從圖像里你能看到每個kernel的屏蔽的頻率區域,什么區域被通過了。從這個信息我們可以知道哪個kernel是HPF哪個是LPF。