如果不熟悉線性代數的概念,要去學習自然科學,現(xiàn)在看來就和文盲差不多。”,然而“按照現(xiàn)行的國際標準,線性代數是通過公理化來表述的,它是第二代數學模型,這就帶來了教學上的困難。”
* 矩陣究竟是什么東西?向量可以被認為是具有n個相互獨立的性質(維度)的對象的表示,矩陣又是什么呢?我們如果認為矩陣是一組列(行)向量組成的新的復合向量的展開式,那么為什么這種展開式具有如此廣泛的應用?特別是,為什么偏偏二維的展開式如此有用?如果矩陣中每一個元素又是一個向量,那么我們再展開一次,變成三維的立方陣,是不是更有用?
* 矩陣的乘法規(guī)則究竟為什么這樣規(guī)定?為什么這樣一種怪異的乘法規(guī)則卻能夠在實踐中發(fā)揮如此巨大的功效?很多看上去似乎是完全不相關的問題,最后竟然都歸結到矩陣的乘法,這難道不是很奇妙的事情?難道在矩陣乘法那看上去莫名其妙的規(guī)則下面,包含著世界的某些本質規(guī)律?如果是的話,這些本質規(guī)律是什么?
* 行列式究竟是一個什么東西?為什么會有如此怪異的計算規(guī)則?行列式與其對應方陣本質上是什么關系?為什么只有方陣才有對應的行列式,而一般矩陣就沒有(不要覺得這個問題很蠢,如果必要,針對m x n矩陣定義行列式不是做不到的,之所以不做,是因為沒有這個必要,但是為什么沒有這個必要)?而且,行列式的計算規(guī)則,看上去跟矩陣的任何計算規(guī)則都沒有直觀的聯(lián)系,為什么又在很多方面決定了矩陣的性質?難道這一切僅是巧合?
* 矩陣為什么可以分塊計算?分塊計算這件事情看上去是那么隨意,為什么竟是可行的?
* 對于矩陣轉置運算AT,有(AB)T = BTAT,對于矩陣求逆運算A-1,有(AB)-1 = B-1A-1。兩個看上去完全沒有什么關系的運算,為什么有著類似的性質?這僅僅是巧合嗎?
* 為什么說P-1AP得到的矩陣與A矩陣“相似”?這里的“相似”是什么意思?
* 特征值和特征向量的本質是什么?它們定義就讓人很驚訝,因為Ax =λx,一個諾大的矩陣的效應,竟然不過相當于一個小小的數λ,確實有點奇妙。但何至于用“特征”甚至“本征”來界定?它們刻劃的究竟是什么?
今天先談談對線形空間和矩陣的幾個核心概念的理解。首先說說空間(space),這個概念是現(xiàn)代數學的命根子之一,從拓撲空間開始,一步步往上加定義,可以形成很多空間。線形空間其實還是比較初級的,如果在里面定義了范數,就成了賦范線性空間。賦范線性空間滿足完備性,就成了巴那赫空間;賦范線性空間中定義角度,就有了內積空間,內積空間再滿足完備性,就得到希爾伯特空間。
總之,空間有很多種。你要是去看某種空間的數學定義,大致都是“存在一個集合,在這個集合上定義某某概念,然后滿足某些性質”,就可以被稱為空間。這未免有點奇怪,為什么要用“空間”來稱呼一些這樣的集合呢?大家將會看到,其實這是很有道理的。
我們一般人最熟悉的空間,毫無疑問就是我們生活在其中的(按照牛頓的絕對時空觀)的三維空間,從數學上說,這是一個三維的歐幾里德空間,我們先不管那么多,先看看我們熟悉的這樣一個空間有些什么最基本的特點。仔細想想我們就會知道,這個三維的空間:1. 由很多(實際上是無窮多個)位置點組成;2. 這些點之間存在相對的關系;3. 可以在空間中定義長度、角度;4. 這個空間可以容納運動,這里我們所說的運動是從一個點到另一個點的移動(變換),而不是微積分意義上的“連續(xù)”性的運動,
事實上,不管是什么空間,都必須容納和支持在其中發(fā)生的符合規(guī)則的運動(變換)。你會發(fā)現(xiàn),在某種空間中往往會存在一種相對應的變換,比如拓撲空間中有拓撲變換,線性空間中有線性變換,仿射空間中有仿射變換,其實這些變換都只不過是對應空間中允許的運動形式而已。
因此只要知道,“空間”是容納運動的一個對象集合,而變換則規(guī)定了對應空間的運動。
下面我們來看看線性空間。線性空間的定義任何一本書上都有,但是既然我們承認線性空間是個空間,那么有兩個最基本的問題必須首先得到解決,那就是:
1. 空間是一個對象集合,線性空間也是空間,所以也是一個對象集合。那么線性空間是什么樣的對象的集合?或者說,線性空間中的對象有什么共同點嗎?
2. 線性空間中的運動如何表述的?也就是,線性變換是如何表示的?
我們先來回答第一個問題,回答這個問題的時候其實是不用拐彎抹角的,可以直截了當的給出答案。線性空間中的任何一個對象,通過選取基和坐標的辦法,都可以表達為向量的形式。通常的向量空間我就不說了,舉兩個不那么平凡的例子:
L1. 最高次項不大于n次的多項式的全體構成一個線性空間,也就是說,這個線性空間中的每一個對象是一個多項式。如果我們以x0, x1, ..., xn為基,那么任何一個這樣的多項式都可以表達為一組n+1維向量,其中的每一個分量ai其實就是多項式中x(i-1)項的系數。值得說明的是,基的選取有多種辦法,只要所選取的那一組基線性無關就可以。這要用到后面提到的概念了,所以這里先不說,提一下而已。
L2. 閉區(qū)間[a, b]上的n階連續(xù)可微函數的全體,構成一個線性空間。也就是說,這個線性空間的每一個對象是一個連續(xù)函數。對于其中任何一個連續(xù)函數,根據魏爾斯特拉斯定理,一定可以找到最高次項不大于n的多項式函數,使之與該連續(xù)函數的差為0,也就是說,完全相等。這樣就把問題歸結為L1了。后面就不用再重復了。
所以說,向量是很厲害的,只要你找到合適的基,用向量可以表示線性空間里任何一個對象。這里頭大有文章,因為向量表面上只是一列數,但是其實由于它的有序性,所以除了這些數本身攜帶的信息之外,還可以在每個數的對應位置上攜帶信息。為什么在程序設計中數組最簡單,卻又威力無窮呢?根本原因就在于此。這是另一個問題了,這里就不說了。
下面來回答第二個問題,這個問題的回答會涉及到線性代數的一個最根本的問題。
線性空間中的運動,被稱為線性變換。也就是說,你從線性空間中的一個點運動到任意的另外一個點,都可以通過一個線性變化來完成。那么,線性變換如何表示呢?很有意思,在線性空間中,當你選定一組基之后,不僅可以用一個向量來描述空間中的任何一個對象,而且可以用矩陣來描述該空間中的任何一個運動(變換)。而使某個對象發(fā)生對應運動的方法,就是用代表那個運動的矩陣,乘以代表那個對象的向量。
簡而言之,在線性空間中選定基之后,向量刻畫對象,矩陣刻畫對象的運動,用矩陣與向量的乘法施加運動。
是的,矩陣的本質是運動的描述。如果以后有人問你矩陣是什么,那么你就可以響亮地告訴他,矩陣的本質是運動的描述
可是多么有意思啊,向量本身不是也可以看成是n x 1矩陣嗎?這實在是很奇妙,一個空間中的對象和運動竟然可以用相類同的方式表示。能說這是巧合嗎?如果是巧合的話,那可真是幸運的巧合!可以說,線性代數中大多數奇妙的性質,均與這個巧合有直接的關系。
? “矩陣是運動的描述”,到現(xiàn)在為止,好像大家都還沒什么意見。但是我相信早晚會有數學系出身的網友來拍板轉。因為運動這個概念,在數學和物理里是跟微積分聯(lián)系在一起的。我們學習微積分的時候,總會有人照本宣科地告訴你,初等數學是研究常量的數學,是研究靜態(tài)的數學,高等數學是變量的數學,是研究運動的數學。大家口口相傳,差不多人人都知道這句話。但是真知道這句話說的是什么意思的人,好像也不多。簡而言之,在我們人類的經驗里,運動是一個連續(xù)過程,從A點到B點,就算走得最快的光,也是需要一個時間來逐點地經過AB之間的路徑,這就帶來了連續(xù)性的概念。而連續(xù)這個事情,如果不定義極限的概念,根本就解釋不了。古希臘人的數學非常強,但就是缺乏極限觀念,所以解釋不了運動,被芝諾的那些著名悖論(飛箭不動、飛毛腿阿喀琉斯跑不過烏龜等四個悖論)搞得死去活來。因為這篇文章不是講微積分的,所以我就不多說了。有興趣的讀者可以去看看齊民友教授寫的《重溫微積分》。我就是讀了這本書開頭的部分,才明白“高等數學是研究運動的數學”這句話的道理。
不過在我這個《理解矩陣》的文章里,“運動”的概念不是微積分中的連續(xù)性的運動,而是瞬間發(fā)生的變化。比如這個時刻在A點,經過一個“運動”,一下子就“躍遷”到了B點,其中不需要經過A點與B點之間的任何一個點。這樣的“運動”,或者說“躍遷”,是違反我們日常的經驗的。不過了解一點量子物理常識的人,就會立刻指出,量子(例如電子)在不同的能量級軌道上跳躍,就是瞬間發(fā)生的,具有這樣一種躍遷行為。所以說,自然界中并不是沒有這種運動現(xiàn)象,只不過宏觀上我們觀察不到。但是不管怎么說,“運動”這個詞用在這里,還是容易產生歧義的,說得更確切些,應該是“躍遷”。因此這句話可以改成:
“矩陣是線性空間里躍遷的描述”。
可是這樣說又太物理,也就是說太具體,而不夠數學,也就是說不夠抽象。因此我們最后換用一個正牌的數學術語——變換,來描述這個事情。這樣一說,大家就應該明白了,所謂變換,其實就是空間里從一個點(元素/對象)到另一個點(元素/對象)的躍遷。比如說,拓撲變換,就是在拓撲空間里從一個點到另一個點的躍遷。再比如說,仿射變換,就是在仿射空間里從一個點到另一個點的躍遷。附帶說一下,這個仿射空間跟向量空間是親兄弟。做計算機圖形學的朋友都知道,盡管描述一個三維對象只需要三維向量,但所有的計算機圖形學變換矩陣都是4 x 4的。說其原因,很多書上都寫著“為了使用中方便”,這在我看來簡直就是企圖蒙混過關。真正的原因,是因為在計算機圖形學里應用的圖形變換,實際上是在仿射空間而不是向量空間中進行的。想想看,在向量空間里相一個向量平行移動以后仍是相同的那個向量,而現(xiàn)實世界等長的兩個平行線段當然不能被認為同一個東西,所以計算機圖形學的生存空間實際上是仿射空間。而仿射變換的矩陣表示根本就是4 x 4的。又扯遠了,有興趣的讀者可以去看《計算機圖形學——幾何工具算法詳解》。
一旦我們理解了“變換”這個概念,矩陣的定義就變成:
“矩陣是線性空間里的變換的描述。”
到這里為止,我們終于得到了一個看上去比較數學的定義。不過還要多說幾句。教材上一般是這么說的,在一個線性空間V里的一個線性變換T,當選定一組基之后,就可以表示為矩陣。因此我們還要說清楚到底什么是線性變換,什么是基,什么叫選定一組基。線性變換的定義是很簡單的,設有一種變換T,使得對于線性空間V中間任何兩個不相同的對象x和y,以及任意實數a和b,有:
T(ax + by) = aT(x) + bT(y),
那么就稱T為線性變換。
定義都是這么寫的,但是光看定義還得不到直覺的理解。線性變換究竟是一種什么樣的變換?我們剛才說了,變換是從空間的一個點躍遷到另一個點,而線性變換,就是從一個線性空間V的某一個點躍遷到另一個線性空間W的另一個點的運動。這句話里蘊含著一層意思,就是說一個點不僅可以變換到同一個線性空間中的另一個點,而且可以變換到另一個線性空間中的另一個點去。不管你怎么變,只要變換前后都是線性空間中的對象,這個變換就一定是線性變換,也就一定可以用一個非奇異矩陣來描述。而你用一個非奇異矩陣去描述的一個變換,一定是一個線性變換。有的人可能要問,這里為什么要強調非奇異矩陣?所謂非奇異,只對方陣有意義,那么非方陣的情況怎么樣?這個說起來就會比較冗長了,最后要把線性變換作為一種映射,并且討論其映射性質,以及線性變換的核與像等概念才能徹底講清楚。我覺得這個不算是重點,如果確實有時間的話,以后寫一點。以下我們只探討最常用、最有用的一種變換,就是在同一個線性空間之內的線性變換。也就是說,下面所說的矩陣,不作說明的話,就是方陣,而且是非奇異方陣。學習一門學問,最重要的是把握主干內容,迅速建立對于這門學問的整體概念,不必一開始就考慮所有的細枝末節(jié)和特殊情況,自亂陣腳。
接著往下說,什么是基呢?這個問題在后面還要大講一番,這里只要把基看成是線性空間里的坐標系就可以了。注意是坐標系,不是坐標值,這兩者可是一個“對立矛盾統(tǒng)一體”。這樣一來,“選定一組基”就是說在線性空間里選定一個坐標系。就這意思。
好,最后我們把矩陣的定義完善如下:
“矩陣是線性空間中的線性變換的一個描述。在一個線性空間中,只要我們選定一組基,那么對于任何一個線性變換,都能夠用一個確定的矩陣來加以描述。”
理解這句話的關鍵,在于把“線性變換”與“線性變換的一個描述”區(qū)別開。一個是那個對象,一個是對那個對象的表述。就好像我們熟悉的面向對象編程中,一個對象可以有多個引用,每個引用可以叫不同的名字,但都是指的同一個對象。如果還不形象,那就干脆來個很俗的類比。
比如有一頭豬,你打算給它拍照片,只要你給照相機選定了一個鏡頭位置,那么就可以給這頭豬拍一張照片。這個照片可以看成是這頭豬的一個描述,但只是一個片面的的描述,因為換一個鏡頭位置給這頭豬拍照,能得到一張不同的照片,也是這頭豬的另一個片面的描述。所有這樣照出來的照片都是這同一頭豬的描述,但是又都不是這頭豬本身。
同樣的,對于一個線性變換,只要你選定一組基,那么就可以找到一個矩陣來描述這個線性變換。換一組基,就得到一個不同的矩陣。所有這些矩陣都是這同一個線性變換的描述,但又都不是線性變換本身。
但是這樣的話,問題就來了如果你給我兩張豬的照片,我怎么知道這兩張照片上的是同一頭豬呢?同樣的,你給我兩個矩陣,我怎么知道這兩個矩陣是描述的同一個線性變換呢?如果是同一個線性變換的不同的矩陣描述,那就是本家兄弟了,見面不認識,豈不成了笑話。
好在,我們可以找到同一個線性變換的矩陣兄弟們的一個性質,那就是:
若矩陣A與B是同一個線性變換的兩個不同的描述(之所以會不同,是因為選定了不同的基,也就是選定了不同的坐標系),則一定能找到一個非奇異矩陣P,使得A、B之間滿足這樣的關系:
A = P-1BP
線性代數稍微熟一點的讀者一下就看出來,這就是相似矩陣的定義。沒錯,所謂相似矩陣,就是同一個線性變換的不同的描述矩陣。按照這個定義,同一頭豬的不同角度的照片也可以成為相似照片。俗了一點,不過能讓人明白。
而在上面式子里那個矩陣P,其實就是A矩陣所基于的基與B矩陣所基于的基這兩組基之間的一個變換關系。關于這個結論,可以用一種非常直覺的方法來證明(而不是一般教科書上那種形式上的證明),如果有時間的話,我以后在blog里補充這個證明。
這個發(fā)現(xiàn)太重要了。原來一族相似矩陣都是同一個線性變換的描述啊!難怪這么重要!工科研究生課程中有矩陣論、矩陣分析等課程,其中講了各種各樣的相似變換,比如什么相似標準型,對角化之類的內容,都要求變換以后得到的那個矩陣與先前的那個矩陣式相似的,為什么這么要求?因為只有這樣要求,才能保證變換前后的兩個矩陣是描述同一個線性變換的。當然,同一個線性變換的不同矩陣描述,從實際運算性質來看并不是不分好環(huán)的。有些描述矩陣就比其他的矩陣性質好得多。這很容易理解,同一頭豬的照片也有美丑之分嘛。所以矩陣的相似變換可以把一個比較丑的矩陣變成一個比較美的矩陣,而保證這兩個矩陣都是描述了同一個線性變換。
這樣一來,矩陣作為線性變換描述的一面,基本上說清楚了。但是,事情沒有那么簡單,或者說,線性代數還有比這更奇妙的性質,那就是,矩陣不僅可以作為線性變換的描述,而且可以作為一組基的描述。而作為變換的矩陣,不但可以把線性空間中的一個點給變換到另一個點去,而且也能夠把線性空間中的一個坐標系(基)表換到另一個坐標系(基)去。而且,變換點與變換坐標系,具有異曲同工的效果。線性代數里最有趣的奧妙,就蘊含在其中。理解了這些內容,線性代數里很多定理和規(guī)則會變得更加清晰、直覺。
首先來總結一下前面兩部分的一些主要結論:
1. 首先有空間,空間可以容納對象運動的。一種空間對應一類對象。
2. 有一種空間叫線性空間,線性空間是容納向量對象運動的。
3. 運動是瞬時的,因此也被稱為變換。
4. 矩陣是線性空間中運動(變換)的描述。
5. 矩陣與向量相乘,就是實施運動(變換)的過程。
6. 同一個變換,在不同的坐標系下表現(xiàn)為不同的矩陣,但是它們的本質是一樣的,所以本征值相同。
? 下面讓我們把視力集中到一點以改變我們以往看待矩陣的方式。我們知道,線性空間里的基本對象是向量,而向量是這么表示的:
? ? ? ? [a1, a2, a3, ..., an]
矩陣呢?矩陣是這么表示的:
? ? ? ? a11, a12, a13, ..., a1n
? ? ? ? a21, a22, a23, ..., a2n
? ? ? ? ? ? ? ? ? ...
? ? ? ? an1, an2, an3, ..., ann
? ? ? ? 不用太聰明,我們就能看出來,矩陣是一組向量組成的。特別的,n維線性空間里的方陣是由n個n維向量組成的。我們在這里只討論這個n階的、非奇異的方陣,如果一組向量是彼此線性無關的話,那么它們就可以成為度量這個線性空間的一組基,從而事實上成為一個坐標系體系,其中每一個向量都躺在一根坐標軸上,并且成為那根坐標軸上的基本度量單位(長度1)。現(xiàn)在到了關鍵的一步。看上去矩陣就是由一組向量組成的,而且如果矩陣非奇異的話(我說了,只考慮這種情況),那么組成這個矩陣的那一組向量也就是線性無關的了,也就可以成為度量線性空間的一個坐標系。結論:矩陣描述了一個坐標系。之所以矩陣又是運動,又是坐標系,那是因為——“運動等價于坐標系變換”。對不起,這話其實不準確,我只是想讓你印象深刻。準確的說法是:“對象的變換等價于坐標系的變換”。或者:“固定坐標系下一個對象的變換等價于固定對象所處的坐標系變換。” 說白了就是: “運動是相對的。”? ? ? ?
? ? 讓我們想想,達成同一個變換的結果,比如把點(1, 1)變到點(2, 3)去,你可以有兩種做法。第一,坐標系不動,點動,把(1, 1)點挪到(2, 3)去。第二,點不動,變坐標系,讓x軸的度量(單位向量)變成原來的1/2,讓y軸的度量(單位向量)變成原先的1/3,這樣點還是那個點,可是點的坐標就變成(2, 3)了。方式不同,結果一樣。從第一個方式來看,那就是我在《理解矩陣》1/2中說的,把矩陣看成是運動描述,矩陣與向量相乘就是使向量(點)運動的過程。在這個方式下,
? ? ? Ma = b的意思是:
? ? ? “向量a經過矩陣M所描述的變換,變成了向量b。”而從第二個方式來看,矩陣M描述了一個坐標系,姑且也稱之為M。那么:
? ? ? Ma = b的意思是:
? ? ? “有一個向量,它在坐標系M的度量下得到的度量結果向量為a,那么它在坐標系I的度量下,這個向量的度量結果是b。”
? ? ? 這里的I是指單位矩陣,就是主對角線是1,其他為零的矩陣。而這兩個方式本質上是等價的。我希望你務必理解這一點,因為這是本篇的關鍵。正因為是關鍵,所以我得再解釋一下。在M為坐標系的意義下,如果把M放在一個向量a的前面,形成Ma的樣式,我們可以認為這是對向量a的一個環(huán)境聲明。它相當于是說: “注意了!這里有一個向量,它在坐標系M中度量,得到的度量結果可以表達為a。可是它在別的坐標系里度量的話,就會得到不同的結果。為了明確,我把M放在前面,讓你明白,這是該向量在坐標系M中度量的結果。” 那么我們再看孤零零的向量b:
? ? ? b? ? ? ? ? 多看幾遍,你沒看出來嗎?它其實不是b,它是:
? ? ? Ib
? ? 也就是說:“在單位坐標系,也就是我們通常說的直角坐標系I中,有一個向量,度量的結果是b。”
? ? ? 而 Ma = Ib的意思就是說:
? ? “在M坐標系里量出來的向量a,跟在I坐標系里量出來的向量b,其實根本就是一個向量啊!”這哪里是什么乘法計算,根本就是身份識別嘛。從這個意義上我們重新理解一下向量。向量這個東西客觀存在,但是要把它表示出來,就要把它放在一個坐標系中去度量它,然后把度量的結果(向量在各個坐標軸上的投影值)按一定順序列在一起,就成了我們平時所見的向量表示形式。你選擇的坐標系(基)不同,得出來的向量的表示就不同。向量還是那個向量,選擇的坐標系不同,其表示方式就不同。因此,按道理來說,每寫出一個向量的表示,都應該聲明一下這個表示是在哪個坐標系中度量出來的。表示的方式,就是 Ma,也就是說,有一個向量,在M矩陣表示的坐標系中度量出來的結果為a。我們平時說一個向量是[2 3 5 7]T,隱含著是說,這個向量在 I 坐標系中的度量結果是[2 3 5 7]T,因此,這個形式反而是一種簡化了的特殊情況。
注意到,M矩陣表示出來的那個坐標系,由一組基組成,而那組基也是由向量組成的,同樣存在這組向量是在哪個坐標系下度量而成的問題。也就是說,表述一個矩陣的一般方法,也應該要指明其所處的基準坐標系。所謂M,其實是 IM,也就是說,M中那組基的度量是在 I 坐標系中得出的。從這個視角來看,M×N也不是什么矩陣乘法了,而是聲明了一個在M坐標系中量出的另一個坐標系N,其中M本身是在I坐標系中度量出來的。
回過頭來說變換的問題。我剛才說,“固定坐標系下一個對象的變換等價于固定對象所處的坐標系變換”,那個“固定對象”我們找到了,就是那個向量。但是坐標系的變換呢?我怎么沒看見?
請看:
Ma = Ib
我現(xiàn)在要變M為I,怎么變?對了,再前面乘以個M-1,也就是M的逆矩陣。換句話說,你不是有一個坐標系M嗎,現(xiàn)在我讓它乘以個M-1,變成I,這樣一來的話,原來M坐標系中的a在I中一量,就得到b了。
我建議你此時此刻拿起紙筆,畫畫圖,求得對這件事情的理解。比如,你畫一個坐標系,x軸上的衡量單位是2,y軸上的衡量單位是3,在這樣一個坐標系里,坐標為(1,1)的那一點,實際上就是笛卡爾坐標系里的點(2, 3)。而讓它原形畢露的辦法,就是把原來那個坐標系:
2 0
0 3
的x方向度量縮小為原來的1/2,而y方向度量縮小為原來的1/3,這樣一來坐標系就變成單位坐標系I了。保持點不變,那個向量現(xiàn)在就變成了(2, 3)了。
怎么能夠讓“x方向度量縮小為原來的1/2,而y方向度量縮小為原來的1/3”呢?就是讓原坐標系:
2 0
0 3
被矩陣:
1/2 0
0 1/3
左乘。而這個矩陣就是原矩陣的逆矩陣。
下面我們得出一個重要的結論:
“對坐標系施加變換的方法,就是讓表示那個坐標系的矩陣與表示那個變化的矩陣相乘。”
再一次的,矩陣的乘法變成了運動的施加。只不過,被施加運動的不再是向量,而是另一個坐標系。
如果你覺得你還搞得清楚,請再想一下剛才已經提到的結論,矩陣MxN,一方面表明坐標系N在運動M下的變換結果,另一方面,把M當成N的前綴,當成N的環(huán)境描述,那么就是說,在M坐標系度量下,有另一個坐標系N。這個坐標系N如果放在I坐標系中度量,其結果為坐標系MxN。
在這里,我實際上已經回答了一般人在學習線性代數是最困惑的一個問題,那就是為什么矩陣的乘法要規(guī)定成這樣。簡單地說,是因為:
1. 從變換的觀點看,對坐標系N施加M變換,就是把組成坐標系N的每一個向量施加M變換。
2. 從坐標系的觀點看,在M坐標系中表現(xiàn)為N的另一個坐標系,這也歸結為,對N坐標系基的每一個向量,把它在I坐標系中的坐標找出來,然后匯成一個新的矩陣。
3. 至于矩陣乘以向量為什么要那樣規(guī)定,那是因為一個在M中度量為a的向量,如果想要恢復在I中的真像,就必須分別與M中的每一個向量進行內積運算。我把這個結論的推導留給感興趣的朋友吧。應該說,其實到了這一步,已經很容易了。
綜合以上1/2/3,矩陣的乘法就得那么規(guī)定,一切有根有據,絕不是哪個神經病胡思亂想出來的。
我已經無法說得更多了。矩陣又是坐標系,又是變換。到底是坐標系,還是變換,已經說不清楚了,運動與實體在這里統(tǒng)一了,物質與意識的界限已經消失了,一切歸于無法言說,無法定義了。道可道,非常道,名可名,非常名。矩陣是在是不可道之道,不可名之名的東西。到了這個時候,我們不得不承認,我們偉大的線性代數課本上說的矩陣定義,是無比正確的:
“矩陣就是由m行n列數放在一起組成的數學對象。”
好了,這基本上就是我想說的全部了。還留下一個行列式的問題。矩陣M的行列式實際上是組成M的各個向量按照平行四邊形法則搭成一個n維立方體的體積。對于這一點,我只能感嘆于其精妙,卻無法揭開其中奧秘了。也許我掌握的數學工具不夠,我希望有人能夠給我們大家講解其中的道理了。
我不知道是否講得足夠清楚了,反正這一部分需要您花些功夫去推敲。
此外,請大家不必等待這個系列的后續(xù)部分。以我的工作情況而言,近期內很難保證繼續(xù)投入腦力到這個領域中,盡管我仍然對此興致濃厚。不過如果還有(四)的話,可能是一些站在應用層面的考慮,比如對計算機圖形學相關算法的理解。但是我不承諾這些討論近期內會出現(xiàn)了。
“分”的反義字是“和”,是我們熟悉的字。比如:2+3=5,從左往右運算,我們叫求和。那么“分”呢,既然是反義字,就把上面的等式反過來:5=2+3。
把一個對象表示成兩個以至更多的對象的和,這個過程叫分析。
通常來說,分析對象應當與被分析對象一致。是數就都是數,是函數就都是函數,是向量就都是向量,是矩陣就都是矩陣。
求和是數學里最基本的運算,減、乘、除是從求和中衍生出來的。而更高級的冪、指、對、三角、微積分等,也是一層一層建立起來的, 最根本的還是這個求和。求和最簡單,最容易計算,性質也最簡單。所以成了分析的基本出發(fā)點。
分析的妙處在于,通過分析可以將較復雜的對象劃分為較簡單的對象。比如2和3就比5簡單。單獨研究2的性質,再單獨研究3的性質,再通過簡單的求和,就可以把握5的性質。把復雜的東西劃分成若干簡單對象的和,對各簡單對象搞各個擊破,再加起來,復雜的東西也就被掌握了。
分析是西方思想中一個根本性的東西。西方人認為,事物總是有因果的,看到了結果,要分析原因。所謂分析原因,就是找出一堆因素,說明這堆因素合起來導致了結果。西方人認為,事物總是可以分析的。看到了整體,就要把那些合成這個整體的局部一一分析出來。 現(xiàn)代科學很大一部分就是這么回事。
大學數學里,有很多內容就是在講分析。數學里的分析還要把含義拓展,就是把一個數學對象合理地表示成若干更簡單對象與實數系數之積的和。但微積分和線性代數各有側重。微積分研究的是無窮項求和。無窮項之和與有窮項之和是本質不同的。但是無窮項之和是無法運算的,至少不實際。所以要想辦法通過一種辦法用有窮項之和來近似的代替,這就是逼近。逼近成立的條件是收斂,就是說,只有從一個收斂的無窮項的開頭截出一部分來求和,才能被認為是逼近。華人數學家項武義說,微積分就逼近這一板斧,但是無往而不利。
微積分主要研究函數,連續(xù)函數的因變量y會由于自變量x的變化而變化。這種變化也是要分析的。當x從 x0變成x1時,y是怎樣從y0變到y(tǒng)1 的?按照上面的說法,“y的變化(y1-y0)”這一個數學對象,要用一系列比較簡單的“變化”相加來表示。數學家找到了一個收斂的“變化”對象的序列,排在頭一位的是一個線性的變化量,它的系數就是導數,它本身就是微分dy。數學家又發(fā)現(xiàn),當x的變化量無窮小時,從這個無窮的、收斂的“變化”對象序列中,只要截出第一項,也就是微分dy,就無論如何可以精確描述y的變化了。曾在一本書上見過這樣的說法,泰勒公式是數學分析的頂峰。不知道是不是有道理。我自己覺得是這么回事。有了泰勒公式,我們可以任意精確地算一個函數在某一點上的值。畢竟只是實數求和嘛。
但是為了表示泰勒公式,我們卻用了一個挺復雜的連加代數式。代數式不能象實數那樣簡單加起來得到一個對象,它只能表示成和的形式。這是我們意識到,在這個連加式中各對象存在某些特別的不同,使它們沒法簡單地加到一起。 因此我們有必要討論,把一些性質不同的東西加到一起所形成的這個對象有什么性質。 這就是向量。
微積分研究如何把一個對象分解為無窮項同質對象之和,線性代數研究“有限項異質對象之和”這個新對象的性質。一方面,上面說過,微積分到最后還是要化無窮為有窮,化精確為逼近;另一方面,異質對象經過某種處理可以轉化為同質對象。比如不同次的冪函數是異質對象,但是一旦代入具體數值則都可以轉化為實數,變成了同質對象。因此線性代數研究的問題對微積分很重要。故我認為大學里應先講線性代數,后講微積分。
我們的微積分教學,將重點過分傾注在微分和積分的運算上了,其實實踐中更為重要的是我們稱為“級數”的那部分內容。即研究如何將一個量表達為一個數項級數,如何將一個函數表達為一個函數項級數。
線性代數把異質對象之和(向量)作為研究的基礎,研究這些新定義的對象加起來又可以表示什么。其結論是,有限數量的向量連加起來,有可能具有這樣的能力,即同維的全部向量都可以表示成這些向量的和。這樣的一組具有充分表現(xiàn)能力的向量,是線性無關的向量,組成了一個向量空間,而它們自己構成了這個向量空間里的一組基。
回到分析的概念上,一個向量總可以表示為若干個同階向量之和,這就是向量的分析。但是并不是所有的這些分析都具有相同的價值。在某種運算中,某種特別的分析能夠提供特別優(yōu)越的性,從而大大簡化運算。比如在大多數情況下,將一個向量表示成一組單位正交基向量的和,就能夠在計算中獲得特別的便利。面對某個問題,尋找一個最優(yōu)越的分析形式,把要研究的對象合理地表示成具有特殊性質的基對象與實數系數之積的和,這是分析的重要步驟,也是成功的關鍵。在這種表示式中,系數稱為坐標。
經典的方法都是以找到一組性質優(yōu)良的基為開端的,例如:
傅立葉分析以正交函數系為基,因此具有優(yōu)良性質,自1904年以來取代冪函數系,成為分析主流。
在曲線和曲面擬合中,正交多項式集構成了最佳基函數。 拉格朗日插值多項式具有一個特別的性質,即在本結點上為1,在其他結點上為0。
有限元中的形函數類似拉氏插值多項式。
結構動力學中的主振型迭加法,也是以相互正交的主振型為基,對多質點體系位移進行分析的。
舉兩個例子:說到采樣,大家的第一反應肯定是一個詞“2倍”(采樣定理)。學得比較扎實的,可能還會把為什么是2倍解釋清楚。但我對采樣的理解是:采樣實際上是在進行正交分解,采樣值不過是在一組正交基下分解的系數。如果原信號屬于該組正交基所張成的線性子空間,那么該信號就能無失真的恢復(滿足采樣定理)。學過信號處理的朋友,你知道這組正交基是什么嗎?:)第二個例子是關于為什么傅里葉變換在線性系統(tǒng)理論中如此重要?答案可能五花八門,但我認為我的理解是比較深入的:原因是傅里葉基是所有線性時不變算子的特征向量(和本文聯(lián)系起來了)。這句話解釋起來比較費工夫,但是傅里葉變換能和特征向量聯(lián)系起來,大家一定感覺很有趣吧。
特征向量確實有很明確的幾何意義,矩陣(既然討論特征向量的問題,當然是方陣,這里不討論廣義特征向量的概念,就是一般的特征向量)乘以一個向量的結果仍是同維數的一個向量,因此,矩陣乘法對應了一個變換,把一個向量變成同維數的另一個向量,那么變換的效果是什么呢?這當然與方陣的構造有密切關系,比如可以取適當的二維方陣,使得這個變換的效果就是將平面上的二維向量逆時針旋轉30度,這時我們可以問一個問題,有沒有向量在這個變換下不改變方向呢?可以想一下,除了零向量,沒有其他向量可以在平面上旋轉30度而不改變方向的,所以這個變換對應的矩陣(或者說這個變換自身)沒有特征向量(注意:特征向量不能是零向量),所以一個變換的特征向量是這樣一種向量,它經過這種特定的變換后保持方向不變,只是進行長度上的伸縮而已(再想想特征向量的原始定義Ax=cx,你就恍然大悟了,看到了嗎?cx是方陣A對向量x進行變換后的結果,但顯然cx和x的方向相同),而且x是特征向量的話,ax也是特征向量(a是標量且不為零),所以所謂的特征向量不是一個向量而是一個向量族,另外,特征值只不過反映了特征向量在變換時的伸縮倍數而已,對一個變換而言,特征向量指明的方向才是很重要的,特征值不是那么重要,雖然我們求這兩個量時先求出特征值,但特征向量才是更本質的東西!
比如平面上的一個變換,把一個向量關于橫軸做鏡像對稱變換,即保持一個向量的橫坐標不變,但縱坐標取相反數,把這個變換表示為矩陣就是[1 0;0 -1],其中分號表示換行,顯然[1 0;0 -1]*[a b]‘=[a -b]‘,其中上標‘表示取轉置,這正是我們想要的效果,那么現(xiàn)在可以猜一下了,這個矩陣的特征向量是什么?想想什么向量在這個變換下保持方向不變,顯然,橫軸上的向量在這個變換下保持方向不變(記住這個變換是鏡像對稱變換,那鏡子表面上(橫軸上)的向量當然不會變化),所以可以直接猜測其特征向量是 [a 0]‘(a不為0),還有其他的嗎?有,那就是縱軸上的向量,這時經過變換后,其方向反向,但仍在同一條軸上,所以也被認為是方向沒有變化,所以[0 b]‘(b不為0)也是其特征向量,去求求矩陣[1 0;0 -1]的特征向量就知道對不對了!
轉自http://blog.sina.com.cn/s/blog_684d52a9010158ka.html