https://www.cnblogs.com/935415150wang/p/8797347.html
鏈接:http://www.lxweimin.com/p/abe7515c6c7f
基礎(chǔ)從最基礎(chǔ)的開始
小知識:
0 ∈ {0 1}
{0 1}表示一個集合,里面有0,1兩個元素。所以0屬于這個集合,就用0 ∈ {0 1}表示了。∈代表屬于。
{0? } ∈ {0? 1}是錯誤的,一個集合不能屬于另一個集合。
反著的E:謂詞邏輯
存在量詞 ? x:P(x) 意味著有至少一個 x 使 P(x) 為真.n ∈ N:n 是偶數(shù).
倒著的A:存在著
全稱量詞 ? x:P(x) 意味著所有的 x 都使 P(x) 都為真.n ∈ N:n2 ≥ n.
對于所有;對于任何;對于每個
謂詞邏輯
∧ 邏輯合取 陳述 A ∧ B 為真,如果 A 與 B 二者都為真;否則為假.n < 4 ∧ n >2 ? n = 3 當(dāng) n 是自然數(shù)的時候.
與
命題邏輯
∨ 邏輯析取 陳述 A ∨ B 為真,如果 A 或 B (或二者)為真;如果二者都為假,則陳述為假.n ≥ 4 ∨ n ≤ 2 ? n ≠ 3 當(dāng) n 是自然數(shù)的時候.
或
命題邏輯
一 標(biāo)量,向量,矩陣,張量
(1)標(biāo)量:
標(biāo)量在計算機(jī)學(xué)習(xí)中我認(rèn)為可以理解成,一個用于統(tǒng)計或者標(biāo)記這一類型數(shù)學(xué)事件當(dāng)中一個值的標(biāo)志,比方說,當(dāng)它表示一條線的斜率的時候,他只有這么一個用處,而且也只是需要這么一個而已,他不需要再有別的定義,只代表斜率只有一個值就可以了. 再比方說,一個數(shù)組中我們可以定義一個標(biāo)量,這個標(biāo)量就是這個數(shù)組的數(shù)量.所以我理解標(biāo)量像是一道數(shù)學(xué)題中唯一的答案.? 就好比 標(biāo)量等于答案 標(biāo)量的值等于結(jié)果. 如果這道題 出現(xiàn)了變化,那么這個標(biāo)量就不是原來的那個標(biāo)量.
展現(xiàn)方式:
表達(dá)一條線的斜率:?令s?∈ R 表示一條線的斜率’
表達(dá)數(shù)組的數(shù)量 :? ?令n?∈ N 表示元素的數(shù)目
(2)向量:
????????一個向量代表一列數(shù),這些數(shù)求有序排列,我們可以按照索引的序列確定每個單獨(dú)的數(shù),通常用小寫的粗體來表示,比如x。向量中的元素可以通過帶角標(biāo)的斜體表示,向量x的第一個元素是,那么第二個元素就是
,以此類推。如果每個元素都屬于標(biāo)量R,并且該向量有n個元素,那么該向量屬于實數(shù)集R的n次笛卡爾乘積的集合,當(dāng)需要明確表示向量中的元素時,我們將元素排列成一個方括號包圍的縱列
????????我們可以把向量看作空間中的點,每個元素是不同的坐標(biāo)軸上的坐標(biāo).
????????有時候我們需要索引向量中的一些元素。在這種情況下,我們定義一個包含這些元素的索引集合,然后將該集合寫在腳標(biāo)處。比如,指定,
和
,我們定義集合s={1,3,6},然后寫作
。
我們用符_表示集合的補(bǔ)集中的索引。(補(bǔ)集就是補(bǔ)充滿所需要的其他的啦,這個不算的啦)?比如x_1表示x中除了x1意外的所有元素,x_s表示x中除了x1,x3和x6外所有的元素構(gòu)成的向量。這就很有意思了同時也很好理解了。我們要在這個向量中 取出不包含的剩下的部分,那我們干脆吧 _ 當(dāng)作減號 減去他就可以了
(3)矩陣:
????????矩陣是一個二維數(shù)組,其中的每一個元素被兩個索引(而非一個),可以認(rèn)為 兩個向量像拉鎖一樣拼在一起。只有兩兩結(jié)合才能算作一個整體,當(dāng)然了矩陣也不代表著一定是兩列??梢允呛脦琢?。通常賦予矩陣粗體大寫的變量名稱,比方說A。如果一個實數(shù)矩陣高度為m,寬度為n 那么我們說A?∈ Rmxn?。我們在表示矩陣中的元素時。通常以不加粗的斜體形式使其用名稱,索引用逗號間隔。比如,A1,1表示在矩陣A中左上角的那個元素,Am,n表示A右下的元素。我們通過用:表示要用到一排了或者一列了。比方說Am,:表示我要使用m行所有的元素。
有時我們需要矩陣值表達(dá)式的索引,而不是單個元素。在這種情況下,我們在表達(dá)式后面接下標(biāo),但不必將矩陣的變量名稱小寫話。 (就是 我想給 i行j列的這個元素函數(shù)求值,這時候我們的這個a可以大寫成A) 比如f(A)i,j?這么寫,表示函數(shù)f()作用在A上的矩陣的第i行j列元素上.
????????矩陣這東西在機(jī)器學(xué)習(xí)中就不要太重要了!實際上,如果我們現(xiàn)在有N個用戶的數(shù)據(jù),每條數(shù)據(jù)含有M個特征,那其實它對應(yīng)的就是一個N*M的矩陣呀;再比如,一張圖由16*16的像素點組成,那這就是一個16*16的矩陣了?,F(xiàn)在才發(fā)現(xiàn),我們大一學(xué)的矩陣原理原來這么的有用!要是當(dāng)時老師講課的時候先普及一下,也不至于很多同學(xué)學(xué)矩陣的時候覺得莫名其妙了。
(4)張量:
幾何代數(shù)中定義的張量是基于向量和矩陣的推廣,通俗一點理解的話,我們可以將標(biāo)量視為零階張量,矢量視為一階張量,那么矩陣就是二階張量。 例如,可以將任意一張彩色圖片表示成一個三階張量,三個維度分別是圖片的高度、寬度和色彩數(shù)據(jù)。
將這張圖用張量表示出來,就是最下方的那張表格:
其中表的橫軸表示圖片的寬度值,這里只截取0~319;表的縱軸表示圖片的高度值,這里只截取0~4;表格中每個方格代表一個像素點,比如第一行第一列的表格數(shù)據(jù)為[1.0,1.0,1.0],代表的就是RGB三原色在圖片的這個位置的取值情況(即R=1.0,G=1.0,B=1.0)。
當(dāng)然我們還可以將這一定義繼續(xù)擴(kuò)展,即:我們可以用四階張量表示一個包含多張圖片的數(shù)據(jù)集,這四個維度分別是:圖片在數(shù)據(jù)集中的編號,圖片高度、寬度,以及色彩數(shù)據(jù)。
張量在深度學(xué)習(xí)中是一個很重要的概念,因為它是一個深度學(xué)習(xí)框架中的一個核心組件,后續(xù)的所有運(yùn)算和優(yōu)化算法幾乎都是基于張量進(jìn)行的。
從數(shù)學(xué)方面深入的去理解:
概念
幾何代數(shù)中定義的張量是基于向量和矩陣的推廣,通俗一點理解的話,我們可以將標(biāo)量視為零階張量,矢量視為一階張量,那么矩陣就是二階張量。
定義
張量的嚴(yán)格定義是利用線性映射來描述的。與矢量相類似,定義由若干坐標(biāo)系改變時滿足一定坐標(biāo)轉(zhuǎn)化關(guān)系的有序數(shù)組成的集合為張量。? 從幾何角度講, 它是一個真正的幾何量,也就是說,它是一個不隨參照系的坐標(biāo)變換(其實就是基向量變化)而變化的東西。最后結(jié)果就是基向量與對應(yīng)基向量上的分量的組合(也就是張量)保持不變,比如一階張量(向量)a可表示為a= x*i+ y*j。由于基向量可以有豐富的組合,張量可以表示非常豐富的物理量。
換一種定義方式
一個(p,q)型張量,就是一個映射:
其中V是矢量空間,V*是對應(yīng)的對偶空間。
啰嗦一下
如果一個物理量,在物體的某個位置上只是一個單值,那么就是普通的標(biāo)量,比如密度。如果它在同一個位置、從不同的方向上看,有不同的值,而且這個數(shù)恰好可以用矩陣乘觀察方向來算出來,就是張量。
張量的理解:張量是有大小和多個方向的量。這里的方向就是指張量的階數(shù)。
空間維度n:一般我們使用3維空間,也可以是4維及以上維度。
張量階數(shù)m:在固定的3維度空間再談張量的階數(shù),階數(shù)小于等于維數(shù),即m<=n。
下面區(qū)分這個量:張量的階數(shù)(張量的方向數(shù))和所在空間的維數(shù)(所在空間的方向數(shù))的區(qū)別
在二維空間里,二維二階張量(平面應(yīng)力張量)的每個方向都可以用二維空間兩個方向表示。(區(qū)分2階張量的2個方向,和二維空間的兩個方向x,y)所以共有2^2=4個方向。
在三維空間里,三維二階張量(空間應(yīng)力張量)的每個方向都可以用三維空間三個方向表示。(區(qū)分2階張量的2個方向,和三維空間的三個方向x,y、z)所以共有3^2=9個方向。
張量積
你認(rèn)識矩陣乘積
向量的內(nèi)積
以及矩陣和向量的乘法
于是你發(fā)現(xiàn)了共同點,有一個相同指標(biāo)在經(jīng)過求和之后就看不見了。如果你只是把兩個量放在一起,不求和,只是構(gòu)造多重線性的話,你就發(fā)現(xiàn)了張量積,比如向量
于是你構(gòu)造了一個矩陣,也就是二階張量。。類似的,對于矩陣當(dāng)然也可以,
這里你就構(gòu)造了一個四階張量。
張量積這種東西有很多種理解方式,在不同的語境下面會有不同的看法。但是如果拿來跟矩陣乘積比較的話,我覺得比較好的說法是,張量積是一種萬有乘積,而矩陣乘法是一種具體化。
我們現(xiàn)在手里有很多矩陣,然后希望把兩個矩陣乘起來。一開始肯定想不到怎么乘,但是可以猜一些乘積的最基本的性質(zhì),比如說要和數(shù)乘是匹配的,也要和加法匹配也就是分配律。不管這個乘積是什么,都應(yīng)當(dāng)有這些基本的性質(zhì)。那么這個時候張量積就出現(xiàn)了,他代表了最廣的乘積,也是最弱的乘積,就僅僅滿足上面說的那些基本性質(zhì)。正因為是最弱的,所以一切具體的乘積都可以看成是從張量積的結(jié)果具體化得到的,也就是可以看成是萬有乘積,或者是一個包絡(luò)的乘積。
在數(shù)學(xué)中,張量積,記為
可以應(yīng)用于不同的上下文中如向量、矩陣、張量、向量空間、代數(shù)、拓?fù)湎蛄靠臻g和模。在各種情況下這個符號的意義是同樣的: 最一般的雙線性運(yùn)算。在某些上下文中也叫做外積。
有兩個(或更多)張量積的分量的一般公式。例如,如果U和V是秩分別為n和m的兩個協(xié)變張量,則它們的張量積的分量給出為
所以兩個張量的張量積的分量是每個張量的分量的普通積。
贈送···向量的理解
向量可以表示什么?
比如,我們可以用一個平面的法向量代表這個平面;物理上可以用向量代表力等??磥?,向量可以表示很多東西,不過仔細(xì)想想向量也只表示了幅度(magnitude)與方向(direction)兩個要素而已。
一個向量有很多種表示方式,我們可以用[0, 1]表示一個二維向量,也可以用平面、三維或更高維空間中的一條帶箭頭的線表示一個向量。我們都是知道(0, 0) —> (1, 1)可表示一個從(0, 0)到(1, 1)的有向線段(向量),那么,為什么可以用[0, 1]表示一個向量呢?
根據(jù)前面的講解,我們知道一個向量就是空間中的一條有向線段,可以用一組坐標(biāo)系的基和向量相應(yīng)分量的乘積組合來表示。由于坐標(biāo)系有很多種定義方式,基也就有很多種,對應(yīng)的分量也會有很多種,但如果大家默認(rèn)使用同一套基向量,那么基向量都不需要了,此時,想要表示一個向量,只要給定這三個分量即可,比如用0, 1表示一個向量,如果加上兩個括號,這就是我們在書上經(jīng)常看到的向量的列表示(0, 1),三維的有(1, 2, 1)。貼一個很有愛的圖
參考資料
https://blog.csdn.net/pandamax/article/details/63684633
http://tieba.baidu.com/p/4139437334
https://www.zhihu.com/question/23720923
https://www.zhihu.com/question/269975252
https://zh.wikipedia.org/zh/%E5%BC%A0%E9%87%8F%E7%A7%AF
作者:缺省之名
鏈接:http://www.lxweimin.com/p/2a0f7f7735ad
來源:簡書
簡書著作權(quán)歸作者所有,任何形式的轉(zhuǎn)載都請聯(lián)系作者獲得授權(quán)并注明出處。