Tensorflow系列——Saver的用法

Saver的用法

1. Saver的背景介紹

我們經(jīng)常在訓(xùn)練完一個(gè)模型之后希望保存訓(xùn)練的結(jié)果,這些結(jié)果指的是模型的參數(shù),以便下次迭代的訓(xùn)練或者用作測(cè)試。Tensorflow針對(duì)這一需求提供了Saver類。

Saver類提供了向checkpoints文件保存和從checkpoints文件中恢復(fù)變量的相關(guān)方法。Checkpoints文件是一個(gè)二進(jìn)制文件,它把變量名映射到對(duì)應(yīng)的tensor值 。

只要提供一個(gè)計(jì)數(shù)器,當(dāng)計(jì)數(shù)器觸發(fā)時(shí),Saver類可以自動(dòng)的生成checkpoint文件。這讓我們可以在訓(xùn)練過(guò)程中保存多個(gè)中間結(jié)果。例如,我們可以保存每一步訓(xùn)練的結(jié)果。

為了避免填滿整個(gè)磁盤(pán),Saver可以自動(dòng)的管理Checkpoints文件。例如,我們可以指定保存最近的N個(gè)Checkpoints文件。

2. Saver的實(shí)例

下面以一個(gè)例子來(lái)講述如何使用Saver類

[python]view plaincopy

importtensorflow?as?tf

importnumpy?as?np

x?=?tf.placeholder(tf.float32,?shape=[None,1])

y?=4*?x?+4

w?=?tf.Variable(tf.random_normal([1],?-1,1))

b?=?tf.Variable(tf.zeros([1]))

y_predict?=?w?*?x?+?b

loss?=?tf.reduce_mean(tf.square(y?-?y_predict))

optimizer?=?tf.train.GradientDescentOptimizer(0.5)

train?=?optimizer.minimize(loss)

isTrain?=False

train_steps?=100

checkpoint_steps?=50

checkpoint_dir?=''

saver?=?tf.train.Saver()#?defaults?to?saving?all?variables?-?in?this?case?w?and?b

x_data?=?np.reshape(np.random.rand(10).astype(np.float32),?(10,1))

with?tf.Session()?as?sess:

sess.run(tf.initialize_all_variables())

ifisTrain:

foriinxrange(train_steps):

sess.run(train,?feed_dict={x:?x_data})

if(i?+1)?%?checkpoint_steps?==0:

saver.save(sess,?checkpoint_dir?+'model.ckpt',?global_step=i+1)

else:

ckpt?=?tf.train.get_checkpoint_state(checkpoint_dir)

ifckptandckpt.model_checkpoint_path:

saver.restore(sess,?ckpt.model_checkpoint_path)

else:

pass

print(sess.run(w))

print(sess.run(b))

isTrain:用來(lái)區(qū)分訓(xùn)練階段和測(cè)試階段,True表示訓(xùn)練,F(xiàn)alse表示測(cè)試

train_steps:表示訓(xùn)練的次數(shù),例子中使用100

checkpoint_steps:表示訓(xùn)練多少次保存一下checkpoints,例子中使用50

checkpoint_dir:表示checkpoints文件的保存路徑,例子中使用當(dāng)前路徑

2.1 訓(xùn)練階段

使用Saver.save()方法保存模型:

sess:表示當(dāng)前會(huì)話,當(dāng)前會(huì)話記錄了當(dāng)前的變量值

checkpoint_dir + 'model.ckpt':表示存儲(chǔ)的文件名

global_step:表示當(dāng)前是第幾步

訓(xùn)練完成后,當(dāng)前目錄底下會(huì)多出5個(gè)文件。

打開(kāi)名為“checkpoint”的文件,可以看到保存記錄,和最新的模型存儲(chǔ)位置。

2.1測(cè)試階段

測(cè)試階段使用saver.restore()方法恢復(fù)變量:

sess:表示當(dāng)前會(huì)話,之前保存的結(jié)果將被加載入這個(gè)會(huì)話

ckpt.model_checkpoint_path:表示模型存儲(chǔ)的位置,不需要提供模型的名字,它會(huì)去查看checkpoint文件,看看最新的是誰(shuí),叫做什么。

運(yùn)行結(jié)果如下圖所示,加載了之前訓(xùn)練的參數(shù)w和b的結(jié)果

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 227,283評(píng)論 6 530
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 97,947評(píng)論 3 413
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人,你說(shuō)我怎么就攤上這事。” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 175,094評(píng)論 0 373
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 62,485評(píng)論 1 308
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,268評(píng)論 6 405
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 54,817評(píng)論 1 321
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 42,906評(píng)論 3 440
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 42,039評(píng)論 0 285
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,551評(píng)論 1 331
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,502評(píng)論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,662評(píng)論 1 366
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,188評(píng)論 5 356
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 43,907評(píng)論 3 345
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 34,304評(píng)論 0 25
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 35,563評(píng)論 1 281
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 51,255評(píng)論 3 389
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,637評(píng)論 2 370

推薦閱讀更多精彩內(nèi)容