在自己個人電腦上部署DeepSeek,可以避免“線上服務器繁忙,請稍后再試”的煩惱,也可以處理一些不便上傳到網(wǎng)上的私密文檔。當然,受個人電腦算力所限,本地模型性能不如滿血版。
幾乎沒有門檻,簡單三步走。
第一步:安裝LM Studio
LM Studio也是一款開源軟件。進入LM Studio官網(wǎng)(lmstudio.ai),選擇系統(tǒng)對應版本的客戶端,下載安裝即可。
安裝后啟動運行LM Studio,可以先跳過設置。
點擊右下角的設置,將語言切換至中文。
選項中有一項“Use LM Studio's Hugging Face Proxy”也可以勾選上,加快模型下載速度。
第二步:下載DeepSeek
在LM Studio的對話框中,點擊要加載的模型按鈕
在搜索框中搜索“DeepSeek”關(guān)鍵詞
根據(jù)搜索結(jié)果,選擇所需的模型,下載到本地。7B、8B、14B、32B、……671B(滿血版),模型參數(shù)越大、性能越強,但對于顯卡和顯存容量的要求也越高。
靜待下載完成……
第三步:本地使用
下載完成后,回到LM Studio對話框就可以使用啦。
頂部可以選擇需要加載的模型。輸入框可以上傳文本文件進行分析,支持PDF、txt和docx格式。快去試試吧。