發簡信
IP屬地：廣西
-
Rocky Linux安裝FFMPEG
1.添加RPM Fusion存儲庫默認情況下，Rocky Linux 9/AlmaLinux 9 存儲庫中不提供 FFmpeg。我們需要添加額外...
-
基于VLLM部署QwQ-32B-AWQ多機多卡
VLLM安裝 參考：http://www.lxweimin.com/p/fd0297790806[http://www.lxweimin.com...
-
Dify安裝
訪問地址 http://10.3.6.38/ 先注冊賬號 admin@xxx/xxx2870
-
基于VLLM部署deepseek多機多卡分布式推理背景 機器：4節點，每節點2張A40操作系統：RockyLinux9.5Ollama只能在單機運行deepseek，無法利用多機進行分布式推理。...
-
基于Vanna實現智能BI交互(Text2Sql)環境 操作系統：RockyLinux容器：Docker大語言模型：Deepseek-r1-70b 安裝向量數據庫 chromadb (可省略） ...
-
大模型API接口壓測 - evalscope
環境 操作系統：RockyLinux安裝anaconda環境，可參考：http://www.lxweimin.com/p/9939df72356...
-
安裝 anaconda環境
環境 操作系統：RockyLinux 安裝 anaconda 下載安裝腳本并執行 配置環境變量 如果修改了自定義路徑，請把$HOME/anaco...
-
Ollama運行嵌入式模型（Embedding Model）
安裝Ollama 省略，參考：http://www.lxweimin.com/p/ca6af4c96581[https://www.jiansh...
-
Ollama本地運行DeepSeek - Docker方式
安裝Docker 參考：http://www.lxweimin.com/p/62bac0a1060a[https://www.jianshu.c...