把 DeepSeek 部署在你的電腦上,保姆級教程,建議收藏! 原創
本地電腦部署主要適用于以下5種場景:
第一、設備性能較強,配備獨立顯卡,能夠支撐高效運行。
第二、需要處理敏感數據,對數據安全性有較高要求,以防泄露。
第三、需要與本地工作流程緊密結合,應對頻繁或復雜的任務處理。
第四、日常頻繁使用,且 API 調用成本較高,本地部署有助于降低成本。
第五、希望在開源模型基礎上,進行個性化定制和優化。
1、DeepSeek R1 模型部署2步搞定
本部分內容將重點闡述如何在本地環境下利用 Ollama 來部署 DeepSeek R1。后續章節將詳細講解如何將 DeepSeek R1 與 Open-WebUI 系統進行集成,讓交互界面更美觀。
第一、安裝 Ollama
請訪問 Ollama 的官方網站,根據你的操作系統選擇合適的版本,下載 Ollama應用程序并進行安裝。
安裝完成后,打開命令行界面并輸入
ollama
命令。如果屏幕上出現以下提示信息,那么恭喜你,Ollama 已經成功安裝。
第二、部署 DeepSeek R1 模型
首先,訪問 Ollama 官網并點擊頁面頂部的「模型」(Models)選項,接著在列表中找到并點擊「DeepSeek R1」:
在模型詳情頁面,根據您的計算機顯存容量選擇合適的模型版本:
例如,我的電腦運行的是 MacOS 系統,擁有 32GB 的顯存,因此我選擇了14b 版本的模型。點擊 14b 版本,頁面右側將顯示下載指令:
將此下載命令復制并粘貼到命令行中執行:
待命令執行完畢,您就可以通過命令行與大模型進行交互了:
然而,僅通過命令行與大模型交流可能不夠便捷。因此,接下來,我們將介紹與 Open-WebUI 系統進行集成,讓交互界面更美觀。以便通過更直觀的圖形界面進行操作。
2、安裝 Open-WebUI 交互界面
安裝 Open-WebUI,按照以下4個步驟來操作:
第一、首先安裝 Docker, 利用 Docker 來管理操作系統界面,這比直接安裝Open-WebUI 更為便捷。訪問 Docker 官方網站(https://www.docker.com/)進行下載。
第二、根據您的電腦操作系統,下載 Docker 桌面版并進行安裝。
安裝完成后,請重啟電腦以確保 Docker 能夠正常運行。電腦重啟后,如果桌面上出現Docker 圖標,表明安裝成功。
第三、安裝 Open-WebUI
在瀏覽器中搜索 Open-WebUI,進入其官網,并復制顯示在紅框中的安裝命令。
按照上述指示,打開命令行工具,粘貼復制的命令,然后等待安裝完成。
第四、啟動 Open-WebUI
雙擊桌面上的 Docker 圖標以打開應用,點擊紅框標注的端口,即可啟動 Open-WebUI。
首次訪問時,您需要注冊一個賬號。這些信息將會存儲在您的電腦上。
第五、開始對話
在界面的左上角選擇您的 DeepSeek R1 大模型,之后便可開始對話。
請注意,Open-WebUI 的安裝過程在此僅作簡要說明。若遇到錯誤,您需要可以借助 DeepSeek R1 大模型協助解決問題的能力。
本文轉載自公眾號玄姐聊AGI 作者:玄姐
