搭建Dify+Ollama本地聊天機(jī)器人
Dify 是一款功能強(qiáng)大、易于使用的開源 AI 平臺(tái)，它為開發(fā)者提供了一個(gè)構(gòu)建、部署和管理 AI 應(yīng)用的便捷方式。 憑借其可視化界面、多模型支持和可擴(kuò)展性，Dify 正在成為越來越多開發(fā)者和企業(yè)的首選，本篇我們一起來看看如何快捷方便地搭建Dify+Ollama本地聊天機(jī)器人。
一、安裝部署
Dify有兩種安裝方式，一種是Docker Compose部署，另一種是本地源碼編譯后再安裝，為了方便快捷，本次選擇在Ubuntu下用Docker Compose部署，Dify也支持Windows 或macOS系統(tǒng)。還要確保電腦有足夠的硬件資源來運(yùn)行Ollama大模型，建議配備一個(gè)GPU。
1.安裝docker
在Ubuntu終端中運(yùn)行：
# 添加 Docker 的官方 GPG 密鑰:
sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
# 將存儲(chǔ)庫添加到 Apt 源:
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update安裝 Docker 軟件包：
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin安裝驗(yàn)證：
sudo docker run hello-world如出現(xiàn)連接錯(cuò)誤，可嘗試添加docker鏡像源：
創(chuàng)建文件 ：/etc/docker/daemon.json，添加以下內(nèi)容：
{
"registry-mirrors": [
"https://docker.hpcloud.cloud",
"https://docker.m.daocloud.io",
"https://docker.unsee.tech",
"https://docker.1panel.live",
"http://mirrors.ustc.edu.cn",
"https://docker.chenby.cn",
"http://mirror.azure.cn",
"https://dockerpull.org",
"https://dockerhub.icu",
"https://hub.rat.dev",
"https://proxy.1panel.live",
"https://docker.1panel.top",
"https://docker.m.daocloud.io",
"https://docker.1ms.run",
"https://docker.ketches.cn"
]
}保存文件后，重新啟動(dòng) Docker 服務(wù)：
sudo systemctl daemon-reload
sudo systemctl restart docker2.安裝Dify
克隆 Dify 源代碼至本地環(huán)境。
git clone https://github.com/langgenius/dify.git啟動(dòng) Dify
cd dify/docker
cp .env.example .env
docker compose up -d
正確啟動(dòng)后，打開管理員初始化頁面以設(shè)置 admin 賬戶：
http://localhost/install
填入郵箱，用戶名和密碼后，點(diǎn)設(shè)置，即可進(jìn)入。
3.安裝Ollama
Linux用如下指令安裝：
curl -fsSL https://ollama.com/install.sh | sh我們這里選Goolge的gemma3:12b模型，下載大模型 gemma：12b
ollama run gemma3:12b也可以選deepseek-r1或者qwen3，完成后，即可與大模型對(duì)話了。
至此，安裝完成。
二、配置
1.創(chuàng)建管理員賬號(hào)
這里需要輸入一個(gè)郵箱地址和密碼。
2.登錄后如下圖，進(jìn)行配置
模型設(shè)置頁：
3.填入Ollama模型信息
如果用docker部署Dify，Ollama的本機(jī)地址不能填127.0.0.1或localhost，必須填入本機(jī)真實(shí)地址，比如：https://192.168.1.30:11434，否則會(huì)出現(xiàn)連接錯(cuò)誤。
還要配置系統(tǒng)模型，本次只需添加系統(tǒng)推理模型
4.創(chuàng)建一個(gè)應(yīng)用
應(yīng)用配置：
這里可以看到已經(jīng)自動(dòng)創(chuàng)建了對(duì)話工作流，點(diǎn)發(fā)布完成配置。
三、應(yīng)用的運(yùn)行
創(chuàng)建并發(fā)布新應(yīng)用后，就可以在探索頁面中打開了
輸入問題就可以跟模型對(duì)話了。
四、總結(jié)
本次我們?cè)诒镜仉娔X上安裝部署了Dify應(yīng)用開發(fā)工具， 總體來說它能為我們帶這些便捷：
- 可視化工作流設(shè)計(jì):Dify 提供了一個(gè)直觀的可視化界面，允許你通過拖放節(jié)點(diǎn)的方式來設(shè)計(jì)和構(gòu)建 LLM 應(yīng)用的工作流程。這大大降低了開發(fā)門檻，即使沒有編程經(jīng)驗(yàn)的人也能快速上手。
- Agent 工作流:Dify 強(qiáng)調(diào) Agent 的概念，允許你創(chuàng)建具有自主決策能力的 AI 代理。這些代理可以執(zhí)行任務(wù)、調(diào)用工具、并與外部系統(tǒng)進(jìn)行交互。
- 數(shù)據(jù)連接:Dify 提供了與各種數(shù)據(jù)源的連接器，例如數(shù)據(jù)庫、文件存儲(chǔ)、API 等，方便你將 LLM 應(yīng)用與你的數(shù)據(jù)集成。
- 工具集成:你可以在 Dify 中集成各種工具，例如搜索引擎、計(jì)算器、代碼執(zhí)行器等，擴(kuò)展 LLM 應(yīng)用的功能。
- 記憶功能:Dify 支持記憶功能，允許 LLM 應(yīng)用記住之前的交互和上下文信息，提供更個(gè)性化的體驗(yàn)。
- 開源和可擴(kuò)展:Dify 是一個(gè)開源項(xiàng)目，你可以自由地使用、修改和擴(kuò)展它。
- 支持多種 LLM:Dify 支持多種大型語言模型，例如 OpenAI 的 GPT 系列、Google 的 PaLM、Deepseek，Qwen等開源模型等。
我們搭建的這個(gè)對(duì)話機(jī)器人暫時(shí)不具備聯(lián)網(wǎng)搜索功能，還需要加入一些工作流的配置，感興趣的同學(xué)可以先行了解一下，后續(xù)我會(huì)陸續(xù)在Dify中加入不同的功能，比如RAG，Agent，聯(lián)網(wǎng)搜索等等...
參考網(wǎng)址：
1. Ollama官網(wǎng)：https://ollama.com/
2. Dify官網(wǎng)：??https://dify.ai/zh??
3. Dify Github：???https://github.com/langgenius/dify/??
本文轉(zhuǎn)載自???碼農(nóng)隨心筆記???，作者：碼農(nóng)隨心筆記
