LangChain
LangChain 1.2 入门(九):Ollama 本地模型部署与调用
Ollama 在 Windows/Linux 上怎么装、模型目录怎么改、常用命令有哪些,以及 ChatOllama 与 init_chat_model 两种本地调用方式。
大模型
企业级大模型私有化部署(四):Xinference 部署 Embedding 与 Rerank
装 Xinference、部署 bge-large-zh-v1.5 和 reranker,再通过 6007 隧道接进 Dify,补 xoscar 兼容问题。
大模型
企业级大模型私有化部署(三):AutoDL + Ollama 部署 qwen3:4b
租 4090、开学术加速、装 Ollama、跑 qwen3:4b,再用 SSH 隧道把模型接进 Dify。
大模型
企业级大模型私有化部署(二):腾讯云 + Docker 起 Dify
从腾讯云 CVM 选型、装 Docker、拉 Dify 源码到首次设置管理员,附镜像、端口和常见报错。
大模型
企业级大模型私有化部署(一):RAG、Agent 与三台服务器
企业为什么要私有化、RAG 和 Agent 两个场景怎么落到模型服务,以及 Dify、Ollama、Xinference 三台服务器怎么分工。
大模型
4GB 显存跑通本地大模型:Ollama + Qdrant 环境搭建完整教程
如果你想在一台没有独立显卡(或者只有一张老显卡)的机器上,跑通一套**完全离线**的「文档问答」环境——本地把文字转成向量、本地存起来、本地检索、本地生成回答,不调用任何在线大模型服务——这篇文章把整个过程从头到尾写了一遍。 实测机器:i5-10400F +