博客/Ollama

Ollama

共 6 篇文章

共 6 篇
全部文章共 6 篇
LangChain

LangChain 1.2 入门(九):Ollama 本地模型部署与调用

Ollama 在 Windows/Linux 上怎么装、模型目录怎么改、常用命令有哪些,以及 ChatOllama 与 init_chat_model 两种本地调用方式。

2026-10-23 · 6 分钟阅读 28点赞 0评论 0
大模型

企业级大模型私有化部署(四):Xinference 部署 Embedding 与 Rerank

装 Xinference、部署 bge-large-zh-v1.5 和 reranker,再通过 6007 隧道接进 Dify,补 xoscar 兼容问题。

2026-10-12 · 9 分钟阅读 20点赞 0评论 0
大模型

企业级大模型私有化部署(三):AutoDL + Ollama 部署 qwen3:4b

租 4090、开学术加速、装 Ollama、跑 qwen3:4b,再用 SSH 隧道把模型接进 Dify。

2026-10-11 · 9 分钟阅读 21点赞 0评论 0
大模型

企业级大模型私有化部署(二):腾讯云 + Docker 起 Dify

从腾讯云 CVM 选型、装 Docker、拉 Dify 源码到首次设置管理员,附镜像、端口和常见报错。

2026-10-10 · 10 分钟阅读 24点赞 0评论 0
大模型

企业级大模型私有化部署(一):RAG、Agent 与三台服务器

企业为什么要私有化、RAG 和 Agent 两个场景怎么落到模型服务,以及 Dify、Ollama、Xinference 三台服务器怎么分工。

2026-10-09 · 7 分钟阅读 24点赞 0评论 0
大模型

4GB 显存跑通本地大模型:Ollama + Qdrant 环境搭建完整教程

如果你想在一台没有独立显卡(或者只有一张老显卡)的机器上,跑通一套**完全离线**的「文档问答」环境——本地把文字转成向量、本地存起来、本地检索、本地生成回答,不调用任何在线大模型服务——这篇文章把整个过程从头到尾写了一遍。 实测机器:i5-10400F +

2026-09-30 · 24 分钟阅读 22点赞 0评论 0