自由化的ollama webUI界面。
- 流式聊天：本地化存储，上下文流式的聊天。
- 模型管理：可视化管理ollama模型，包含：拉取模型、删除模型、切换聊天模型。
- 主题切换：暗黑/明亮主题切换，适配PC与移动端。
- 界面信息修改：可修改界面信息如：logo、用户头像名称等
- RAG配置：可配置向量数据库或提示模版
- functioncall：又叫做工具调用，类似于openAI的functioncalling，使用qwen-agent模块，最好使用qwen32b及更大模型使用（目前只有python版本支持，nodejs可自行编码）
- 支持免费GPT-4o：接入了免费的GPT-4o，具体使用请看教程：地址
git clone https://github.com/812781385/ollama-webUI.gitcd ./ollama-webUIcd ./clientpnpm inpm run dev修改.env 里的VITE_APP_AXIOS_BASE_URL 为自己的ip地址（可选）
- 进入目录：
cd serve - 安装所需依赖：
npm i // 需要安装egg-init - 启动：
npm run dev
- 进入目录：
cd python-serve - 创建虚拟环境：
python3 -m venv my_venv - 激活虚拟环境：
source my_venv/bin/activate;windows使用my_venv\Scripts\activate - 安装所需依赖：
pip install -r requirements.txt - 启动：
python3 app.py - 退出虚拟环境：
deactivate
- 进入目录：
cd python-serve - 创建虚拟环境：
python3 -m venv my_venv - 激活虚拟环境：
source my_venv/bin/activate;windows使用my_venv\Scripts\activate - 安装所需依赖：
pip install -r requirements.txt - 启动：
python3 app.py - 退出虚拟环境：
deactivate - 具体使用请看教程：地址
- 访问官网地址：
https://ollama.com/download，选择适合自己系统。（如果你是linux，安装过程可能很慢。先更新curl） - 启动服务：
ollama serve，(如果发现端口被占用，可能是默认开机启动状态，macos和windows先关闭ollama，linux使用命令service ollama stop) - 关闭服务：
command + C，(如果你是linux使用service ollama stop) - 后台启用：
nohup ollama serve > log.txt 2>&1 &
- 如果你要使用RAG，请先安装chroma数据库，参见 https://docs.trychroma.com/getting-started
chroma run // 启动数据库服务
- 图片展示
- 视频演示
- 2024-10-23 接入免费的GPT-4o
- 2024-10-22 优化输入的mkdown显示，和输入框样式
- 2024-7-20 添加python版本服务，支持functioncall工具调用