本项目设计目标为实现针对特定环境的高效内容生成，同时考虑个人和中小企业的计算资源局限性，以及知识安全和私密性问题。为达目标，平台化集成了以下能力：
- 知识库：支持对接本地离线向量库、本地搜索引擎、在线搜索引擎等。
- 多种大语言模型：目前支持离线部署模型有
chatGLM-6B\chatGLM2-6B、chatRWKV、llama系列(不推荐中文用户)、moss(不推荐)、baichuan(需配合lora使用，否则效果差)、Aquila-7B、InternLM，在线API访问openai api和chatGLM-130b api。 - Auto脚本：通过开发插件形式的JavaScript脚本，为平台附件功能，实现包括但不限于自定义对话流程、访问外部API、在线切换LoRA模型。
- 其他实用化所需能力：对话历史管理、内网部署、多用户同时使用等。
交流QQ群：LLM使用和综合讨论群162451840；知识库使用讨论群241773574(已满，请去QQ频道讨论)；Auto开发交流群744842245；QQ频道
| 功能 | 多用户并行 | 流式输出 | CPU | GPU | 量化 | 外挂LoRa |
|---|---|---|---|---|---|---|
| chatGLM-6B/chatGLM2-6B | √ | √ | 需安装编译器 | √ | 预先量化和在线量化 | √ |
| RWKV torch | √ | √ | √ | √ | 预先量化和在线量化 | |
| RWKV.cpp | √ | √ | 可用指令集加速 | 预先量化 | ||
| Baichuan-7B | √ | √ | √ | √ | √ | |
| Baichuan-7B (GPTQ) | √ | √ | √ | 预先量化 | ||
| Aquila-7B | 官方未实现 | √ | √ | |||
| replit | √ | √ | ||||
| chatglm130b api | √ | |||||
| openai api | √ | √ | ||||
| llama.cpp | √ | √ | 可用指令集加速 | 预先量化 | ||
| llama torch | √ | √ | √ | √ | 预先量化和在线量化 | |
| InternLM | √ | √ | √ | √ | 在线量化 |
https://pan.baidu.com/s/1idvot-XhEvLLKCbjDQuhyg?pwd=wdai
链接：https://pan.quark.cn/s/c4cb08de666e 提取码：4b4R
默认参数在6G显存设备上运行良好。最新版懒人版已集成一键更新功能，建议使用前更新。
使用步骤（以glm6b模型为例）：
- 下载懒人版主体和模型，模型可以用内置脚本从HF下载，也可以从网盘下载。
- 如果没有安装
CUDA11.8，从网盘下载并安装。 - 双击运行
运行GLM6B.bat。 - 如果需要生成离线知识库，参考 知识库。
PS:一定要看example.config.yml，里面对各功能有更详细的说明！！！
通用依赖：pip install -r requirements/requirements.txt
根据使用的 知识库进行相应配置
根据需要，下载对应模型。
建议使用chatRWKV的RWKV-4-Raven-7B-v11，或chatGLM-6B。
把example.config.yml重命名为config.yml，根据里面的参数说明，填写你的模型下载位置等信息
auto功能通过JavaScript脚本实现，使用油猴脚本或直接放到autos目录的方式注入至程序，为闻达附加各种自动化功能。
| 函数 （皆为异步调用） | 功能 | 说明 |
|---|---|---|
| send(s,keyword = "",show=true) | 发送信息至LLM，返回字符串为模型返回值 | s：输入模型文本；keyword:聊天界面显示文本；show：是否在聊天界面显示 |
| add_conversation(role, content) | 添加会话信息 | role：'AI'、'user'；content：字符串 |
| save_history() | 保存会话历史 | 对话完成后会自动保存，但手动添加的对话须手动保存 |
| find(s, step = 1) | 从知识库查找 | 返回json数组 |
| find_dynamic(s,step=1,paraJson) | 从动态知识库查找；参考闻达笔记Auto | paraJson：{libraryStategy:"sogowx:3",maxItmes:2} |
| zsk(b=true) | 开关知识库 | |
| lsdh(b=true) | 开关历史对话 | 打开知识库时应关闭历史 |
| speak(s) | 使用TTS引擎朗读文本。 | 调用系统引擎 |
| copy(s) | 使用浏览器clipboard-write复制文本 |
需要相关权限 |
在左侧功能栏添加内容：
func.push({
name: "名称",
question: async () => {
let answer=await send(app.question)
alert(answer)
},
})
在下方选项卡添加内容：
app.plugins.push({ icon: 'note-edit-outline', url: "/static/wdnote/index.html" })
在指定RTST知识库查找:
find_in_memory = async (s, step, memory_name) => {
response = await fetch("/api/find_rtst_in_memory", {
method: 'post',
body: JSON.stringify({
prompt: s,
step: step,
memory_name: memory_name
}),
headers: {
'Content-Type': 'application/json'
}
})
let json = await response.json()
console.table(json)
app.zhishiku = json
return json
}
上传至指定RTST知识库:
upload_rtst_zhishiku = async (title, txt,memory_name) => {
response = await fetch("/api/upload_rtst_zhishiku", {
method: 'post',
body: JSON.stringify({
title: title,
txt: txt,
memory_name: memory_name
}),
headers: { 'Content-Type': 'application/json' }
})
alert(await response.text())
}
保存指定RTST知识库:
save_rtst = async (memory_name) => {
response = await fetch("/api/save_rtst_zhishiku", {
method: 'post',
body: JSON.stringify({
memory_name: memory_name
}),
headers: { 'Content-Type': 'application/json' }
})
alert(await response.text())
}
访问SD_agent:
response = await fetch("/api/sd_agent", {
method: 'post',
body: JSON.stringify({
prompt: `((masterpiece, best quality)), photorealistic,` + Q,
steps: 20,
// sampler_name: "DPM++ SDE Karras",
negative_prompt: `paintings, sketches, (worst quality:2), (low quality:2), (normal quality:2), lowres, normal quality, ((monochrome)), ((grayscale)), skin spots, acnes, skin blemishes, age spot, glans`
}),
headers: {
'Content-Type': 'application/json'
}
})
try {
let json = await response.json()
add_conversation("AI", '
} catch (error) {
alert("连接SD API失败，请确认已开启agents库，并将SD API地址设置为127.0.0.1:786")
}
| 文件名 | 功能 |
|---|---|
| 0-write_article.js | 写论文：根据题目或提纲写论文 |
| 0-zsk.js | 知识库增强和管理 |
| face-recognition.js | 纯浏览器端人脸检测：通过识别嘴巴开合，控制语音输入。因浏览器限制，仅本地或TLS下可用 |
| QQ.js | QQ机器人:配置过程见文件开头注释 |
| block_programming.js | 猫猫也会的图块化编程:通过拖动图块实现简单Auto功能 |
| 1-draw_use_SD_api.js | 通过agents模块（见example.config.yml<Library>）调用Stable Diffusion接口绘图 |
以上功能主要用于展示auto用法，进一步能力有待广大用户进一步发掘。
知识库原理是在搜索后，生成一些提示信息插入到对话里面，知识库的数据就被模型知道了。rtst模式计算语义并在本地数据库中匹配；fess模式（相当于本地搜索引擎）、bing模式均调用搜索引擎搜索获取答案。
为防止爆显存和受限于模型理解能力，插入的数据不能太长，所以有字数和条数限制，这一问题可通过知识库增强Auto解决。
正常使用中，勾选右上角知识库即开启知识库。
有以下几种方案：
- rtst模式，sentence_transformers+faiss进行索引，支持预先构建索引和运行中构建。
- bing模式，cn.bing搜索，仅国内可用
- bingsite模式，cn.bing站内搜索，仅国内可用
- fess模式，本地部署的fess搜索，并进行关键词提取
sentence_transformers+faiss进行索引、匹配，并连同上下文返回。目前支持txt和pdf格式。
支持预先构建索引和运行中构建，其中，预先构建索引强制使用cuda，运行中构建根据config.yml(复制example.config.yml)中rtst段的device(embedding运行设备)决定，对于显存小于12G的用户建议使用CPU。
Windows预先构建索引运行：plugins/buils_rtst_default_index.bat。
Linux直接使用wenda环境执行 python plugins/gen_data_st.py
需下载模型置于model文件夹，并将txt格式语料置于txt文件夹。
闻达用户“帛凡”，训练并提供的权重合并模型和lora权重文件，详细信息见https://huggingface.co/fb700/chatglm-fitness-RLHF ，使用该模型或者lora权重文件，对比hatglm-6b、chatglm2-6b、百川等模型，在闻达知识库平台中，总结能力可获得显著提升。
- GanymedeNil/text2vec-large-chinese 不再推荐，不支持英文且显存占用高
- moka-ai/m3e-base 推荐
在本机使用默认端口安装fess后可直接运行。否则需修改config.yml(复制example.config.yml)中fess_host的127.0.0.1:8080为相应值。FESS安装教程
安装 utool 工具，uTools 是一个极简、插件化的桌面软件，可以安装各种使用 nodejs 开发的插件。您可以使用插件对闻达的知识库进行数据清洗。请自行安装以下推荐插件：
- 插件“解散文件夹”，用于将子目录的文件移动到根目录，并删除所有子目录。
- 插件“重复文件查找”，用于删除目录中的重复文件，原理是对比文件 md5。
- 插件“文件批量重命名”，用于使用正则匹配和修改文件名，并将分类后的文件名进行知识库的分区操作。
运行：run_GLM6B.bat。
模型位置等参数：修改config.yml(复制example.config.yml)。
默认参数在GTX1660Ti（6G显存）上运行良好。
支持torch和cpp两种后端实现，运行：run_rwkv.bat。
模型位置等参数：见config.yml(复制example.config.yml)。
可使用内置脚本对模型量化，运行：cov_torch_rwkv.bat。此操作可以加快启动速度。
在安装vc后支持一键启动CUDA加速，运行：run_rwkv_with_vc.bat。强烈建议安装！！！
可使用内置脚本对torch版模型转换和量化。 运行：cov_ggml_rwkv.bat。
设置strategy诸如"Q8_0->8"即支持量化在cpu运行，速度较慢，没有显卡或者没有nvidia显卡的用户使用。
注意：默认windows版本文件为AVX2，默认Liunx版本文件是在debian sid编译的，其他linux发行版本未知。
可以查看：saharNooby/rwkv.cpp，下载其他版本，或者自行编译。
- 运行
pip install FlagAI。注意FlagAI依赖很多旧版本的包，需要自己编译，所以如果想基于python3.11运行或者想在一个环境同时跑其他模型，建议去下懒人包 - 运行：
run_Aquila.bat。
模型位置等参数：见config.yml(复制example.config.yml)。注意模型要在这里下：https://model.baai.ac.cn/model-detail/100101
项目调用闻达的 api 接口实现类似于 new bing 的功能。 技术栈：vue3 + element-plus + ts
通过宏，调用闻达HTTP API
