imClumsyPanda
23-08-14 22:41 微博认证:摄影博主

🎉 原 Langchain-ChatGLM 项目已正式发布 v0.2.0 版本,并正式更名为 Langchain-Chatchat,Star 数量已达到 13.6k。项目已重构为使用 FastChat + Langchain + FastAPI + Streamlit 构建的基于 Langchain 与 ChatGLM 等大语言模型的本地知识库问答应用实现。

🔗 github.com/chatchat-space/Langchain-Chatchat

🐳 v0.2.0 Docker版本已发布,一行命令运行:docker run -d --gpus all -p 80:8501 registry.cn-beijing.aliyuncs.com/chatchat/chatchat:0.2.0

🌐 v0.2.0 AutoDL镜像: http://t.cn/A60dchXO

🛠️ 0.2.0 版本与 0.1.x 变更内容:

1. 使用 FastChat 提供开源 LLM 模型的 API,以 OpenAI API 接口形式接入,提升 LLM 模型加载效果,并支持近期新出的baichuan-inc/baichuan-7B、internlm/internlm-chat-7b、Qwen/Qwen-7B-Chat等模型;

2. 使用 langchain 中已有 Chain 的实现,便于后续接入不同类型 Chain,并将对 Agent 接入开展测试;

3. 接入 的Embedding 模型方面也增加了最近新出的 moka-ai/m3e-base、BAAI/bge-base-zh 等;

4. 使用 FastAPI 提供 API 服务,全部接口可在 FastAPI 自动生成的 docs 中开展测试,且所有对话接口支持通过参数设置流式或非流式输出;

5. 使用 Streamlit 提供 WebUI 服务,可选是否基于 API 服务启动 WebUI,后续可支持不同形式输出内容的显示;

6. 项目中默认 LLM 模型改为 THUDM/chatglm2-6b,默认 Embedding 模型改为 moka-ai/m3e-base,文件加载方式与文段划分方式也有调整,后续将重新实现上下文扩充,并增加可选设置;

7. 项目中扩充了对不同类型向量库的支持,除支持 FAISS 向量库外,还提供 Milvus, PGVector 向量库的接入;

8. 项目中搜索引擎对话,除 Bing 搜索外,增加 DuckDuckGo 搜索选项,DuckDuckGo 搜索无需配置 API Key,在可访问国外服务环境下可直接使用。

🧑‍💻 后续项目的重点将放在基于开源模型的 Chain 与 Agent 的实现探索,并将持续优化知识库体验,期待有兴趣的朋友一起加入开源社区,共同建设 Langchain-Chatchat 项目!

📧 如有商业合作需求,欢迎通过邮箱联系:imclumsypanda@chatchat.space

发布于 上海