-
Notifications
You must be signed in to change notification settings - Fork 45
/
README.md
108 lines (96 loc) · 5.21 KB
/
README.md
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
# langchain-springboot
用langchain的思想，构建SpringBoot AI应用。
🚩 本项目未涉及AI模型的微调、训练过程，仅使用相关大语言模型作为技术底座实现相关功能，模型的使用请参看相关官方文档。
## 涉及技术栈
| 组件 | 版本 |
|--------------|----------------------------------------------|
| java | 17+ |
| SpringBoot | 3.1.0 |
| swagger-ui | knife4j-openapi3-jakarta-spring-boot-starter |
| 工具包 | hutool-all |
| 缓存 | redis |
| json | fastjson2 |
| mysql | mysql-connector-j |
| orm框架 | mybatis-plus |
| openai库 | openai-java |
| 前端 | freemarker、bootstrap、jquery、recorder.js |
| stream-chat | SSE |
| LLMs | openai、chatglm2、文心一言 、智谱AI、Kimi |
| embeddings | openai、text2vec-transformers、文心一言 |
| vector store | weaviate、milvus |
## langchain 原理
<img src="src/main/resources/assets/langchain+chatglm.png" alt="原理图"/>
## 模型能力矩阵
| 模型/能力 | 文本生成 | 流式输出 | 语音 | 函数调用 | 图片生成 | 多模态(VISION) | 嵌入EMBEDDING |
|-----------|-----------|-----------|-----------|-----------|------|-----------|-----------|
| openai | 支持 | 支持 | 支持 | 支持 | 支持 | 支持 | 支持 |
| 百度(文心) | 支持 | 支持 | - | 支持 | 支持 | - | 支持 |
| 智谱(GLM-4) | 支持 | 支持 | - | 支持 | 支持 | 支持 | 支持 |
| kimi | 支持 | 支持 | - | - | - | - | - |
| chatglm2 | 支持 | 支持 | - | - | - | - | - |
| ... ... | - | - | - | - | - | - |- |
## 功能路线图
已完成本地知识库上传、及完成openai、chatglm2、百度、智谱GLM-4、kimi五个LLMs模型流式聊天功能。未来计划会接入更多大语言模型，以满足更多需求场景。
- [ ] Langchain 知识库
- [x] 接入非结构化文档（已支持 md、pdf、docx、txt、csv 等文件格式）
- [x] 搜索引擎接入
- [ ] 结构化数据接入（如Excel、SQL 等）
- [ ] 知识图谱/图数据库接入
- [ ] 系统功能
- [ ] 用户
- [x] 用户登录
- [ ] 用户注册
- [ ] 第三方登录
- [x] 基于 SSE 实现 Stream Chat
- [x] 语音输入输出
- [x] 会话管理
- [x] 知识库管理
- [x] 支持搜索引擎问答
- [ ] prompts相关功能
- [x] 摘要
- [x] 翻译
- [x] 关键词
- [x] 文本分类
- [x] 内容安全
- [x] 偏好分析
- [ ] 查重
- [x] 文生图
- [ ] 前端
- [x] 移动端适配
- [x] 代码等内容流式输出优化
## Quick Start
### 1. 执行数据库脚本
```sql
init-script/db.sql
```
### 2. 安装本地向量数据库
```dockerfile
-- 安装启动本地向量数据库
docker-compose up -d
```
### 3. 大语言模型
```java
// 配置openai api token
openai.token=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
```
```python
# 或者启动本地chatglm2-6B模型
python .\openai_api.py
```
## 更多配置请查看
[Wiki](https://github.com/hkh1012/langchain-springboot/wiki)
[如何构建高质量知识库文档](https://github.com/hkh1012/langchain-springboot/wiki/How-to-build-a-high%E2%80%90quality-knowledge-base)
## 功能展示
| <img src="src/main/resources/assets/login_app.png" alt="登录" with="200"/> |<img src="src/main/resources/assets/functions_1.png" alt="首页"/>|<img src="src/main/resources/assets/functions_2.png" alt="功能2"/>|<img src="src/main/resources/assets/functions_3.png" alt="功能3"/>|
|--------------------------------------------------------------------------| ------ | ------ | ------ |
|<img src="src/main/resources/assets/functions_4.png" alt="功能4"/>|<img src="src/main/resources/assets/functions_5.png" alt="功能5"/>|<img src="src/main/resources/assets/functions_6.png" alt="功能6"/>|<img src="src/main/resources/assets/functions_7.png" alt="功能7"/>|
|<img src="src/main/resources/assets/functions_8.png" alt="功能8"/>|<img src="src/main/resources/assets/functions_9.png" alt="功能9"/>|||
## 聊天Demo
<img src="src/main/resources/assets/stream-chat.png" alt="聊天"/>
本地知识库
<img src="src/main/resources/assets/use_lk.png" alt="知识库"/>
<img src="src/main/resources/assets/use_lk2.png" alt="知识库"/>
## 项目交流群
<img src="src/main/resources/assets/weixin_qun.png" alt="二维码" width="300" height="467" />
<img src="src/main/resources/assets/weixin_02.png" alt="二维码" width="300" height="406" />
🎉 langchain-springboot 项目微信交流群，如果你也对本项目感兴趣，欢迎加入群聊参与讨论交流。如群二维码已过期请扫我的个人二维码拉入群