mirrors / zai-org--chatglm3

文件历史

380 提交 2 分支 0 Git 标签
main
提交图

37 次代码提交

作者 SHA1 备注 提交日期
zR 91f20a3a79 demo修改 2024-05-21 17:34:46 +08:00
zR c6fe1afa1b fix some issue 2024-05-21 17:26:26 +08:00
wylilong 21b08bab8a agent-chat-openai工具调度算法更新 2024-05-08 16:00:49 +08:00
wylilong e41093e210 改进openai agent-chat 2024-04-23 16:42:20 +08:00
wylilong 93f29c90bd 改进 openai agent-chat 2024-04-23 15:45:53 +08:00
wylilong 6c0afae6e4 改进openai agent chat 2024-04-23 14:39:08 +08:00
zR 8e8dd5d31e Merge branch 'main' of https://github.com/zRzRzRzRzRzRzR/ChatGLM3 2024-04-11 16:40:05 +08:00
zR ff396df305 Langchain 问题更新，防止误解 2024-04-11 16:40:03 +08:00
st01cs 8bbf5d225f embeddings 接口支持text 2024-04-08 14:40:38 +08:00
zR 6e00a6c4dc 修复一些微调bug#1079 2024-04-02 20:27:37 +08:00
zR a103d807e4 #870 修改为invoke 2024-02-29 13:02:48 +08:00
zR 9df0c8a579 增加了 api + langchain 的demo 2024-02-26 16:27:45 +08:00
zR 9589866a5e update for Zhipu API request 2024-01-16 19:43:19 +08:00
zR cea1b23b6d 更新openai脚本和部分拼写错误 2024-01-15 13:57:46 +08:00
zR 87fc05ffef 更新了正确的依赖 2024-01-05 11:06:52 +08:00
EK d5e06cb493 fix response 2024-01-05 09:12:32 +08:00
EK e56d36d678 with docker 2024-01-04 10:34:09 +08:00
EK 45a5426d81 add health check in fastapi 2024-01-04 10:14:56 +08:00
EkainCao 6d3a5c7498 make some simple docker files with locally models 2023-12-30 13:24:37 +08:00
zR 6428a0754b 更新openAI demo ReadMe (#670) 
* 更新OpenAI demo

对 OpenAI接口进行升级，对标最新的OpenAI接口，包括
1. 支持载入相似度模型来实现 Embedding接口
2. 支持 Function Call请求
3. 使用 OpenAI client作为用户端，进一步降低使用门槛
4. 更新了部分依赖
 2023-12-29 15:35:00 +08:00
zR 26fd71412d 更新OpenAI demo (#669) 
* 更新OpenAI demo

对 OpenAI接口进行升级，对标最新的OpenAI接口，包括
1. 支持载入相似度模型来实现 Embedding接口
2. 支持 Function Call请求
3. 使用 OpenAI client作为用户端，进一步降低使用门槛
4. 更新了部分依赖
 2023-12-29 15:24:09 +08:00
zR 55b3a89f2c 添加 TensorRT-LLM 代码 2023-12-24 22:54:22 +08:00
zR 9030d0c7fb fix #636 2023-12-22 15:51:12 +08:00
zR f1852ec467 恢复模型多卡加载，自动切分模型 2023-12-19 16:20:06 +08:00
zR 50833244be 更新demo 
1. 支持清除历史/重试
2. 更新了新的requirement.txt
3. 记得去huggingface下载最新的配置文件（几天前）
 2023-12-17 22:19:05 +08:00
zR 796e6d82aa 解决 #543 提到的问题，client启动增加了PRE_SEQ_LEN 2023-12-06 17:04:02 +08:00
SamgeShao 425c91cb2d fix：非工具调用的stream模式下，先发一个空字符，避免被后续的next()操作截断 2023-12-05 14:06:15 +08:00
SamgeShao 95942a7fb8 支持：在stream模式下处理工具调用 + 调用工具时支持stream输出 2023-12-05 13:04:20 +08:00
zR 40dbd5bf0d 更新文档和修复bug 
1. 修复 #479提到的问题
2. 完善了lora finetune base模型的文档
 2023-11-29 18:25:05 +08:00
zR e31cff5298 增加OpenAI API的示例 
1. 增加Function Call内容
2. 修改警告示例，因为在传入历史的时候，并不需要执行Function
3. 未发现流式输出问题
 2023-11-24 11:26:58 +08:00
zR cfe869173e 修复API第一次输出会有一个回车和空格的问题 #410 2023-11-23 11:51:50 +08:00
zR c6449859f3 支持 cuda:0 等多卡指定其中一张的情况 2023-11-20 15:41:04 +08:00
zR 0b18f4b91f 更新了cpu和其他非cuda设备的支持 
修复cpu使用中的float报错，加上了其他设备的支持样例写法
 2023-11-20 15:36:35 +08:00
zR 5120067f45 去除openai API中的max_length 
1. 去除OpenAI API demo中的max_length, 使用max_new_tokens，更符合OpenAI API格式
2. 更新了依赖，将pydantic>=2.5.1，使用Pydantic3语法，并修改了部分代码
 2023-11-17 13:08:28 +08:00
zR 685dd2e93b 依赖更新和参数更新 
1. 更新了部分依赖
2. 更新了composite_demo的参数，增加惩罚参数，以防止重复现象
3. 移动了OpenAI的依赖，防止依赖冲突
4. 更新对应文档
 2023-11-16 16:14:16 +08:00
zR 695b92faa6 按照要求修改了不同demo的位置 
1. 修改了openai demo的位置
2. 修改了基本demo的位置，修改了部分utils内容
 2023-11-10 17:59:30 +08:00
zR 7a557f5b62 修改OpenAI接口的代码 
1. 修改了max_tokens接口，现在openai接口的max_tokens对应的是huggingface中的max_new_tokens，删掉max_length,与OpenAI官方API的实际情况更加贴近。
2. 增加一个接口请求示例并修改了文档(Readme)
3. 修改langchain_demo中错误的模型地址
 2023-11-10 17:09:00 +08:00