文件历史

25 次代码提交

作者 SHA1 备注 提交日期
zR f99e7df572 fix quantize bug
fix #1059 #1052
2024-04-04 19:19:26 +08:00
zR 202287564e add .eval 2024-02-07 18:10:30 +08:00
zR b5b6738a0b 修复了错误的int4解释 2024-02-07 18:08:37 +08:00
zR f5a1b8c28d 补充部分说明文档 2024-02-02 00:10:38 +08:00
zR 0ffbe4cae8 更新部分微调代码
更新了4.36.2版本transformers微调的部分代码
2023-12-23 16:21:19 +08:00
zR 55463c7df4 更新依赖 2023-12-19 17:11:30 +08:00
zR 9594024bc6 修复#618 bug 2023-12-19 17:09:14 +08:00
zR f1852ec467 恢复模型多卡加载,自动切分模型 2023-12-19 16:20:06 +08:00
zR 7eda702498 恢复多卡支持,更新基础例子 2023-12-19 14:00:53 +08:00
zR dc6b8ceb60 修复demo 中history的问题 2023-12-18 16:11:19 +08:00
zR 50833244be 更新demo
1. 支持清除历史/重试
2. 更新了新的requirement.txt
3. 记得去huggingface下载最新的配置文件(几天前)
2023-12-17 22:19:05 +08:00
zR ee96b0768c 完整demo更新
1. 多一个示例工具 shell工具,支持访问命令行
2. 多一个可以调整的参数:输出max token限制
3. 修复了一些小的格式bug
2023-12-07 11:34:04 +08:00
zR 796e6d82aa 解决 #543 提到的问题,client启动增加了PRE_SEQ_LEN 2023-12-06 17:04:02 +08:00
zR bd6a0d4e91 更新依赖和解决windows用户中指定pt地址的问题 2023-12-05 15:20:25 +08:00
longerking 307e4f32b3 fix: 解决compose_demo多轮对话中无法多次调用工具的报错 2023-11-22 17:35:19 +08:00
zR c6449859f3 支持 cuda:0 等多卡指定其中一张的情况 2023-11-20 15:41:04 +08:00
zR 0b18f4b91f 更新了cpu和其他非cuda设备的支持
修复cpu使用中的float报错,加上了其他设备的支持样例写法
2023-11-20 15:36:35 +08:00
zR 38eff0573f 修复composite_demo Tools忘记删除的参数
1. 修复 #351 的 bug
2. 在线文档放置
2023-11-18 10:24:13 +08:00
zR 5120067f45 去除openai API中的max_length
1. 去除OpenAI API demo中的max_length, 使用max_new_tokens,更符合OpenAI API格式
2. 更新了依赖,将pydantic>=2.5.1,使用Pydantic3语法,并修改了部分代码
2023-11-17 13:08:28 +08:00
zR 685dd2e93b 依赖更新和参数更新
1. 更新了部分依赖
2. 更新了composite_demo的参数,增加惩罚参数,以防止重复现象
3. 移动了OpenAI的依赖,防止依赖冲突
4. 更新对应文档
2023-11-16 16:14:16 +08:00
lambda 8cd72d13ca add a friendly response to excessive input length 2023-11-08 07:00:37 +00:00
lambda 826fed0d9f Add Finetuning code 2023-11-01 14:38:25 +00:00
Longin-Yu 4d1c78a6a5 Add en doc 2023-10-30 15:23:56 +08:00
abmfy f38b941b63 Add composite demo (directory) 2023-10-28 09:27:38 +00:00
abmfy 7b79f13d1b add composite demo 2023-10-28 09:20:24 +00:00