文件历史

17 次代码提交

作者 SHA1 备注 提交日期
zR f99e7df572 fix quantize bug
fix #1059 #1052
2024-04-04 19:19:26 +08:00
zR 202287564e add .eval 2024-02-07 18:10:30 +08:00
zR b5b6738a0b 修复了错误的int4解释 2024-02-07 18:08:37 +08:00
zR f5a1b8c28d 补充部分说明文档 2024-02-02 00:10:38 +08:00
zR 0ffbe4cae8 更新部分微调代码
更新了4.36.2版本transformers微调的部分代码
2023-12-23 16:21:19 +08:00
zR f1852ec467 恢复模型多卡加载,自动切分模型 2023-12-19 16:20:06 +08:00
zR 7eda702498 恢复多卡支持,更新基础例子 2023-12-19 14:00:53 +08:00
zR 50833244be 更新demo
1. 支持清除历史/重试
2. 更新了新的requirement.txt
3. 记得去huggingface下载最新的配置文件(几天前)
2023-12-17 22:19:05 +08:00
zR ee96b0768c 完整demo更新
1. 多一个示例工具 shell工具,支持访问命令行
2. 多一个可以调整的参数:输出max token限制
3. 修复了一些小的格式bug
2023-12-07 11:34:04 +08:00
zR 796e6d82aa 解决 #543 提到的问题,client启动增加了PRE_SEQ_LEN 2023-12-06 17:04:02 +08:00
zR bd6a0d4e91 更新依赖和解决windows用户中指定pt地址的问题 2023-12-05 15:20:25 +08:00
zR c6449859f3 支持 cuda:0 等多卡指定其中一张的情况 2023-11-20 15:41:04 +08:00
zR 0b18f4b91f 更新了cpu和其他非cuda设备的支持
修复cpu使用中的float报错,加上了其他设备的支持样例写法
2023-11-20 15:36:35 +08:00
zR 685dd2e93b 依赖更新和参数更新
1. 更新了部分依赖
2. 更新了composite_demo的参数,增加惩罚参数,以防止重复现象
3. 移动了OpenAI的依赖,防止依赖冲突
4. 更新对应文档
2023-11-16 16:14:16 +08:00
lambda 8cd72d13ca add a friendly response to excessive input length 2023-11-08 07:00:37 +00:00
lambda 826fed0d9f Add Finetuning code 2023-11-01 14:38:25 +00:00
abmfy f38b941b63 Add composite demo (directory) 2023-10-28 09:27:38 +00:00