zR
|
f99e7df572
|
fix quantize bug
fix #1059 #1052
|
2024-04-04 19:19:26 +08:00 |
|
zR
|
202287564e
|
add .eval
|
2024-02-07 18:10:30 +08:00 |
|
zR
|
b5b6738a0b
|
修复了错误的int4解释
|
2024-02-07 18:08:37 +08:00 |
|
zR
|
f5a1b8c28d
|
补充部分说明文档
|
2024-02-02 00:10:38 +08:00 |
|
zR
|
0ffbe4cae8
|
更新部分微调代码
更新了4.36.2版本transformers微调的部分代码
|
2023-12-23 16:21:19 +08:00 |
|
zR
|
f1852ec467
|
恢复模型多卡加载,自动切分模型
|
2023-12-19 16:20:06 +08:00 |
|
zR
|
7eda702498
|
恢复多卡支持,更新基础例子
|
2023-12-19 14:00:53 +08:00 |
|
zR
|
50833244be
|
更新demo
1. 支持清除历史/重试
2. 更新了新的requirement.txt
3. 记得去huggingface下载最新的配置文件(几天前)
|
2023-12-17 22:19:05 +08:00 |
|
zR
|
ee96b0768c
|
完整demo更新
1. 多一个示例工具 shell工具,支持访问命令行
2. 多一个可以调整的参数:输出max token限制
3. 修复了一些小的格式bug
|
2023-12-07 11:34:04 +08:00 |
|
zR
|
796e6d82aa
|
解决 #543 提到的问题,client启动增加了PRE_SEQ_LEN
|
2023-12-06 17:04:02 +08:00 |
|
zR
|
bd6a0d4e91
|
更新依赖和解决windows用户中指定pt地址的问题
|
2023-12-05 15:20:25 +08:00 |
|
zR
|
c6449859f3
|
支持 cuda:0 等多卡指定其中一张的情况
|
2023-11-20 15:41:04 +08:00 |
|
zR
|
0b18f4b91f
|
更新了cpu和其他非cuda设备的支持
修复cpu使用中的float报错,加上了其他设备的支持样例写法
|
2023-11-20 15:36:35 +08:00 |
|
zR
|
685dd2e93b
|
依赖更新和参数更新
1. 更新了部分依赖
2. 更新了composite_demo的参数,增加惩罚参数,以防止重复现象
3. 移动了OpenAI的依赖,防止依赖冲突
4. 更新对应文档
|
2023-11-16 16:14:16 +08:00 |
|
lambda
|
8cd72d13ca
|
add a friendly response to excessive input length
|
2023-11-08 07:00:37 +00:00 |
|
lambda
|
826fed0d9f
|
Add Finetuning code
|
2023-11-01 14:38:25 +00:00 |
|
abmfy
|
f38b941b63
|
Add composite demo (directory)
|
2023-10-28 09:27:38 +00:00 |
|