对比fastchat #2431
对比fastchat
#2431
-
这是个很棒的工作,我看到网上有很多人讨论llama-factory。我的问题在于它和fastchat的区别在哪,平时我都是用fastchat做sft训练,fastchat支持很多不同的模型,并且和deepspeed融合的比较好,也支持bf16,混合精度等等,所以我想知道我可以无缝切换到这个框架吗? |
Beta Was this translation helpful? Give feedback.
Answered by
hiyouga
Feb 5, 2024
Replies: 1 comment 1 reply
-
本框架的功能完全覆盖 fastchat,支持比 fastchat 更多的模型、Deepspeed、fp32/fp16/bf16/int8/int4 精度,LoRA 训练速度达到 fastchat 的 150% |
Beta Was this translation helpful? Give feedback.
1 reply
Answer selected by
super-buster
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
本框架的功能完全覆盖 fastchat,支持比 fastchat 更多的模型、Deepspeed、fp32/fp16/bf16/int8/int4 精度,LoRA 训练速度达到 fastchat 的 150%