快速开始
您可根据 “快速开始” 的指引完成模型训练,熟悉操作流程。
前提条件
- 您已经获取LLama Factory Online账户和密码,如果需要帮助或尚未注册,可参考注册账户完成注册。
- 当前账号的余额充裕,可满足模型微调服务的需要。点击可了解最新的活动及费用信息,或前往充值,如需了解更多请联系我们。
操作指南
1. 启动实例
-
登录LLaMA-Factory Online账号,进入控制台,点击“开始微调”,启动实例。
-
根据需求,选择相应的配置资源规格和卡数,点击启动。
-
点击“LLaMA-Factory快速微调模型”,进入微调。
2. LoRA微调
- 点击 “Train”,关键参数配置如下,其他参数保持默认即可。点击预览数据集,可进行预览。
- 训练后的LoRA权重将会保存在输出目录中。
- 单击预览命令,可展示所有已配置的参数。如果您希望通过代码进行微调,可以复制这段命令,在命令行运行。
- 单击开始,启动模型微调。启动微调后需要耐心等待,待模型下载完毕后,可在界面观察到训练进度和损失曲线。
当显示训练完毕时,代表模型微调成功。
3. 模型对话
-
在Chat页签中,确保适配器路径为输出目录,单击加载模型,即可和微调模型进行对话。
-
从数据集中挑一个问题进行提问:【识别并解释给定列表中的两个科学理论:细胞理论和日心说。】
-
发送后模型会逐生成回答,从回答中可以发现模型学习到了数据集中的内容。
-
单击卸载模型,取消适配器路径,然后单击加载模型,即可与微调前的原始模型聊天。
-
重新向模型发送相同的内容,可以看到该问题微调模型回答与原始模型回答已经有了很大不同,显然微调模型更依照我们的数据集进行回答。