模型评估
通过“模型评估”,您可以衡量微调后模型的性能,判断模型的泛化能力和实际应用效果。
前提条件
- 您已经获取LLama Factory Online账户和密码,如果需要帮助或尚未注册,可参考注册账户完成注册。
- 当前账号的余额充裕,可满足模型微调服务的需要。点击可了解最新的活动及费用信息,或前往充值,如需了解更多请联系我们。
- 您已经有微调后的模型和符合格式的数据集,如果需要帮助,可参考模型微调和数据集上传。
概览
模型评估界面分为基础配置、训练资源配置和配置显示三个部分,如下图所示,具体说明见下表。
序号 | 模块名称 | 模块说明 |
---|---|---|
① | 基础配置区域 | 选择微调模型和数据集。 |
② | 训练与资源配置、价格优惠模式区域 | 根据需求设置训练配置参数、GPU卡数和不同收费规则的任务模式。 |
③ | 配置显示区域 | 显示当前训练的资源总数、预估时长以及预估费用,消费明细中显示代金券消费及账户余额消费明细,点击即可开始训练。 |
操作步骤
-
进入LLaMA-Factory Online平台,注册并登录账户,且需保障账户内有余额。
-
点击“控制台”,进入控制台后点击左侧导航栏 “模型评估” 进入页面。
-
基础信息配置。 选择微调后的模型,选择数据集。
-
选择微调模型,用户仅可以选择微调生成的模型。在选择Lora模型时,会显示基座模型。
-
选择数据集,包含公共数据和文件管理数据,支持同时使时选择多个数据集。
-
选择训练配置。 点击可进行评估参数的配置。您可以参考[参数介绍]了解各个参数的类型及含义。
-
选择资源配置。 可选择微调训练时的GPU卡数。默认数值为自动推荐的GPU卡数,具体选择请参照“如何选择GPU卡数”。付费方式目前仅支持按量付费。
-
选择价格优惠模式。 可根据模型评估需求选择合适的模式。LoRA模型评估限时免费。全量模型评估按量付费。
- 目前平台提供“极速尊享”、“动态优惠”和“灵动超省”三种价格优惠模式。不同模式的计费说明如下:
模式 排队时长 优惠折扣 适用场景 极速尊享 优先使用算力,无需长时排队 无优惠折扣 时效要求高的任务 动态优惠 排队时长因闲忙时段影响,在1-3小时内浮动 优惠折扣由预估排队时长、预估运行所需总卡时、GPU资源闲忙情况多因素影响在5-10折区间波动 紧迫程度较低的任务 灵动超省 5小时以上排队,资源不足时任务会被停止,充足时继续训练 享2.5-5折优惠 灵活度高和中断容忍度高的任务 -
开始评估。点击“开始评估”,即可进行模型评估。底部显示本次评估的资源总数、预估时长以及预估费用,消费明细中显示代金券消费及账户余额消费明细。