实例空间
您可以通过实例空间快速启动GPU和CPU实例,下载模型或数据集,进行模型微调和数据处理。
前提条件
- 您已经获取LLama Factory Online账户和密码,如果需要帮助或尚未注册,可参考注册账户完成注册。
- 当前账号的余额充裕,可满足模型微调服务的需要。点击可了解最新的活动及费用信息,或前往充值,如需了解更多请联系我们。
- 平台为您提供了内置的模型和数据集,若您想使用自己的模型和数据集,可参考文件管理进行模型和数据集上传。自定义数据集处理部分可参考数据处理。
概览
实例空间页面如下图所示。点击“快速微调”即可启动实例。

操作步骤
启动实例
-
登录账号后点击右上角“控制台”,进入控制台后点击左侧导航栏中的“实例空间”,点击“开始微调”启动实例。

-
根据模型等参数选择对应版本的镜像,单击
图标,进入镜像选择页面,例如下图所示,单击“查看模型镜像列表”查看对应的镜像列表,例如下图高亮所示,镜像选择完成后,单击“确定”按钮即可。
- GPU
- CPU
- 如果用户选择GPU资源规格,待配置参数说明如下所示。
- 资源规格:选择"H800A(显存80G)",该类型的资源适用于大模型训练、微调、推理等并行计算场景。
- 卡数:选择待使用的GPU卡数,平台支持选择
1卡、2卡、3卡、4卡、5卡、6卡、7卡、8卡等卡数。 - 付费方式:选择GPU卡的扣费方式,目前平台支持
按量付费,即按照GPU的实际使用时长进行付费。 - 优惠价格:平台提供H800A(80G显存)显卡算力服务的两种不同套餐,核心区别在于服务优先级和价格,以满足不同场景和预算的需求,详情如下所示。
- 极速尊享:提供高优先级保障、资源紧张时也不会中断实例的稳定服务。
- 灵动超省:享受极高折扣、但资源紧张时可能被停止实例的低成本、可中断型服务,支持选择“实例停止前转极速尊享”。
提示
开启此模式后,当常规资源不足时,您的实例将自动升级至“极速尊享”模式继续运行,不会因资源问题而停止。此期间将按“极速尊享”的标准价格计费。
- 如果用户选择CPU资源规格,待配置参数说明如下所示。
- 资源规格:选择"CPU",该类型的资源适用于数据处理等场景。
- 卡数:选择待使用的CPU卡数,平台支持选择
1核、2核、4核、8核、16核等核数。 - 付费方式:选择CPU卡的扣费方式,目前平台支持
按量付费,即按照CPU的实际使用时长进行付费。
-
您可以根据需求进行“LLaMA-Factory快速微调模型”、“VSCode处理专属数据”,或“JupyterLab处理专属数据”。

重置资源
回到控制台,点击右上角资源重置按钮
可重置当前实例的资源,例如下图所示。

SSH远程连接
回到控制台,点击右上角SSH远程连接按钮
可获取该实例远程连接信息,例如下图所示,点击“SSH远程连接”链接可查看具体使用方法。

关闭实例
回到控制台,点击右上角按钮
可关闭实例,例如下图所示。

定时关机
点击右下角定时关机按钮(下图高亮①),打开定时关机开关(下图高亮②),选择关机时间(下图高亮③),点击确认(下图高亮④),即可定时关机。
