新手使用指引
本文为您介绍新手用户如何快速上手使用,并了解基于LLaMA-Factory Online(平台)的开发流程。
前提条件
用户已注册LLaMA-Factory Online,如果需要帮助或尚未注册,可参考账户注册/登录完成注册/登录。
快速体验
免费试用
LLaMA-Factory Online为首次使用该平台服务的新用户提供免费试用权益,新用户注册即可获取无门槛代金券,并在使用相关服务时按特定方式进行抵扣。关于免费试用的详细介绍,请参看新用户限时免费体验。
快速使用
LLaMA Factory是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成多种预训练模型的微调。
开发流程
基于LLaMA-Factory Online您可以根据实际开发场景,进行数据准备、数据处理、模型微调、模型评估、模型对话。您可以按照流程引导,使用子产品模块。
模块 | 描述 | 相关文档 |
---|---|---|
数据准备 | 数据准备是模型开发的第一步,文件管理为用户存储、验证和管理数据集。 | 文件管理 |
数据处理 | 实例空间为用户提供Jupyter进行数据处理。以此为模型微调、模型预训练、模型评估、数据处理、Chat打好基础。 | 实例管理 |
模型微调 | 交互式选参低门槛快速实现大模型微调,系统支持通过任务、实例方式微调。 | 模型微调 |
模型对话 | 在基座模型的基础上,特别针对对话生成进行了优化。专注于与用户进行自然流畅的交流。 | 推理聊天 |
模型评估 | 无需评估代码,通过WebUI页面快速评估模型性能。 | 评估预测 |
开发示例
以下为用户提供开发参考示例,用户可使用通过示例了解整个开发流程,示例详情如下。
数据准备
LLaMA-Factory Online为用户预置了微调数据集,微调时选择预置数据集即可使用。 用户也可通过文件管理,上传并管理自定义数据集,有关文件管理的详细操作步骤,请参考文件管理。
数据处理
目前平台支持Alpaca
格式和ShareGPT
格式的数据集,数据处理详情可参看数据转换、数据类型、数据集配置等相关章节。
模型微调
有关模型微调的详细步骤,请参考模型微调章节所述。
模型对话
有关模型对话的详细步骤,请参考模型对话章节所述。
模型评估
有关模型评估的详细步骤,请参考模型对话章节所述。