构建基于Llama3.1-8B-Instruct的沉浸式角色扮演系统
在当代文化内容爆发式增长的背景下，影视、动漫及游戏产业持续产出具有深度人格魅力的虚拟角色。随着受众情感联结需求的升级，传统的单向内容消费已无法满足用户期待——市场正呈现出强烈的"角色沉浸式互动"诉求。这种需求演变催生了新一代角色扮演技术：通过生成式AI对角色人格特征、语言风格及背景设定的精准还原，构建可深度对话的数字化身，使粉丝能够突破原作框架与角色进行个性化互动，为IP运营、沉浸娱乐及心理陪伴等领域创造新价值。
Llama3.1-8B-Instruct（微调后）是针对角色扮演场景优化的对话模型，通过用户输入的文本指令和角色设定（如背景、性格、语言风格），生成符合角色特征的连贯回应。该模型在微调中融合了虚构与非虚构角色的对话数据，提升了人格一致性和长上下文记忆能力，适用于粉丝互动、内容创作辅助及教育娱乐等场景。其轻量化设计（8B参数）平衡了交互实时性与成本效率，支持进一步扩展多模态交互接口。
前提条件
- 用户已经获取LLaMA Factory Online平台账户和密码，如果需要帮助或尚未注册，可参考注册账户完成注册。
- 当前账号的余额充裕，可满足模型微调服务的需要。点击可了解最新的活动及费用信息，或前往充值，如需了解更多请联系我们。
操作步骤
配置概览
| 配置参数 | 配置项 | 是否预置 | 说明 |
|---|---|---|---|
| 模型 | Llama3.1-8B-Instruct | 是 | 经过指令微调，参数量约80亿 (8B)，专为遵循指令和对话任务优化。 |
| 数据集 | haruhi_train | 是 | 维护对话历史、角色切换机制以及提示来确保对话符合预设的角色设定。 |
| GPU | H800*4（推荐） | - | H800*2（最少）。 |
| 微调方法 | lora | - | 显著降低计算与存储成本，兼具高性能与部署灵活性。 |
资源消耗预览
- 模型微调时长
- 微调后模型Evaluate & Predict时长
- 原生模型Evaluate & Predict时长
操作详情
LLaMA Factory Online支持通过实例模式和任务模式运行微调任务，不同模式下的微调/评估操作详情如下所示。
- 任务模式微调
- 实例模式微调
-
进入LLaMA-Factory Online平台，点击“控制台”，进入控制台后点击左侧导航栏的“模型微调”进入页面。
-
选择基础模型和数据集，进行参数配置。
- 本实践使用平台内置的Llama-3-8B-Instruct作为基础模型，数据集为平台内置的
haruhi_train。 - 资源配置。推荐卡数为4卡。
- 选择价格模式。本实践选择“极速尊享”，不同模式的计费说明参考计费说明。
- 开始训练。点击“开始训练”按钮，开始模型训练。
提示配置模型与数据集后，系统将根据所需资源及其相关参数，动态预估任务运行时长及微调费用，您可在页面底部查看预估结果。
- 本实践使用平台内置的Llama-3-8B-Instruct作为基础模型，数据集为平台内置的
-
通过任务中心查看任务状态。 在左侧边栏选择”任务中心“，即可看到刚刚提交的任务。可以通过单击任务框，可查看任务的详细信息、超参数、训练追踪和日志。
-
任务完成后，模型自动保存在"文件管理->模型->output"文件夹中。可在"任务中心->基本信息->模型成果"处查看保存路径。
-
进行模型评估。 点击页面左侧导航栏“模型评估”，进行评估训练配置。 微调模型选择上一步骤微调后的模型，评估数据集平台内置的测试集：
haruhi_val。其他参数设置为默认。
-
可以在“任务中心->模型评估”下看到评估任务的运行状态。
提示配置模型与数据集后，系统将根据所需资源及其相关参数，动态预估任务运行时长及微调费用，您可在页面底部查看预估结果。
-
点击
图标，进入任务基本信息查看页面。用户可查看评估任务的基本信息、日志以及评估结果。 -
模型对话。
- 点击左侧导航栏“模型对话”按钮进入模型对话页面。
- 在微调模型处选择步骤3中显示的模型名称，如下图高亮①所示。点击开始右上角“开始对话”，跳出弹窗“LORA模型对话限时免费”，点击“开始对话”。
- 在右侧配置栏的“System Prompt”处输入提示词，如下图高亮①所示。在输入框中输入句子（高亮②），点击发送；在对话框中查看对话详情，如下图高亮③所示。
-
使用已注册的LLaMA Factory Online账号登录平台，选择[实例空间]菜单项，进入实例空间页面，如下图所示。
-
单击上图“开始微调”按钮，进入[配置资源]页面，选择GPU资源，卡数填写
4，其他参数保持为默认值，如下图所示。
-
单击“启动”按钮，待实例启动后，点击[LLaMA-Factory快速微调模型]页签，进入LLaMA Factory Online在线WebUI微调配置页面，语言选择
zh，如下图高亮①所示；模型名称选择Llama-3.1-8B-Instruct，如下图高亮②所示；系统默认填充模型路径/shared-only/models/meta-llama/LLM-Research/Meta-Llama-3.1-8B-Instruct。 -
微调方法选择
lora，如下图高亮④所示；选择“train”标签，训练方式保持Supervised Fine-Tuning，如下图高亮⑤所示；数据路径保持/workspace/llamafactory/data，如下图高亮⑥所示；数据集选择平台已预置的haruhi_train，如下图高亮⑦所示。
-
（可选）其余参数可根据实际需求调整，具体说明可参考参数说明，本实践中的其他参数均保持默认值。
-
参数配置完成后，点击“开始”按钮启动微调任务。页面底部将实时显示微调过程中的日志信息，例如下图高亮①所示；同时展示当前微调进度及Loss变化曲线。经过多轮微调后，例如下图高亮②所示，从图中可以看出Loss逐渐趋于收敛。微调完成后，系统提示“训练完毕”，例如下图高亮③所示。
- 微调后模型对话
- 原生模型对话
-
切换至“chat”界面，如下图高亮①所示；选择上一步骤已经训练完成的检查点路径，如下图高亮②所示；单击“加载模型”按钮，微调的模型加载后，在系统提示词处填入提示词，如下图高亮③所示；输入用户模拟词“踢你，踢你”，观察模型回答，如下图高亮⑤所示。
-
清空“检查点路径”中的LoRA配置，单击下图高亮②所示的“卸载模型”按钮，卸载微调后的模型，模型卸载完成后，单击“加载模型”按钮，加载原生的
Llama-3.1-8B-Instruct模型进行对话，其余配置保持不变。用户模拟词依旧输入“踢你，踢你”，观察模型回答，如下图高亮⑤所示。
通过对比微调模型与原生模型的输出结果可以发现，微调后的模型在角色扮演方面表现出更强的契合度，其回答不仅更贴近系统预设的角色定位，也更符合用户的认知预期。
- 微调后模型评估
- 原生模型评估
-
切换至“Evaluate & Predict”页面，选择微调后模型的检查点路径，例如下图高亮①所示；然后选择平台预置的
haruhi_val数据集，并根据实际需求配置评估参数（本实践的参数设置如下图所示）。
-
参数配置完成后，点击“开始”按钮即可启动评估，页面底部将实时显示评估过程中的日志信息，评估完成后，记录评估结果，结果如下所示。
{
"predict_bleu-4": 13.949805269191575,
"predict_model_preparation_time": 0.0025,
"predict_rouge-1": 35.13372549040421,
"predict_rouge-2": 13.154018569548237,
"predict_rouge-l": 30.340913739809785,
"predict_runtime": 4826.8957,
"predict_samples_per_second": 9.595,
"predict_steps_per_second": 0.01
}结果解读：该模型在语义覆盖（
ROUGE-1）、句法连贯性（ROUGE-L）和短语匹配（ROUGE-2）方面均有良好表现，相较原生模型评估BLEU-4=5.04，有了明显改进，该版本已具备使用基础。
-
切换至“Evaluate & Predict”页面，清空检查点路径配置，数据集依旧选择平台预置的
haruhi_val数据集，并根据实际需求配置评估参数（本实践的参数设置如下图所示）。
-
完成配置后，点击“开始”按钮即可启动评估，页面底部将实时显示评估过程中的日志信息，评估完成后，记录评估结果，结果如下所示。
{
"predict_bleu-4": 5.04309130859375,
"predict_model_preparation_time": 0.0025,
"predict_rouge-1": 21.24694322775136,
"predict_rouge-2": 3.7316487601902173,
"predict_rouge-l": 17.153310069208565,
"predict_runtime": 3585.0071,
"predict_samples_per_second": 12.919,
"predict_steps_per_second": 0.013
}结果解读：评价指标（
BLEU-4、ROUGE-1/2/L）均处于较低水平，尤其是BLEU-4和ROUGE-2，表明模型生成内容与参考答案在词汇、短语和句子结构层面匹配度较差。当前模型的评估得分整体偏低，尤其在语言流畅性与结构准确性方面表现较弱，生成质量有进一步提升。
对比微调后模型评估与原生模型评估结果可以看出，二者在生成质量方面存在显著差异。原生模型表现较差，各项指标全面偏低（BLEU-4: 5.04，ROUGE-1: 21.25），其在生成内容与参考答案在词汇、短语及句子结构层面匹配度低，语言连贯性和语义准确性不足。而微调后模型在相同评估条件下有明显提升：BLEU-4:13.95，ROUGE-1:35.13，ROUGE-2和ROUGE-L也分别达到13.15和30.34，显示出更优的关键词覆盖能力、短语搭配合理性和句级语义连贯性。表明微调后的模型显著增强了语言生成质量。综上，微调后的模型生成性能远优于原生模型，具备更好的应用潜力。
总结
用户可通过LLaMA Factory Online平台预置的模型及数据集完成快速微调与效果验证。从上述实践案例可以看出，基于Llama3.1-8B-Instruct模型，采用LoRA方法在haruhi_train角色扮演数据集上进行指令微调后，模型在角色语言风格还原、人格一致性与上下文理解能力方面均有显著提升。
本实践为构建高拟真度、强沉浸感的AI角色扮演系统提供了可复用的技术路径，适用于虚拟偶像、IP互动、情感陪伴等场景。未来可进一步探索多模态输入输出、长期记忆机制与动态人格演化能力，持续提升角色交互的自然性与情感深度。