构建基于Qwen3-8B的沉浸式苏东坡角色扮演大模型
在当代文化内容爆发式增长的背景下,角色扮演技术不断创新升级。以Qwen3-8B为基础,构建沉浸式苏东坡角色扮演大模型,能够精准还原苏东坡的人格特征、语言风格及历史背景。随着用户对情感联结和个性化互动的需求提升,传统的单向内容消费已无法满足期待——市场正呈现出强烈的“历史人物沉浸式互动”诉求。基于Qwen3-8B的生成式AI技术,使用户能够突破时空限制,与苏东坡进行深度对话和个性化交流,为文化IP运营、沉浸式教育、历史体验及心理陪伴等领域创造新价值。其轻量化设计(8B参数)平衡了交互实时性与成本效率,支持进一步扩展多模态交互接口。
前提条件
- 用户已经获取LLaMA Factory Online平台账户和密码,如果需要帮助或尚未注册,可参考注册账户完成注册。
- 当前账号的余额充裕,可满足模型微调服务的需要。点击可了解最新的活动及费用信息,或前往充值,如需了解更多请联系我们。
操作步骤
配置概览
配置参数 | 配置项 | 是否预置 | 说明 |
---|---|---|---|
模型 | Qwen3-8B | 是 | 经过指令微调,参数量约80亿 (8B),专为遵循指令和对话任务优化。 |
数据集 | sudongpo | 是 | 覆盖苏东坡生平、诗词、美食等经历,确保角色塑造的深度与广度。 |
GPU | H800*4(推荐) | - | H800*1(最少)。 |
微调方法 | lora | - | 显著降低计算与存储成本,兼具高性能与部署灵活性。 |
资源消耗预览
- 模型微调时长
- 微调后模型Evaluate & Predict时长
- 原生模型Evaluate & Predict时长
操作详情
数据集制作
本实践所用的数据集“sudongpo.json”来源如下。
-
下载华夏群雄历史任务对话数据集,抽取出与苏轼对话的样本,共计700+条。
-
下载关于苏轼生平、诗词、绘画、美食等方面的图书、文献,借助 Easy DataSet 工具,经过“文本上传--文本分块--数据清洗--问题生成--数据集生成--数据集导出”步骤,得到初始数据集。使用python脚本处理人称问题后,将每一条样本数据的语言风格用大模型润色,完成数据集准备。
- 华夏群雄历史任务对话数据集
- Easy DataSet创建数据集
- 处理后的数据集
{
"instruction": "讲述经历",
"input": "请回忆一下你的人生经历。",
"output": "那一年我被贬至黄州,初到之时,心中不免郁结。一日夜游赤壁,见江水浩荡,明月当空,忽觉人生如寄,何必执着一时得失。于是写下《赤壁赋》以抒胸臆。在黄州的日子里,我躬耕东坡,自号\"东坡居士\",虽处逆境,却得闲适。这段经历让我明白,人生起伏本是常态,唯有豁达之心能使人超脱物外,于困顿中寻得真趣。"
},
{
"instruction": "",
"input": "文中提到苏东坡对邪恶之事的态度是什么?",
"output": "根据文章内容,苏东坡对邪恶之事的态度可以总结如下:\n\n苏东坡明确表示他**恨邪恶之事**,但他并不因此而恨人。他能够区分邪恶的行为与行为者本身。即使他对某些事情感到愤怒,也不会将这种情绪转化为对个人的仇恨。他认为恨别人是自己无能的表现,因此他并不因他人或他们的错误而产生怨恨。相反,他表现出一种宽容和豁达的态度,对待那些身陷邪恶之人,他并不会记恨,而是选择不喜爱这些人,但也不抱有恶意。\n\n此外,苏东坡的这种态度反映了他深厚的人格魅力和宽广的胸襟。他既能在面对不公或邪恶时表达自己的不满,又能保持内心的平和与善良,这种独特的品质正是他受到无数中国人敬仰和爱慕的原因之一。\n\n综上所述,苏东坡对邪恶之事持批判和反对的态度,但他对犯错的人采取理解和包容的方式,体现了他高尚的道德境界和人格魅力。",
"system": ""
},
{
"instruction": "",
"input": "你对邪恶之事的态度是什么?",
"output": "我恨邪恶之事,但我不恨人。我能区分邪恶的行为与行为者。即便愤怒,我也不会怀恨,因为我认为恨人是无能的表现。面对犯错的人,我也许不喜爱,但不会抱恶意。我努力保持宽容与平和。"
"system": ""
},
模型训练
LLaMA Factory Online支持通过实例模式和任务模式运行微调任务,不同模式下的微调/评估操作详情如下所示。
- 任务模式微调
- 实例模式微调
-
进入LLaMA-Factory Online平台,点击“控制台”,进入控制台后点击左侧导航栏的“模型微调”进入页面。
-
选择基础模型和数据集,进行参数配置。
- 本实践使用平台内置的Llama-3-8B-Instruct作为基础模型,数据集为平台内置的
haruhi_train
。 - 资源配置。推荐卡数为4卡。
- 选择价格模式。本实践选择“极速尊享”,不同模式的计费说明参考计费说明。
- 开始训练。点击“开始训练”按钮,开始模型训练。
提示配置模型与数据集后,系统将根据所需资源及其相关参数,动态预估任务运行时长及微调费用,您可在页面底部查看预估结果。
- 本实践使用平台内置的Llama-3-8B-Instruct作为基础模型,数据集为平台内置的
-
通过任务中心查看任务状态。 在左侧边栏选择”任务中心“,即可看到刚刚提交的任务。可以通过单击任务框,可查看任务的详细信息、超参数、训练追踪和日志。
-
任务完成后,模型自动保存在"文件管理->模型->output"文件夹中。可在"任务中心->基本信息->模型成果"处查看保存路径。
-
进行模型评估。 点击页面左侧导航栏“模型评估”,进行评估训练配置。 微调模型选择上一步骤微调后的模型,评估数据集平台内置的测试集:
haruhi_val
。其他参数设置为默认。 -
可以在“任务中心->模型评估”下看到评估任务的运行状态。
提示配置模型与数据集后,系统将根据所需资源及其相关参数,动态预估任务运行时长及微调费用,您可在页面底部查看预估结果。
-
点击
图标,进入任务基本信息查看页面。用户可查看评估任务的基本信息、日志以及评估结果。
-
模型对话。
- 点击左侧导航栏“模型对话”按钮进入模型对话页面。
- 在微调模型处选择步骤3中显示的模型名称,如下图高亮①所示。点击开始右上角“开始对话”,跳出弹窗“LORA模型对话限时免费”,点击“开始对话”。
- 在右侧配置栏的“System Prompt”处输入提示词,如下图高亮①所示。在输入框中输入句子(高亮②),点击发送;在对话框中查看对话详情,如下图高亮③所示。
-
使用已注册的LLaMA Factory Online账号登录平台,选择[实例空间]菜单项,进入实例空间页面,如下图所示。
-
单击上图“开始微调”按钮,进入[配置资源]页面,选择GPU资源,卡数填写
4
,其他参数保持为默认值,如下图所示。 -
单击“启动”按钮,待实例启动后,点击[LLaMA-Factory快速微调模型]页签,进入LLaMA Factory Online在线WebUI微调配置页面,语言选择
zh
,如下图高亮①所示;模型名称选择Llama-3.1-8B-Instruct
,如下图高亮②所示;系统默认填充模型路径/shared-only/models/meta-llama/LLM-Research/Meta-Llama-3.1-8B-Instruct
。 -
微调方法选择
lora
,如下图高亮④所示;选择“train”标签,训练方式保持Supervised Fine-Tuning
,如下图高亮⑤所示;数据路径保持/workspace/llamafactory/data
,如下图高亮⑥所示;数据集选择平台已预置的haruhi_train
,如下图高亮⑦所示。 -
(可选)其余参数可根据实际需求调整,具体说明可参考参数说明,本实践中的其他参数均保持默认值。
-
参数配置完成后,点击“开始”按钮启动微调任务。页面底部将实时显示微调过程中的日志信息,例如下图高亮①所示;同时展示当前微调进度及Loss变化曲线。经过多轮微调后,例如下图高亮②所示,从图中可以看出Loss逐渐趋于收敛。微调完成后,系统提示“训练完毕”,例如下图高亮③所示。
- 微调后模型对话
- 原生模型对话
-
切换至“chat”界面,如下图高亮①所示;选择上一步骤已经训练完成的检查点路径,如下图高亮②所示;单击“加载模型”按钮,微调的模型加载后,在系统提示词处填入提示词,如下图高亮③所示;输入用户模拟词“踢你,踢你”,观察模型回答,如下图高亮⑤所示。
-
清空“检查点路径”中的LoRA配置,单击下图高亮②所示的“卸载模型”按钮,卸载微调后的模型,模型卸载完成后,单击“加载模型”按钮,加载原生的
Llama-3.1-8B-Instruct
模型进行对话,其余配置保持不变。用户模拟词依旧输入“踢你,踢你”,观察模型回答,如下图高亮⑤所示。
通过对比微调模型与原生模型的输出结果可以发现,微调后的模型在角色扮演方面表现出更强的契合度,其回答不仅更贴近系统预设的角色定位,也更符合用户的认知预期。
- 微调后模型评估
- 原生模型评估
-
切换至“Evaluate & Predict”页面,选择微调后模型的检查点路径,例如下图高亮①所示;然后选择平台预置的
haruhi_val
数据集,并根据实际需求配置评估参数(本实践的参数设置如下图所示)。 -
参数配置完成后,点击“开始”按钮即可启动评估,页面底部将实时显示评估过程中的日志信息,评估完成后,记录评估结果,结果如下所示。
{
"predict_bleu-4": 13.949805269191575,
"predict_model_preparation_time": 0.0025,
"predict_rouge-1": 35.13372549040421,
"predict_rouge-2": 13.154018569548237,
"predict_rouge-l": 30.340913739809785,
"predict_runtime": 4826.8957,
"predict_samples_per_second": 9.595,
"predict_steps_per_second": 0.01
}结果解读:该模型在语义覆盖(
ROUGE-1
)、句法连贯性(ROUGE-L
)和短语匹配(ROUGE-2
)方面均有良好表现,相较原生模型评估BLEU-4=5.04
,有了明显改进,该版本已具备使用基础。
-
切换至“Evaluate & Predict”页面,清空检查点路径配置,数据集依旧选择平台预置的
haruhi_val
数据集,并根据实际需求配置评估参数(本实践的参数设置如下图所示)。 -
完成配置后,点击“开始”按钮即可启动评估,页面底部将实时显示评估过程中的日志信息,评估完成后,记录评估结果,结果如下所示。
{
"predict_bleu-4": 5.04309130859375,
"predict_model_preparation_time": 0.0025,
"predict_rouge-1": 21.24694322775136,
"predict_rouge-2": 3.7316487601902173,
"predict_rouge-l": 17.153310069208565,
"predict_runtime": 3585.0071,
"predict_samples_per_second": 12.919,
"predict_steps_per_second": 0.013
}结果解读:评价指标(
BLEU-4
、ROUGE-1/2/L
)均处于较低水平,尤其是BLEU-4
和ROUGE-2
,表明模型生成内容与参考答案在词汇、短语和句子结构层面匹配度较差。当前模型的评估得分整体偏低,尤其在语言流畅性与结构准确性方面表现较弱,生成质量有进一步提升。
对比微调后模型评估与原生模型评估结果可以看出,二者在生成质量方面存在显著差异。原生模型表现较差,各项指标全面偏低(BLEU-4: 5.04
,ROUGE-1: 21.25
),其在生成内容与参考答案在词汇、短语及句子结构层面匹配度低,语言连贯性和语义准确性不足。而微调后模型在相同评估条件下有明显提升:BLEU-4:13.95
,ROUGE-1:35.13
,ROUGE-2
和ROUGE-L
也分别达到13.15
和30.34
,显示出更优的关键词覆盖能力、短语搭配合理性和句级语义连贯性。表明微调后的模型显著增强了语言生成质量。综上,微调后的模型生成性能远优于原生模型,具备更好的应用潜力。
总结
用户可通过LLaMA Factory Online平台预置的模型及数据集完成快速微调与效果验证。从上述实践案例可以看出,基于Llama3.1-8B-Instruct
模型,采用LoRA方法在haruhi_train
角色扮演数据集上进行指令微调后,模型在角色语言风格还原、人格一致性与上下文理解能力方面均有显著提升。
本实践为构建高拟真度、强沉浸感的AI角色扮演系统提供了可复用的技术路径,适用于虚拟偶像、IP互动、情感陪伴等场景。未来可进一步探索多模态输入输出、长期记忆机制与动态人格演化能力,持续提升角色交互的自然性与情感深度。