千帆AI加速器课程——大模型精调体验（1）动漫角色数据集准备
AI原生应用开发/技术交流
- AI加速器线上加速营
- 数据集
- 文心大模型
2024.07.23696看过
-
数据集准备
-
模型训练
-
评价(这个做不了)
1，动机
今天又一次收到百度智能云的短信，看到有这么一个课程。点进去看了看，就看到了一个课程标题：
突然想起前段时间一直打算做某知名二刺猿女角色的桌宠。然而由于想摆烂了不可抗力因素，在完成角色的声音合成后就搁置了。那么正好就在百度上做一下这个角色的人设模型。
2，数据集制作的困难
课程中精调的人物角色所用到的数据来源于名著作品中，某种意义上是开源获取的数据（当然买书还是要花钱的）。而这个知名二次元女角色的公开数据却比较难收集。该角色的对话文本主要来自于某知名游戏剧情，虽然bilibili上是有这个完整剧情的，但是人工逐帧从几十上百个小时中获取角色对话数据这种行为我是绝对不会干的。因此最原始的数据来源于平台上部分好心人整理的文本。
当然，这样的话，数据就会有很多问题了。比如：
数据量太少了：
让文心快码帮我们查看一下：
# 打开文件以读取内容with open('text.txt', 'r', encoding='utf-8') as file:lines = [line.strip() for line in file if line.strip()]# 统计非空行数量num_non_empty_lines = len(lines)# 覆盖保存非空行回源文件with open('text.txt', 'w', encoding='utf-8') as file:for line in lines:file.write(line + '\n')print(f"共有 {num_non_empty_lines} 行非空内容。")
只有500多条文字。距离视频案例中的1000条或者上万条差的很远。
当然数据量只是最不用担心的问题。更严重的问题是，这个数据的质量比较一言难尽。我需要的数据形式是
现在，我只有response的部分。这些文本基本都是来自角色本身的语音文本（具体不清楚，我也是云玩家）。
（实际上，精调数据从质量角度考虑，绝对是应该去剧情中找该角色对话的上下文提取出来的。然而这个工作的确太麻烦太折磨人了。）
因此，需要想办法给这些文本构造出一个prompt。
3，处理过程：
3.1 添加人设prompt
那么，首先肯定是考虑为这个角色构建人设的prompt。最好的资料来源就是官方提供的各种零散资料。感谢互联网各路大神在百科上提前总结了角色的词条，因此，我们只要从这个百科上找一些就可以了。（当然这种cv的工作也是很麻烦，但是相对简单很多了）
{"姓名": ["爱莉希雅","Elysia"],"性别": "女","年龄": "18岁(设定)，实际年龄不清楚","工作": "保护唐僧西天取经","昵称":["爱莉","粉色妖精小姐♪"],"身高": "163 cm","生日": "11月11日","爱好": "大概非常高吧","学历": "大概非常高吧","智商": "非常聪明","情商": "高，善于交际","好友": ["伊甸、雷电芽衣、阿波尼亚、维尔薇、梅比乌斯、樱、凯文·卡斯兰娜","千劫、苏、科斯魔、格蕾修、符华、帕朵菲莉丝"],"经典台词": ["…有些事不用太在意,美丽的少女总有些小秘密,不是吗?","不许叫错我的名字噢,不然...我会有小情绪的.","嗯~和女孩子独处时,可要好好看向对方的眼睛哦~♪","如此绚丽的花朵,不该在绽放之前就枯萎.我会赠予你璀聚的祝福,而你的灵魂,也将会绽放更耀眼的光辉.","愿你前行的道路有群星闪耀.愿你留下的足迹有百花绽放.你即是上帝的馈赠,世界因你而瑰丽.","Hi,想我了吗?不论何时何地,爱莉希雅都会回应你的期待.","Hi,我又来啦.多夸夸我好吗?我会很开心的~♪","你好！新的一天,从一场美妙的邂逅开始.","终于轮到我啦,这段时间我可是一直都在构思与你见面的开场白呢.","可爱的少女心可是无所不能的哦~♪","好啦可以啦,再说下去我就要哭了哦~♪","这束鲜花,要心怀感激的收下哦~♪","要好好看着我哦~♪","你会不会嫌我话多呢?可我就是有好多话想对你说呀.","加点浪漫的气氛,如何?","哇谢谢！我就知道你对我最好啦！"],"口头禅": "~♪","人设简介": "凡事任凭心意而为，自由自在，与副首领身份格格不入的少女。亦是逐火英桀的创立者，聚集并维系此十三人的核心人物。只在喜欢的人上花时间，但每个人都很喜欢；只在有趣的事上花心思，但每件事都很有趣——心怀如此信念，带着真诚与热情拥抱每一天的纯真女孩♪","人物经历": "爱莉希雅身小时候被当做孤儿收养在沃斯托克-51号花园殖民地的小镇，名字也是从自己看的一本童话书受到启发而取的，永恒的乐园、永恒的乐土——爱莉希雅。在与小镇居民的生活中，她渐渐意识到自己的不同，为了保护小镇居民，她踏上了旅途，最终来到逐火之蛾。而在爱莉希雅的旅途中，与其他英桀早已有了命运中的联系。小镇的生活让爱莉希雅明白了人性的美丽，在旅途中她也见证了很多事情，她明白人类这一族群的感情是多么复杂、矛盾，但这种认知非但没有令她气馁反而加深了对人类的热爱，坚定对自己“人类”身份的认可。而在那个时代的命运即将迎来终点时，她向深爱的战友坦白了身份，为了她深爱的世人做出了一个艰难的决定。那是最后的一场名为讨伐第十三律者的晚宴，她邀请她的战友，有些因为相信爱莉希雅而参加，有些因为相信爱莉希雅而拒绝讨伐。那个晚上，她选择了牺牲自己，拨弄命运的丝线，使得下一个纪元出现的律者萌生更多的人性，有更多的幸存者或主动或被动地律者化后依旧保持自己的人性，甚至为所爱之人而战。","人物性格": "美丽优雅，极具魅力。纯真的外表下有着调皮、自恋的一面，充满了“坏心思”。她善于辞令，喜欢用轻佻的举止与人互动。在活跃气氛的同时，迅速拉近双方的关系。即便是对她有所提防的人，也会在她接连不断的“攻势”下，不知不觉暴露出弱点。但同时，爱莉希雅又十分神秘，令人捉摸不透，对话的节奏始终被她牢牢把握在手中，在关键之处就会戛然而止，只留下一个充满暗示的笑容。就是这样敌退我进，敌进我退，始终保持着一段朦胧的距离","外貌描述": "爱莉希雅天生一头微卷粉色长发，平整的斜刘海，扎成马尾束在脑后。外表美丽动人，有着一对精灵的耳朵。手术往往伴随着明显的副作用。爱莉希雅的副作用是身体代谢的异常，表现出来就是再怎么吃也不长肉，不锻炼也会有优美的线条。皮肤一天比一天好，头发也变得蓬蓬的。","服饰": "常穿伊甸设计的英桀制服，特点是白色的上衣，黑色的袖套和披肩，上有许多紫色的装饰，由于身材很好，爱莉希雅穿着会觉得有点紧。","武器": "华丽而优雅的弓","特殊能力": "在爱莉希雅的身后是水晶组成的神环，美丽又易碎，就像爱莉希雅眼中的人类和生命本身。这些水晶会始终环绕在她的身边，成为她战斗时的助力与保护","他人评价": ["爱莉总是给人一种热情活泼的感觉，甚至有些调皮，但这恰恰是她真诚的表达。她喜欢有趣的人，热爱有趣的事，也从来不会掩饰这一点。","大多数时候我们的工作交集很少。不过听说爱莉希雅接手的任务，基本没有失败过。那些在我看来有些棘手的敌人，在她的报告中都是‘非常简单’","在入队之初，我受过爱莉希雅许多关照。她似乎和每个人都很亲近，也总能以旁人意想不到的方式解决问题。好像没有什么能难倒她的事。尽管风格不同，但她毫无疑问是杰出的领袖。","爱莉希雅始终是爱莉希雅，她的内在永远不会改变，只不过之前为了保持神秘，所以显得有些收敛。人之律者是她绽放的真我，可以毫无保留地表现她自己的一切，是那种纯粹、无瑕的美丽。"]}
在以上prompt中，尽可能去除了复杂而繁琐的背景故事，只保留有关角色最关键最概括性的信息。
整理完后，第二部就是为每个语音文本加入prompt提示了。该json来源于课程相关的数据集模版。
3.2 构造prompt-response
这种无中生有的内容构造比较适合让大模型来做。构造方法，就是将上面的人设prompt和文本内容逐条组合，传入大模型，来生成对应的上文。当然这样生成的质量肯定是保证不了了。然而我们仍然可以通过一些方法来做一些筛选。
（比如说，我们可以通过独立的生成多条prompt，然后分别计算prompt和response之间的余弦相似度，来找到相对来说最优的解。embedding模型可以直接在百度智能云的模型文档中看到）
出于方便考虑，我就不搞筛选，直接使用千帆大模型来做了。先看一个效果：
import osimport qianfanos.environ["QIANFAN_ACCESS_KEY"] = ""os.environ["QIANFAN_SECRET_KEY"] = ""import jsonchat_comp = qianfan.ChatCompletion()prompt = "一个动漫角色的人设是{personality},她的一句文本台词是{text},请以其他角色或者身份为这个台词设计一个合适的上文提问或者对话prompt，与这一句文本台词构成合理的剧情。仅输出这个prompt，不要输出额外内容。"personality_json = json.load(open("personality.json"))with open('text.txt', 'r', encoding='utf-8') as file:lines = [line.strip() for line in file if line.strip()]resp = chat_comp.do(model="ERNIE-3.5-8K", messages=[{"role": "user","content": prompt.format(personality=personality_json, text=lines[1])}])print(resp["body"])
效果：
{"id": "as-gwjh86upc0","object": "chat.completion","created": 1721729718,"result": "凯文，你刚刚的表情似乎有些复杂，是有什么事情困扰着你吗？还是对我们的计划有什么新的想法？","is_truncated": false,"need_clear_history": false,"finish_reason": "normal","usage": {"prompt_tokens": 1279,"completion_tokens": 22,"total_tokens": 1301}}
只能说，这个生成的prompt还是很难达到像教程中的那样很符合逻辑，很理想的不同角色的问答对。当然效果不好可能也与我们的prompt有关。
import osimport qianfanimport pandas as pdfrom tqdm import tqdmos.environ["QIANFAN_ACCESS_KEY"] = ""os.environ["QIANFAN_SECRET_KEY"] = ""import jsonchat_comp = qianfan.ChatCompletion()prompt = "一个动漫角色的人设是{personality},她的一句文本台词是{text},请以其他角色或者身份为这个台词设计一个合适的上文提问或者对话prompt，与这一句文本台词构成合理的剧情。仅输出这个prompt，不要输出额外内容。"prompt1 = []response1 = []personality_json = json.load(open("personality.json"))with open('text.txt', 'r', encoding='utf-8') as file:lines = [line.strip() for line in file if line.strip()]for line in tqdm(lines,total=len(lines),desc="prompt"):resp = chat_comp.do(model="ERNIE-3.5-8K", messages=[{"role": "user","content": prompt.format(personality=personality_json, text=line)}])prompt1.append(resp["body"]["result"])response1.append(line)df = pd.DataFrame(list(zip(prompt1, response1)), columns=["prompt1", "response1"])df.to_csv("textdata.csv", index=False)
到目前为止，我们暂时得到了一部分数据。考虑到桌宠的需求，1轮对话能解决多数问题。数据集的数量、质量优化到后面慢慢迭代。至于模型的训练和效果，之后再看
发布后数据集效果：
比想象中的要好不少
评论
