3
百度智能云千帆AppBuilder初使用心得
AI原生应用开发/技术交流
- LLM
- 插件应用
2023.12.212567看过
背景
汽车行业从业者一名,关注一堆汽车类公众号&研报,想紧跟时事,奈何信息爆炸时代,公众号更新频次高,每日推送文章巨多,但打工仔上班被工作绑架,下班被短视频绑架,久而久之收集的研报+公众号的推文没几个可以完整读完;
试图使用【RAG问答应用】功能+自己的研报,做一个自己的汽车行业的大脑分身。
具体操作
1.登录千帆应用平台后,点击“个人中心-我的知识-创建知识集合”,填写相关信息
我在这里选择的是导入文本文档数据,将自己的研报资料上传。知识增强功能开启(不知道这个有啥用,但感觉开启比不开的问答效果会好一些),开启高质量索引方式
2.点击“个人中心-我的应用-创建应用”,选择创建类型为【知识问答应用(RAG框架)】,之后进行应用的配置
详细说明操作见
效果评价
我的问题列表及回答情况如下:
可以看到【应用+RAG】做成的汽车行业报告解读助手在回答一些总结类,不需要精确数据类的问题可以回答,但距离做一个专业的行业专家还是有一定的距离;但加了百度搜索插件后,效果会明显增加,但效果的准确度有待考证。
总结类问题举例:
知识问答-汽车行业报告-总结类问题举例
数据类问题举例
知识问答-汽车行业报告-数据类问题举例
发布后分享链接页面
一些心得
关于平台
可以看出千帆应用平台还处于初始建设阶段,应用建设无详细日志查看(分享出的应用对话记忆无),分享页面也没有引用参考,无法判断回答问题是否正确,输出效果是一行一行间断输出,观感一般,是个从0-1的产品,但已经可以给我这类无代码经验的人一个接触学习大模型和创建应用的机会,大模型应用平台中万里长征的起点
关于RAG
知识读取方面,对于PDF和PPT的数据读取上还不是很成熟,所以导致结果不是很准确,加了百度搜索插件后效果回答会好一些;里面有很多可以优化的点,文档解析时候对文档的理解能力,向量化搜索时候的匹配度,知识增强的作用力度。。。
关于模型能力
大型模型就像一个勤奋刻苦的学生,但它的能力有限,目前来看对于条目清晰且繁多的长篇文字,它最适合进行学习。应用平台则本质上是将模型作为主干表现,同时结合我们自己的各类法宝(插件:知识库、百度搜索等),以弥补模型在某些专业能力上的不足。像极了一个父母为了让自己家的傻儿子在人前表现得更好,给他报了许多辅导班、帮他挑选衣服。
然而,有时候这个“学生”有时也会一本正经地胡说八道,其中大部分内容可能是真实的,但数据可能是错误的。因此,需要一位经验丰富的老师来进行审核。
评论