【开源工具接入千帆实战系列】在RAGFlow中接入千帆
大模型开发/技术交流
- LLM
6月17日904看过
1 关于 RAGFlow
RAGFlow是一款基于深度文档理解构建的开源 RAG（Retrieval-Augmented Generation）引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程，结合大语言模型（LLM）针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。
2 在 RAGFlow 中使用 百度智能云千帆 模型
2.1 配置 百度智能云千帆 API Key
2.2 在 RAGFlow 中配置
2.2.1 打开 RAGFlow 应用
使用RAGFlow有两种方法，一种直接使用官网demo，进入之后点击“Try RAGFlow”，也可以自行搭建RAGFlow服务，具体步骤可以参考 github ragflow 说明介绍。
登录之后，点击右上角个人信息，然后选择“Model providers”
2.2.2 配置 百度智能云千帆 的接入信息
-
向下滚动，找到 OpenAI-API-compatible，然后点击开始添加模型，我们开始添加第一个模型，按照如下填写完成，其中API Key是百度智能云千帆中的APIKey，点击保存，稍等片刻，提示添加成功
-
-
也可以直接在“Added models”中找到“OpenAI-API-compatible”，点击“Add the model”
2.2.3 配置 聊天助手
-
选择RAGFlow菜单中的"Chat"，点击创"Create an Assistant"，此时会弹出一个警告，我们点击“OK”，这是由于我们没有设置embedding模型
-
点击之后会跳转到“Model providers”，我们点击“Set default models”，然后设置后后，点击“ok”
-
再次点击菜单中的"Chat"，点击创"Create an Assistant"，填写“Assistant name”，再次点击“Prompt engine”，由于本次演示不使用知识库，因此将“System prompt”内容修改，同时将知识库删除，然后点击“Model Settings”选择我们创建的deepseek-r1模型，点击OK
2.2.4 开始聊天
-
按照上面步骤，RAGFlow 已经配置完成，可以开始对话聊天了。
-
同理，可以选择刚刚添加的 deepseek-v3 和 ernie-x1-turbo-32k 模型，进行对话。
2.2.5 配置Agent工作流
-
点击菜单上方的“Agent”，进入工作流编排页面，我们以此选择“Interact”，“Generate”，“Interact”，然后链接，配置“Generate”，选择我们上面添加好的模型“ernie-x1-turbo-32k”模型
-
开始测试，点击右上角的Run按钮，开始测试，在输入框中输入：您是谁。即可看到结果
3 结语
在 RAGFlow 中，可以使用千帆大模型平台的DeepSeek系列及百度文心系列模型，同时它还有强大的文档解析功能，支持丰富的文件类型，包括 Word 文档、PPT、excel 表格、txt 文件、图片、PDF、影印件、复印件、结构化数据、网页等各类异构数据源，同时支持自动化的RAG工作流，支撑您的各类业务需求。
如果想要get更多大模型技巧，推荐学习工信部教考中心x百度推出的《生成式人工智能应用工程师》百度推出的《百度AI大模型工程师》、《零基础速通 DeepSeek：AI 变革破局思考与实践》
评论
