【开源工具接入千帆实战系列】在FastGPT中接入千帆
大模型开发/技术交流
- LLM
6月17日825看过
1 关于 FastGPT
FastGPT是一款基于 LLM 大模型的开源 AI 知识库构建平台。提供了开箱即用的数据处理、模型调用、RAG 检索、可视化 AI 工作流编排等能力，帮助您轻松构建复杂的 AI 应用。
2 在 FastGPT 中使用 百度智能云千帆 模型
2.1 配置 百度智能云千帆 API Key
2.2 在 FastGPT中配置
2.2.1 打开 FastGPT 应用
使用FastGPT有两种方法，一种直接使用官网demo，进入之后点击“开始使用”，也可以自行搭建FastGPT服务，具体步骤可以参考 github FastGPT 说明介绍。
目前通过官网demo的方式，无法新增模型，因此本教程是通过自行搭建的FastGPT服务进行演示。
打开FastGPT页面完成登录操作，选择左侧列表中的“账号”-“模型提供商”-“模型配置”-“新增模型”-语言模型。
2.2.2 配置 百度智能云千帆 的接入信息
-
模型ID，我们填写deepseek-r1，更多模型可以在模型列表找到 百度智能云千帆 所有模型选项（参考：model 参数值）
-
模型提供商，我们选择其他，其他代表是符合OpenAI规范的接口，百度千帆大模型已经兼容了该规范
-
别名，可以自定义
-
最大上下文，可在模型列表找到对应模型的参数，deepseek-r1，对应的是96k
-
最大响应tokens，deepseek-r1对应的是16k
-
最大温度，是2
-
自定义请求地址，跟其他应用不同，这里需要填写完整的url，https://qianfan.baidubce.com/v2/chat/completions
-
自定义请求Key，填写之前创建好的API-Key
-
其他选择默认，然后点击“确定”，然后我们选择模型配置标签页，模型提供商选择其他，找到刚刚添加的deepseek-r1，点击右侧的“模型测试”，然后提示成功，代表配置成功
-
同样的方法，我们可以添加百度千帆平台上的deepseek-v3和ernie-4.5-turbo-128k，以及千帆系列的其他模型
2.2.3 配置 团队应用
-
点击左侧菜单中的“工作台”
-
点击右上角的“新建”-“简易应用”，我们选择创建空白应用，名称输入test
-
创建好之后，会自动进入应用的调试页面，我们选择“AI模型”，找到我们添加的deepseek-r1模型，其他根据自身情况，选择设置。然后在右侧输入框中输入：你是谁。可以看到正常回复信息，说明配置成功
-
最后点击右上角下拉菜单中的“保存并发布”，输入名称，点击确定
2.2.4 开始聊天
-
点击左侧菜单中的“聊天”
-
选择创建好的“test”应用，默认会出现一个新对话
-
我们输入问题即可
2.2.5 配置工作流
-
点击左侧“工作台”，点击“新建”，选择“工作流”，输入名称之后，进入工作台
-
在工作台上点击“左上角”添加按钮，选择“AI对话”组件
-
在AI对话组件中，选择我们之前添加的模型，ernie-4.5-turbo-128k
-
点击“运行”，在输入框中输入：“您是谁”，可以看到已经可以正常回复了
3 结语
在 FastGPT 中，可以使用千帆大模型平台的DeepSeek系列及百度文心系列模型，同时提供丰富的功能模块，通过简单拖拽就能搭建出个性化的 AI 应用，零代码也能实现复杂的业务流程，还提供完整的数据智能化解决方案，从数据导入、预处理到知识匹配，再到智能问答，全流程自动化。配合可视化的工作流设计，轻松打造专业级 AI 应用。
如果想要get更多大模型技巧，推荐学习工信部教考中心x百度推出的《生成式人工智能应用工程师》百度推出的《百度AI大模型工程师》、《零基础速通 DeepSeek：AI 变革破局思考与实践》
评论
