模型服务更多元！知识库全面升级，支持向量化存储管理

• 离线批量推理支持ERNIE IRAG图像生成与ERNIE IRAG Edit图像编辑。
• 第三方大模型预置服务新增多模态向量、模型压缩算法及图像理解模型，并上线视频生成服务。
• Qianfan系列场景大模型Qianfan-MultiPicOCR全新上线，专注于多图多题场景，精准提取题目关键内容。
• 知识库升级支持向量化存储管理，提升RAG检索在问答场景应用，灵活管理私域知识，高效搭建智能问答。

模型服务升级

一、模型服务

1、文心大模型

• 离线批量推理支持ERNIE IRAG图像生成及ERNIE IRAG Edit图像编辑。

2、第三方大模型

• 预置服务上线多模态向量gme-Qwen2-VL-2B-Instruct。
• Qwen2.5系列模型压缩新增GPTQ、AWQ、Smoothquant量化算法。
• 预置服务上线图像理解模型InternVL3系列，包含38B/14B/1B三个版本 ，其中InternVL3-14B、InternVL3-1B限时免费试用。
• 视频生成预置服务Wan-2.1-StartEnd2Video已上线，支持申请开通白名单使用。

3、DeepSeek大模型

• 预置服务上线深度思考模型DeepSeek-R1-250528，支持function calling、联网搜索等功能。

• DeepSeek模型联网搜索支持search_number、reference_number两个参数，即：
  • 自定义检索网页的数量search_number
  • 自定义输入给大模型的网页数量reference_number

4、Qianfan系列场景大模型

• 上线教育多图多题场景模型Qianfan-MultiPicOCR，专注于多张图片输入，有效识别并抽取多张图片当中的信息内容并转换为工程侧易用的yaml格式，能够精准识别并提取出题目标题、题目类型、答案、解析、标识等信息。

二、平台能力

• 推理服务支持通过服务网卡挂载的方式内网直连访问。

一、模型训练

• DPO新增Qwen3-0.6B、Qwen3-14B模型，并支持全量和LoRA训练方法。

• SFT图像理解新增Qwen2.5-VL-32B模型，并支持全量和LoRA训练方法。

• Post-pretrain支持Qwen2.5-32B模型。

• 模型蒸馏功能中，支持选择DeepSeek-R1-250528作为教师模型进行蒸馏。

• 知识库全面升级：支持向量化存储和管理各类知识文档，切片更灵活、检索更准确，支撑RAG检索增强在大模型知识问答场景中的应用。灵活管理企业私域知识，高效搭建智能问答应用。