大模型应用开发RAG-速通百炼RAG应用

一、大模型应用如何走向企业落地？

1.1 大模型到业务的距离有多远？

🤔：想把大模型用在生产场景、需要考虑哪些问题？

​ 在企业生产环境下，常见的大模型应用落地的痛点和问题可能是这些：

  • 应用搭建复杂 ：针对不同的业务目标、都需要花大量时间投入选型和测试
  • 提示词工程复杂 ：一个问题需要反复打磨提示词，员工需掌握“调教模型”技能，跨部门协作效率降低。
  • 无法解决复杂任务 ：AI很难执行复杂任务，不会拆解业务场景的核心问题
  • 缺少行业知识 ：领域知识匮乏、动态数据更新滞后、多模态处理能力差
  • 等等···

1.2 企业级AI应用的参考答案—— AI Agent（智能体应用）

假设每个合适的工作场景都有一个智能助理，熟悉核心思路和数据，只要说需求，就可以获得能辅助业务决策的数据或方案。 当企业里的每个人、都能用上这样的智能助理，工作效率将会发生怎样的变化？

答：在这种预期下、AI Agent = 一个懂得复杂任务拆解、会持续学习内容、会聪明调用各种资源的一个数字员工

image-20250413150510653

1.3 我们来看两个真实的落地案例

1.3.1 案例1：AI+财务

🤔：在这种业务场景、你会如何设计大模型应用？

1
2
3
目标企业 ：会计师事务所
应用目标 ：提升财务工作人员的工作效率
财务工作人员的业务特性 ： 政策敏感度、合规性、风险敏感度 等工作

  • 项目真实情况

    • 项目名称 ：AI财会助手

    • 项目简介 ：构建动态更新的财税知识图谱，推动专业服务智能化转型。

    • 项目成果 ：构建了庞大的财务行业领域数据知识库，通过 RAG搜索增强 等技术，构建了完整的财务知识图谱，让AI大模型在财务领域的专业度直线上升， 最后获得了注册会计师96%的满意度评价 。

  • 亮点1：权威知识中枢

    • 全维度法规覆盖 ：集成会计/证券/税务/经济四大核心领域法规库；支持实时同步最新政策文件
    • 智能知识图谱 ：建立法规条款-案例应用-业务实操的业务闭环
    • image-20250413151040281

  • 亮点2：决策智能引擎

    • 专业级AI解析 ： 基于行业资深注册会计师团队体系化评估，实际业务问题准确率达96%。
    • 动态学习系统 ：置信度专家库实时吸收用户反馈，持续优化的问答质量保障模型效果。
    • image-20250413151307555

  • 亮点3：效率革命工具

    • 快速检索 ：高效进行新老政策法规检索；

    • 辅助解读 ：快速辅助从业人员对复杂法规进行理解；

    • 热榜洞察 ：实时呈现行业高频问题热榜

    • image-20250413151455812

  • 亮点4：风险控制体系

    • 溯源验证机制

      • 支持关键条款的智能匹配与引用

      • 双通道知识来源追溯（法规原文+案例依据）

      • 重点条款高亮标注功能

      • image-20250413151548703
      • image-20250413151624810

1.3.2 案例2：AI+购物

🤔：在这种业务场景、你会如何设计大模型应用？

1
2
目标场景 ：购物系统
应用目标 ：提升消费者的购买体验

  • 项目真实情况

    • 项目名称 ：AI购物系统

    • 项目简介 ：以用户为核心，构建一个全面智能化、个性化的购物生态系统。

    • 项目成果 ：

      • 用户的每一次购物不再只是购买产品，而是获得一位“AI朋友”，一个真正懂用户、分析需求、推荐最适合方案的智能管家。

      • 围绕用户需求场景，开发了 AI导购，AI评估管家、AI饮食管家、AI睡眠管家、AI减压管家 等功能，全方位服务用户的工作生活。

  • AI导购流程图

    AI导购通过RAG技术做商品语义搜索，让用户在和AI的沟通中可以获得最精确的商品推荐

    image-20250413162632646

  • 项目效果示意

image-20250413162842838
image-20250413162937533
image-20250413162945033
image-20250413162949834

划重点

以上两个案例、最大头的工作其实都是清洗数据、构建良好的RAG效果，是保障这两个项目产品可用性的核心环节。

🤔：RAG在AI应用中究竟起到了什么作用？

1
2
以上案例为什么要用RAG？
在哪些环节可能会用到RAG？

1.4 AI+千行百业，正在转型

实际上，大模型的应用正在各行各业取得显著进展，除了作者所接触的真实项目，还有 金融、医疗、教育、电子商务 等等。

随着 RAG、AI工作流 等技术的日渐成熟、将大模型应用到生产场景大有可为。

许多公司也在寻求具备大模型应用能力的人才。从就业市场来看，大模型领域的需求非常大——

相关岗位：

  • 机器学习工程师 ：专注于模型的训练、优化和部署。
  • 数据科学家 ：以数据分析和挖掘为核心，推动 AI 应用。
  • AI 产品经理 ：负责AI产品的规划与实施。
  • AI应用开发工程师 ：结合传统开发背景，开发大模型应用。

二、上手AI Agent应用开发

🤔：我们如何快速上手 AI Agent应用开发呢？

1
2
本教程将带大家使用阿里云百炼平台进行AI应用开发**
作者项目中的 **RAG模块** 和一些核心组件正是选用的阿里云百炼平台实现的

跳转到 阿里云百炼平台-应用管理

Part1：5分钟创建AI财务助手

🤔：最简单的AI财务助手应该具备什么功能？

  • 财务助手主要是哪些人需要？
  • 有哪些注意事项？
  • AI主要会在其中起什么作用？

1️⃣ 创建应用

选择创建智能体应用，并点击立即创建

image-20250413164044025

2️⃣ 选择模型

根据自己的实际情况选择模型（推荐 通义千问-Max），这个是笔者实践下来效果比较稳定的常用选择

3️⃣ 编写提示词并输入

以下自己学习时用到的提示词：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
# 角色
你是一位专业的财会助手，专注于中国企业财税领域。凭借深厚的专业知识和丰富经验，依据用户提供的上下文信息,精准分析用户提出的财税相关问题，并给出全面、详细且专业的解答。

## 技能
### 技能 1:精准把握用户需求
1.当用户输入完整问题时，迅速准确理解需求点，运用专业知识分析解答，
2.若用户仅输入一个短语，礼貌追问用户，引导其提供该问题相关的详细背景信息，如涉及的企业规模、业务场景、时间范围等。
3.先归纳结论。

###技能 2:法规依据阐述
在给出任何答案之前，明确指出具体依据的相关法律法规名称、文号、第几条、相关条文内容，确保回复具有权威性和严谨性。

### 技能 3:详细解答问题基于用户提供的信息和相关法律法规，提供逻辑清晰、内容完整的答案，必要时通过举例、图表等方式辅助说明，让用户易于理解。

## 限制
- 仅围绕用户提出的财税问题进行分析和回答，坚决拒绝回答与问题无关的话题。
- 回复必须条理清晰，用Markdown格式，每个要点前要有序号，每段要先归纳为一句话并加粗显示
- 答案内容需保证专业性和准确性，不能随意编造或传播未经证实的信息。

4️⃣ 尝试一下各种功能

image-20250413164807846

🤔：联网搜索也是RAG么？

  • 百炼上这些“知识”功能、都可以用来做什么？
  • 不同的“知识”方案、有什么区别？
  • 联网搜索的知识有什么优势？有可能存在什么问题？

5️⃣ 测试应用

image-20250413165247743

6️⃣ 发布应用

image-20250413165401991
image-20250413165456560

Part2：在AI应用中添加RAG能力

本环节会带大家体验阿里云百炼的知识库功能，感受阿里云百炼的RAG效果。我给大家准备了我处理过的文件——

准备好文件《计学精要2021.zip》，下载页面：https://www.datawhale.cn/activity/189/29/124?rankingPage=1

1️⃣ 上传数据到百炼平台

1
2
3
4
你还可以使用自己的知识文件、创建自己场景下的应用。
百炼目前支持 .pdf,.doc,.docx,.txt,.md,.pptx,.ppt,.png,.jpg,.jpeg,.bmp,.gif,.xls,.xlsx 等格式的文件
对多模态文件有很好的兼容能力，大家都可以尝试看看~
如果是纯文本，我一般会处理成 .md 文件
image-20250413170140241
image-20250413170309476
image-20250413170415777

2️⃣ 创建知识库

image-20250413170556935
image-20250413170632182
image-20250413170715510
image-20250413170817727

3️⃣ 绑定知识库到智能体

image-20250413173005718
image-20250413173147928

4️⃣ 测试验证效果

1
2
参考提问：
如何区分一项无形资产租赁业务时适用《企业会计准则第21号——租赁》还是《企业会计准则第6号——无形资产》？
image-20250413173409921 
1
2
3
4
5
6
7
从测试结果中可以发现、成功调用知识库后，会显示执行完成、并且给出知识库检索的结果——

按照匹配分数列出了5个匹配分数较高的内容，

这些索引到的内容都将作为问答的上下文补充， **让AI在回答的时候有更多的输入**

PS：这些结果都可以在API调用的时候通过代码获得

发布版本：

image-20250413173627526

三、作业

3.1 作业1：尝试使用工作流(完成)

1
2
3
官方简介：
工作流应用支持 通过画布自定义和编排业务流程编排主体为原子节点 ，如大模型节点、知识库节点等快速实现业务逻辑设计及业务效果验证。
适用于需要结合大模型执行高确定性的业务逻辑的流程型应用，如可执行不同任务的智能助理工作流、自动化分析会议记录工作流等。
image-20250413202908418

🤔：如何构建一个旅游规划工作流应用

1
demo功能需求：用户输入目标城市-->调用插件获取24小时内当地天气-->生成旅行规划
image-20250413202950712

在百炼平台上实现如下：

image-20250413203830280
image-20250413203241028
image-20250413203422100
image-20250413214749363

最后的工作流如下图：

image-20250413214700825

工作流执行效果如下图：

image-20250413215031257

3.2 作业2：尝试使用API调用你创建的应用(暂未成功)

要想做真实可用的商业级大模型应用、我们必然不能停留在零代码搭建的AI应用组件上、如何更好地将AI应用、RAG能力、稳定的工作流，融入到更方便的业务场景中使用呢？

答案是——

通过API调用我们已经调试稳定的AI能力。

接下来、你可以尝试学习官方API调用文档，完成AI应用的调用！

官方API主要提供以下功能：

image-20250413215148062

image-20250413222939881

3.3 作业3：尝试一下多模态格式的文件(完成)

image-20250413224044018
image-20250413224007909
image-20250413223955865

3.4 作业4：思考你想做的AI Agent应用场景(部分完成)

实际上我们通过上面的应用创建，仅仅只是完成了AI功能的部分验证和搭建，

真正要展开企业级大模型应用开发的工作，我们至少还需要考虑如下几点——

  • 我们要解决的业务痛点是什么？如何确定真实性和要求？

    以下是自己根据自己在工作与学习中遇到问题，进行的思考与回复

    • 只依靠大模型本身的简单对话功能无法完成真实的复杂业务问题。实际业务问题比较复杂，比如需要同时解析30个word格式的日报文件（其中有文字与word表格），根据日报文件中的内容进行汇总，生成word格式的月报。 此时只单纯使用大模型如DeepSeek本身的对话能力就无法准确地完成此业务功能。

  • 如何思考这个业务或需求是否适合引入AI应用和AI功能？

  • 如何设计技术架构、完成合适的技术选型？

  • 如何落地开发？核心工作有哪些？

    • 需要从技术可行性、复杂性、成本等多方面进行考虑
大模型
#大模型
大模型应用开发RAG-速通百炼RAG应用
https://jiangsanyin.github.io/2025/04/13/大模型应用开发RAG-速通百炼RAG应用/
作者
sanyinjiang
发布于
2025年4月13日
许可协议