分享
02.SpringAI(V1.0.0)-PromptEngineer和ToolCalling-
输入“/”快速插入内容
📗
02.SpringAI(V1.0.0)-PromptEngineer和ToolCalling-
用户7020
用户7020
2025年12月3日修改
今天我们正式进入大模型应用开发实战阶段,利用大模型来解决实际问题。
那么大模型与传统应用结合有哪些不同的方案呢?
1.
大模型应用开发技术架构
接下来我们就来了解下常见的大模型开发技术架构。
1.1
技术架构
目前,大模型应用开发的技术架构主要有四种:
1.1.1
纯Prompt模式
不同的提示词能够让大模型给出差异巨大的答案。
不断雕琢提示词,使大模型能给出最理想的答案
,这个过程就叫做
提示词工程
(
Prompt Engineering
)。
很多简单的AI应用,仅仅靠一段足够好的提示词就能实现了,这就是
纯Prompt模式
。
其流程如图:
画板
1.1.2
FunctionCalling
大模型虽然可以理解自然语言,更清晰弄懂用户意图,但是确无法直接操作数据库、执行严格的业务规则。这个时候我们就可以整合传统应用于大模型的能力了。
简单来说,可以分为以下步骤:
1.
我们可以把传统应用中的部分功能封装成一个个函数(Function)。
2.
然后在提示词中描述用户的需求,并且描述清楚每个函数的作用,要求AI理解用户意图,判断什么时候需要调用哪个函数,并且将任务拆解为多个步骤(Agent)。
3.
当AI执行到某一步,需要调用某个函数时,会返回要调用的函数名称、函数需要的参数信息。
4.
传统应用接收到这些数据以后,就可以调用本地函数。再把函数执行结果封装为提示词,再次发送给AI。
5.
以此类推,逐步执行,直到达成最终结果。
流程如图:
画板
❗
注意
:
并不是所有大模型都支持Function Calling,比如早期的DeepSeek-R1模型就不支持(最新版已经支持了)。
1.1.3
RAG
RAG(
R
etrieval
-A
ugmented
G
eneration)叫做检索增强生成。简单来说就是把
信息检索技术
和
大模型
结合的方案。
大模型从知识角度存在很多限制:
•
时效性差
:大模型训练比较耗时,其训练数据都是旧数据,无法实时更新
•
缺少专业领域知识
:大模型训练数据都是采集的通用数据,缺少专业数据
可能有同学会说, 简单啊,我把最新的数据或者专业文档都拼接到提示词,一起发给大模型,不就可以了。
同学,你想的太简单了,现在的大模型都是基于Transformer神经网络,Transformer的强项就是所谓的注意力机制。它可以根据上下文来分析文本含义,所以理解人类意图更加准确。