摘要:提示词(Prompt)是输入给大模型(LLM)的文本指令,用于明确地告诉大模型你想要解决的问题或完成的任务,也是大语言模型理解用户需求并生成准确答案的基础。因此 prompt 使用的好坏,直接决定了大模型生成结果的质量(是否符合预期)。
提示词(Prompt)是输入给大模型(LLM)的文本指令,用于明确地告诉大模型你想要解决的问题或完成的任务,也是大语言模型理解用户需求并生成准确答案的基础。因此 prompt 使用的好坏,直接决定了大模型生成结果的质量(是否符合预期)。
为了让大模型生成更符合预期的结果,我们在使用 Prompt 时,可以使用以下模版。
其内容组成为:
背景:介绍与任务紧密相关的背景信息。这一环节有助于 LLM 深入理解讨论的具体环境,从而保证其生成内容与话题高度相关。目的:明确指出您期望 LLM 完成的具体任务。通过设定清晰、精确的目标指令,可引导 LLM 聚焦于实现既定任务,提升输出的有效性。风格:指定您希望 LLM 输出的写作风格,可以是某个具体名人、具体流派或者某类专家的写作风格。语气:定义输出内容应有的语气,比如正式、诙谐、温馨、关怀等,以便适应不同的使用场景和使用目的。受众:明确指出内容面向的读者群体,无论是专业人士、入门学习者还是儿童等,这样 LLM 就能调整语言和内容深度,使之更加贴合受众需求。输出:规定输出内容的具体形式,确保 LLM 提供的成果能直接满足后续应用的需求,比如列表、JSON 数据格式、专业分析报告等形式。以下为阿里云提供的 Prompt 案例:
在未使用 Prompt 模版时,LLM 输出虽表现尚可,但显得过于泛化,缺乏必要的细节和针对特定群体的吸引力。而在使用 Prompt 框架时,框架不仅提醒您考虑需求的其它方面,特别是一般 Prompt 中缺少的风格、语气和受众,还帮助 LLM 生成更针对年轻群体、细节更多、语言表达更加富有张力的输出。
当然,我们也可以使用一些工具来进行 Prompt 优化,例如阿里云百炼平台 Prompt 优化工具扩写等,如下图所示:
从程序的角度来看 Prompt 的发展演化经过了以下几个阶段:
简单字符串:最初的 Prompt 只是简单的文本字符串。占位符:引入占位符(如 {USER})以动态插入内容。多角色消息:将消息分为不同角色(如用户、助手、系统等),增强交互的复杂性和上下文感知能力。以 Spring AI 中的 Prompt 来看,它的实现源码如下:
public class Prompt implements ModelRequest> { private final List messages; private ChatOptions chatOptions;}Prompt 实现了 ModelRequest 接口,并且包含了 messages 和 chatOptions 属性,其中:
messages:包含多个 Message 对象,每个消息代表对话中的一个部分。chatOptions:配置选项,用于设置模型的某些属性。Message 对象是 Content 的子类,Spring AI Message API 关系如下图所示:
Prompt 中的主要角色(Role)包括以下几个:
系统角色(System Role):设定 AI 行为边界。指导 AI 的行为和响应方式,设置 AI 如何解释和回复输入的参数或规则。用户角色(User Role):接收用户原始输入。代表用户的输入他们向 AI 提出的问题、命令或陈述。这个角色至关重要,因为它构成了 AI 响应的基础。助手角色(Assistant Role):AI 返回的响应信息,定义为“助手角色”消息。用它可以确保上下文能够连贯的交互。工具/功能角色(Tool/Function Role):桥接外部服务,可以进行函数调用如,支付/数据查询等操作。角色在 Spring AI 枚举中被定义,如下源码所示:
public enum MessageType { USER("user"), ASSISTANT("assistant"), SYSTEM("system"), TOOL("tool"); // .....}import org.springframework.ai.chat.client.ChatClient;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RequestParam;import org.springframework.web.bind.annotation.RestController;@RestController@RequestMapping("/prompt")public class PromptController { private final ChatClient chatClient; public PromptController(ChatClient.Builder builder) { this.chatClient = builder.build; } @RequestMapping("/system") public String system(@RequestParam String city) { String result = chatClient.prompt .system("你是一个旅行规划助手") .user(city) .call .content; System.out.println(result); return result; }}以上程序执行结果如下:
AssistantMessage 助手消息类型可用于接收上次执行结果,并实现上下文连续对话,实现代码如下:
import org.springframework.ai.chat.client.ChatClient;import org.springframework.ai.chat.messages.AssistantMessage;import org.springframework.ai.chat.messages.Message;import org.springframework.ai.chat.messages.UserMessage;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RequestParam;import org.springframework.web.bind.annotation.RestController;import java.util.ArrayList;import java.util.List;@RestController@RequestMapping("/prompt")public class PromptController { private final ChatClient chatClient; //使用集合记录消息历史 List messages = new ArrayList; public PromptController(ChatClient.Builder builder) { this.chatClient = builder.build; } @RequestMapping("/assistant") public String assistant(@RequestParam String msg) { messages.add(new UserMessage(msg)); // 助手消息 AssistantMessage response = chatClient.prompt .messages(messages) .call .chatResponse .getResult .getOutput; messages.add(response); return response.getText; }}程序执行结果如下:
从结果可以看出,第二次交互是在第一次交互的基础上执行的。
除了 Prompt 以上内容之外,还有 PromptTemplate 以及 Prompt 使用技巧,例如为模型提供输出样例、设定完成任务步骤、使用思维链(Chain of Thought,COT)引导模型“思考”等具体技巧,咱们后期文章再慢慢聊,关注我学习更多 AI 和 Java 的干货知识。
本文已收录到我的面试小站 [www.javacn.site](https://www.javacn.site),其中包含的内容有:场景题、并发编程、MySQL、Redis、Spring、Spring MVC、Spring Boot、Spring Cloud、MyBatis、JVM、设计模式、消息队列等模块。
来源:磊哥聊编程