摘要:如今,随着大模型能力的越来越强大,利用大模型的能力进行智能答疑已经成为非常普遍和常见的应用场景。
如今,随着大模型能力的越来越强大,利用大模型的能力进行智能答疑已经成为非常普遍和常见的应用场景。
然而,各个产品或业务方要能够准确有效地进行答疑,仅依靠大模型的通用能力是远远不够的,这时候利用私有领域FAQ文档进行大模型的检索增强生成(RAG)往往可以有效解决上述问题。
您可以在百炼控制台通过零代码的方式创建大模型应用,并将并将RAG(Retrieval-Augmented Generation,检索增强生成)以及插件能力集成进来,来解决个人或企业的业务问题。
今天我们就详细介绍一下,如何使用阿里云百炼平台给公众号部署一个功能完善的智能回答机器人。
下面,将详细介绍配置和使用方法,如果您也有类似需求就一起来试试吧~
一:创建大模型应用
首先,需要通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证,如果有私有模型也可直接调用私有模型的接口,此处还是以百炼平台的大模型应用为例,因为构建非常方便。
右击链接复制浏览器粘贴打开:
https://bailian.console.aliyun.com/?utm_content=g_1000400651
进入百炼平台,点击“我的应用”,选择“创建应用”。
进入智能体应用管理界面后,您需要进行大模型的选择与参数配置。
您可以参考上图,单击“设置”,并在模型选择的下拉菜单中选择模型,此处建议选择通义千问-Max。您也可以根据需求进行模型参数的配置。
这里如果没有开通模型调用服务,需要开通过服务才可调用模型。
但是注意,不同的模型计价不同。
具体的计价表周周这里也整理出来了,如下图所示:
其中,通义千问-Max是通义千问2.5系列千亿级别超大规模语言模型,支持中文、英文等不同语言输入,也是这几个里面参数量最大的。
这里大家也可以看到,除了模型选择外,在参数设置中还有温度系数、最长回复长度和携带上下文轮数三个可控参数。
温度系数:调控生成的多样性。
最长回复长度:模型生成的长度限制,不包含prompt。允许的最大长度因模型不同有所改变。
携带上下文轮数:设置输入模型的最大历史对话轮数,轮数越多,对话相关性越强。
后面两个是比较好理解的,这里着重说明一下温度系数的概念。
温度系数可以帮助平衡模型在探索新文本(尝试不同的生成路径)与利用已知高概率路径之间的权衡。
一般而言,低温度适合于需要高度准确和一致性的应用场景,如代码生成、专业文档编写等;中等温度适用于大多数通用场景,可以产生既连贯又有一定创造性的文本;高温度适用于需要大量创意和多样性的场景,如故事创作、诗歌生成等。
我们现在的场景需要一定的专用性和通用性,但是专用性要求更高,这里建议调整为0.4~0.8的这个区间,具体情况还需根据反复调试来判断。
选择大模型之后,您就在百炼创建完成了一个智能体应用。您可以输入问题进行测试。
二:拓展大模型应用的能力
您可以在百炼应用管理界面,通过设置Prompt、添加RAG与插件等方法拓展大模型应用的能力。
2.1设置Prompt
您可以在百炼应用管理界面中输入Prompt来指引应用生成内容的方向与格式。
例如设置Prompt为:请你模仿武侠人物的语气回答问题。
输入“你好”,大模型应用的输出如上图。
2.2 通过RAG提升私域知识问答能力
RAG可以显著提高大模型应用在处理私域知识或垂直领域问答时的效果。此处向您展示通过百炼控制台操作将RAG的能力集成到大模型应用中的过程。
2.21 访问数据管理,单击导入数据。此处选择我写的案例文章作为知识库文件。在导入数据界面,将文件通过本地上传方式导入。
2.22 创建知识库
访问知识库索引,单击创建知识库。在创建知识库界面填入知识库名称与知识库描述,此处设置知识库名称为:案例知识,知识库描述为:产品的案例情况介绍。其它保持默认选项即可,单击下一步。
单击选择文件,类目位置单击默认类目,文件名称选择案例。单击导入完成。
当状态为解析完成时,表示知识库创建完毕。
2.23.在应用中集成RAG
在选择知识库下拉列表中选择百案例知识,点击添加,其它选项保持默认即可。
向输入框输入问题:我想了解下你了解的医疗行业方面的IT案例?
2.3 通过插件扩展大模型应用能力
插件可以使大模型应用更高效、更专业地应用到业务场景中。百炼提供了多种官方插件。您可以在大模型应用管理界面单击选择插件,便可以在官方插件栏中选择一个或多个插件。
添加插件,此处以图片生成插件为例,在勾选对应插件后,单击添加。这里的图片生成需要先申请开通。
添加完成后,测试插件效果
向输入框输入:生成一张可爱的老虎的图片。
大模型应用的回复如下图,可以看到大模型应用调用了图像生成插件。
我们也可以添加下生成二维码的插件,也非常好用。
除此之外,还有一些小插件,例如夸克搜索,计算器等都可以尝试下。
三:发布大模型应用
下面我们来发布机器人,点击发布后的应用可以被API调用,也可以通过Web页面分享给同一主账号下的RAM子账号使用。
您可以单击百炼应用管理界面右上角的发布按钮。如果您的应用非首次发布,弹窗会向您展示当前大模型应用相比于上一次发布时的修改项。在您确认修改项后单击确认发布。
通过API调用
您可以在智能体应用发布渠道页签,单击API调用右侧的查看API,查看通过API调用智能体应用的方法。
注:您需用您的API KEY对DASHSCOPE_API_KEY进行替换才可发起调用。
通过微信访问应用
在发布渠道页签,将鼠标悬浮至微信公众号右侧的image图标,您可以按需将二维码分享给目标用户。
配置微信的权限,注意这里要放公众号开发者的ID,不要放错了哦。
大家可以用自己的公众号或其他方式部署体验一下专属智能AI机器人的好处吧
总结:
如今,利用AI技术提升在线服务的质量已成为很多企业提升服务效率的最佳方式之一。阿里云百炼平台不仅简化了AI助手的部署流程,还帮助企业实现了服务的即时性和个性化,从而更好地满足客户需求。
按照本文档中的步骤,您已经能够快速地在自己的公众号或者网站上部署一个功能全面的AI助手。这不仅能显著改善用户体验,还能有效减少客户服务部门的工作负担,使企业能够在激烈的市场竞争中脱颖而出。
推荐大家在百炼平台DIY一个自己的智能AI助手
右击复制下方链接或点击“阅读原文”,浏览器粘贴访问百炼平台了解相关的详细信息:
https://bailian.console.aliyun.com/?utm_content=g_1000400651
来源:了不起的云计算