摘要：大家好，今天给大家介绍t c g pro的ai大模型模块。它是一个ai应用开发平台加知识库问答系统，类似地府结合了ai流程编排、r a c管道、知识库管理、模型管理等功能，能帮助大家快速搭建ai应用。

大家好，今天给大家介绍t c g pro的ai大模型模块。它是一个ai应用开发平台加知识库问答系统，类似地府结合了ai流程编排、r a c管道、知识库管理、模型管理等功能，能帮助大家快速搭建ai应用。

今天的视频会通过几个简单的示例带大家快速的了解如何使用这个模块。下面先简单介绍一下ai大模型的几个模块。

·ai模型配置：这个模块主要是用来管理ai模型，ai模型是整个系统的核心，像ai知识库、ai工作流、ai应用这些功能都需要靠它来提供智能支持。

·下面是ai知识库，这个模块结合了自然语言处理、向量搜索和大语言模型，主要是用来高效存储、查找和管理知识的，这样ai就能更精准的理解问题，给出更靠谱的答案。

ai工作流就是把复杂任务拆成一个一个小步骤，这样既能让系统更简单，也能更高的执行效率，合理安排工作流后不用太依赖提示词或者单次的l m推理，ai任务也能更稳定，更容易理解，还不容易出错。

ai应用是ai技术和各种智能工具，比如大语言模型、指示库、向量搜索、自动化工作流等结合起来做成一个更智能化的解决方案，让ai更好的帮助用户完成任务。

下面就从最基础的ai聊天应用开始。在开始之前需要准备一个ai供应商的账号以及它的app i k。下面是目前支持的ai供应商，如果没有可以通过这个链接去访问他们的官网申请app i k。

下面已经申请好了，现在就直接开始添加模型。进入ai模型配置，选择供应商，选择供应商之后需要填写模型的名称，这个名称可以随便填写，能填一个能够记住的就可以了。

模型类型分语言模型和销量模型。这里说明一下，语言模型是用于理解文字生成和预测自然语言的模型。在系统中语言模型主要是用于聊天、问答、分类等这种文本类的生成任务的。香料模型是可以将文字转换为高维度的香料，以便进行计算和相似度比较。

在系统中主要是用在知识库里面的，现在先创建一个语言模型。选择好语言模型以后需要选择这个模型对应的基础模型，输入在供应商官网获取到的app i k和它的app i域名。这边已经输好了自己的app i k和app i域名，点击保存就可以把模型添加好了。

可以在ai应用中创建一个新的应用，名字就叫聊天机器人，选择简单配置。进来以后可以看到提示词已经帮我们生成了一个样例，当然可以根据这个样例去改变，改成自己所需要的提示词。

这里有一个比较好用的功能就是生成的功能，可以通过它快速的生成提示词。比如现在生成了一个旅行规划师，在旅行规划师、指令的地方填入对于提示词的要求，下面ai就会自动的帮我们生成对应的提示词，直接拿它替换掉。

·下面可以输入一些开场白，可以针对于聊天机器人，然后输入一个开场白。开场白是在每次打开聊天绘画的时候都会发出来的一句话，可以让用户知道我该怎么使用ai。

·下面由我已经编辑好的一段直接给它粘进来，可以在预设问题里面提前准备好几个问题，然后让用户刚开始见到机器人以后可以通过快速的点击它去了解我可以怎么问什么问题，然后ai会怎么回答我。

·现在假如说我有一个五天的行程，我有五天的假期，预算适中，你可以帮我安排一个详细的行程吗？

·下面可以看到ai模型已经提示我要填写了，而且是一个必填的东西，这个就是刚刚配置的聊天的ai模型。

·配好这些以后就可以在右侧快速的查看现在已经配好的配置好的东西，并且可以预览，比如说发送消息，发了以后ai就可以按照要求去把信息返回过来。

·下面还有一个快捷指令，快捷指令是可以把比如填一个香港，可以看到按钮名称是会放在聊天栏上方，有一个快捷的指令的作用，只要点击它就会发这种详细的内容，点击保存就创建好了第一个ai应用。

·ai应用可以通过点击演示去打开新的聊天界面，然后在这里去问问题，同时也支持向聊天机器人嵌入到网站。现在支持两种切入方式，一种是使用iphone的方式嵌入，另外一种是使用script的方式嵌入。

·现在假设现在用square的方式嵌入，有两段square的一段是用来引入gs的，如果用的是v o e的项目，需要先将这段的squip放到index.h千秒钟，然后在需要引入的页面把下面这段skip的粘进去，比如就放到applist里面去new，要放到这个页面，然后在gs中把那段代码粘进来，再速进入页面。

·可以看到现在聊天已经嵌入到系统里了，至此最简单的ai聊天应用已经创建好了，但是机器人只能够回答知道的信息以及一些在互联网上公开的信息，并不能够知道一些企业内部的资料或者是一些专业领域的问题。

·该如何让它回答专业领域的问题？就需要用到下一个功能，就是ai知识库的功能。

·下面在刚才的基础上给ai加上一个知识库，让它能够回答专业领域的问题。在使用ai知识库之前需要先配置一些前置的环境，需要先安装一个向量库，安装向量库的方法在文档中可以看到，现在是使用doctor去，进行安装。把doctor命令复制，并且执行在终端中去执行这段命令。因为这边就已经创建好了销量库了，所以就不再去实际执行了。

执行完成以后可以通过narcat去连接，试一试是不是已经连接好了。可以看一下这边已经点好的信息，其实就是posegree的数据库。比如现在这样，这是已经存在的销量，库里面已经存在的销量表，有一个字段就是用来存储销量的。

销量库准备好以后还需要再去准备一个销量模型，项链模型在ai模型配置中添加一个模型，可以看到右上角会有一个类型。当选择项链模型的时候会发现模型的供应商变少了，是因为有的供应商并不支持销量模型。我说并不提供销量模型，这个在使用的时候要注意。

现在已经添加一个已经有的销量模型，模型选择销量模型，基础模型就用默认的就可以了。把销量模型以后在知识库里去创建一个新的知识库，比如用g、e、c、g、boot知识库，主要用来里面存储一些记忆c、g、boot相关的一些文档。

创建好模型以后要在模型中选择支库，要选择这个模型，就用刚刚创建好的销量模型。进入支库，在这里支持三种方式去上传文档。

·第一种方式很简单，就是自己去输入标题，就像这样输入知识库信息，创建以后就会提示正在构建中，这个其实是后台正在对知识库的文档进行向量化，存储到就可以看到刚刚存储成这样了，就会存储这样的数据。

·第二种方式是支持直接上传一个文档，这个文档支持text、markdown、pdf以及基础的office的文件。现在就上传一个markdown的文档，传一个比如现在aitc里面的简单应用的上。

·第三种方式传的其实就是这个页面，看到这样已经抽完了，现在在命中测试命中测试是可以输入一个关键字，然后看看关键字在文档库里面到底能不能够命中文档。这样是发了一个ai聊天机器人，可以看到现在命中了三个块，第一个块的分数达到了零点九四，最高是到一。

同时可以看到命中的是第几块，包含了多少个字符，打开看一下，可以看到虽然命中了文档，但是文档里面的一些图片是没有办法展示的。这种情况该怎么办？就有了第三种方式上传文档库。

上传文档库的时候有一个前提要求，就是文档库需要去上传一个zippo文、zipp的压缩包。在压缩之前需要要做一些简单的处理，比如在这是文档，现在刚刚找到刚才的文档，看到它的地址里面会包含了图片地址，会包含了这种static、a、i、g、c、然后一个图片的名称。这样的目录要同样包含在文档库的根目录state一个ai gc，然后会有对应的图片，也就是资源和文档要一同打包。

·这个是已经打包好的文件，把它再上传上来，点击文档库上传，选择zip文件，点击确定。现在它已经自动识别到了zippo包里面所有的mac 道文件，并且自动的进行向量化。稍微等一下，让它向量化，把这些文档全部都向量化完成。

·现在文档已经全部都向量化完成了，来测试一下它的命中。可以看到现在命中的段落就已经能够正常的展示文档里面的图片了。到现在知识库的配置就已经完成了。

·下面回到ai应用，创建一个空白的新应用叫g e c g book 护理。它专注于回答一些跟ai、跟gcg相关的问题，这些问题用普通的ai肯定是回答不了的。配置一下它的提示词，从知识库中提取相关信息，帮助用户解决问题。

·然后是它的开场白以及预测的问题。下面要选择ai模型。最重要的部分来了，在知识库这里要选择刚刚添加好的知识库，来测试一下。可以看到它现在的ai的回答就会结合文档，把文档的内容输出出来，以及文档那些配图都会输出给我们。

至此如何够让ai接入知识库，回答专业领域的问题，这已经演示完了。

·下面来，但是现在ai用它的能力还是比较单一，比如会聊天的就只会聊天，能够回答文档问题的主也就只能回答文档的问题。有什么办法能让一个应用就能够完成根据用户的需求去回答不同的内容？

·下面就到了流程设计的阶段，在流程设计项目里面先添加一个流程，流程里有很多的节点，可以通过这些节点的组合去完成想要完成的一些目标。进来的时候会有一个开始时节点，开始节点默认会有用户问题和历史对话的输入字段。

·像刚刚的需求如何能够根据用户的需求去回答用户的问题或者是做一些事情？就需要用到一个分类器，节点输入变量是用户问题，模型选择大模型。第一个分类用户问的是j e c g root成品问问的问题。第二个问题用户问的是公司相关的问题。

·如果都不是这个问题会做另外一件另外的处理。如果是g e c g产品相关的问题，需要让ai去查询知识库，知识库也会有一个用户问题，然后选择知识库。知识库查询完了以后需要去让大模型去办回答知识库的信息。

·它的系统提示是根据知识库的资料回答用户的问题，模型同样要选择输入变量，这里需要选择两个。第一个是。

·第二个需要选择知识库的输出，也就知识库最后检索到的文档内容，然后在用户提示中选择用户问题，最后将大模型返回的数据输出给用户。

·直接返回文本，这是如果问的是知识类的东西，如果用户问的是跟公司相关的信息，这里整理了一些公司的信息，将信息填写到系统提示词里面，模型同样选择用户的问题question，最后将同样的将模型的输出内容输出给用户。

·最后如果用户问的问题跟上面两个都不相关，现在就用默认的李白的提示词，让ai去用李白的口吻去回复用户的信息，这样一个简单的流程就配置好了。

·稍微调整一下位置，可以通过上面的调试来测试一下流程走的是不是会符合预期，如果不符合预期还可以再进行调整，比如g、e、c、g是什么？可以看到现在流程的走向，分辨出来问题是跟g、e、c、g相关的，就会走知识库，知识库的答案就会进到大模型，再回去根据知识库的问题，最后走到了结束节点。

·可以在右侧的调试面板里面看到整个流程的从开始输入输出，然后到每一个节点的输入输出都分别是什么，到最后的结束节点的输出，可以在结果看到输出的是什么。

·再换一个问题，比如是什么？可以看到现在做到了第二个模型，第二个分类也就是公司信息，就会返回公司的联系方式。如果问的问题跟上面两个都不相关，就会回到走到第三个分值里面，然后会用李白的口吻去回复问题，这样流程就已经设置完成了。

·当然还有其他的一些节点也是可以在用的，下面可以在文档中详细的看每一个节点具体是干什么的，该怎么用。

·流程配置好以后可以在应用中创建一个新的应用高级处理，这个时候需要选择高级编排，可以看到高级编排跟简单的编排设置的界面要少了很多。

·高级编排最主要的是要先去关联流程，开场白可以随便写一下，我问一问你成绩，最后就问一下什么电影是蒙太奇，来试一下，在演示界面看一下，这一c、g是什么？可以看到还是跟在流程演示的一样，返回到j、e、c、g的具体信息。

·再来问一下，可以看到它会根据用户的问题去进行选择不同的响应方式去回答不同的问题，这样就拥有了一个很智能的高级助聊天助理。

现在三个视力全部都已经演示完成了，今天主要也是根据这三个视力简单的介绍一下ai大模型都有哪些功能，具体该如何使用。

今天的视频就到这里为止了，感谢大家的观看。

来源：津津聊教育