跳到主要内容

创建AI大模型应用

本部分会简要阐述使用模链DEV创建AI大模型应用的主要方法和步骤:

部署模链DEV

  • 在部署模链DEV模块时,需要提供所用大模型的秘钥及BASE_URL等基础信息;

  • 如单独使用该模块,部署时直接提供模型厂商为您提供的秘钥即可;

  • 如采用模链DEV1进行开发,建议配套使用模链API,以便对各个模型实现统一调度。

用户名与密码

在该模块私有化部署完毕后,会将用户名和密码移交给您。

建设知识库

一般来说,知识库一般有外部通用的知识库和组织内专有的知识库。如果需要,您可以选购一部分外部专项知识库,如《安全教育知识库》、《安全咨询知识库》、《土壤修复知识库》等。

组织内的专项知识库(如本公司自有产品、服务、说明书、规章制度、操作规程等)可自行补充,或委托我们建设。

创建应用

采用模链DEV创建AI大模型应用的过程是很简单的,只需要设定应用名称、设置好提示词、选配大模型及知识库,必要时进行工作流编排,在发布后即可提供给员工使用。

提示词工程

与所有基于AI大模型开发应用的原理一致,都需要通过提示词向AI大模型下达任务。某种程度上说,提示词设计的质量在很大程度上影响AI大模型回答的质量,所以提示词需要经过反复的测试和调整,才能获取到更高质量的回答。

实际上,除了能够改变大模型权重的微调(fine-tuning)等技术手段之外,其他的在本质上都是提示词工程,也就是通过向大模型提供更多的信息、更明确的要求,来得到更好的回答,而不是改变大模型自身的权重。这也是目前最现实可行也是成本最低的解决方案。

挂载知识库

挂载知识库的目的是为了弥补AI大模型在垂直领域知识的不足;在本质上也是提示词工程。

一个应用可以挂载多个的知识库配合使用;同样的,一个知识库也可以被多个应用调用。

使用插件(可选)

插件实际上是一些可以调用的函数。创建应用时可以选择不同的插件,以便增强应用的能力。

编排工作流(可选)

让应用按照实际流程工作,以便完成更加复杂的任务。实际上,在编排工作流时加入适当的模块,也可以实现使用插件的效果。

发布应用

可以将应用以直接分享的形式发布,也可以通过API的形式发布,嵌入到网页、微信或者被其他系统调用。

以上就是创建AI大模型应用的简要过程。一般情况下,需要经过反复的调试才能达到更理想的效果。