创建AI大模型应用
本部分会简要阐述使用模链DEV创建AI大模型应用的主要方法和步骤:
部署模链DEV
-
在部署模链DEV模块时,需要提供所用大模型的秘钥及BASE_URL等基础信息;
-
如单独使用该模块,部署时直接提供模型厂商为您提供的秘钥即可;
-
如采用模链DEV1进行开发,建议配套使用模链API,以便对各个模型实现统一调度。
用户名与密码
在该模块私有化部署完毕后,会将用户名和密码移交给您。
建设知识库
一般来说,知识库一般有外部通用的知识库和组织内专有的知识库。如果需要,您可以选购一部分外部专项知识库,如《安全教育知识库》、《安全咨询知识库》、《土壤修复知识库》等。
组织内的专项知识库(如本公司自有产品、服务、说明书、规章制度、操作规程等)可自行补充,或委托我们建设。
创建应用
采用模链DEV创建AI大模型应用的过程是很简单的,只需要设定应用名称、设置好提示词、选配大模型及知识库,必要时进行工作流编排,在发布后即可提供给员工使用。
提示词工程
与所有基于AI大模型开发应用的原理一致,都需要通过提示词向AI大模型下达任务。某种程度上说,提示词设计的质量在很大程度上影响AI大模型回答的质量,所以提示词需要经过反复的测试和调整,才能获取到更高质量的回答。
实际上,除了能够改变大模型权重的微调(fine-tuning)等技术手段之外,其他的在本质上都是提示词工程,也就是通过向大模型提供更多的信息、更明确的要求,来得到更好的回答,而不是改变大模型自身的权重。这也是目前最现实可行也是成本最低的解决方案。
挂载知识库
挂载知识库的目的是为了弥补AI大模型在垂直领域知识的不足;在本质上也是提示词工程。
一个应用可以挂载多个的知识库配合使用;同样的,一个知识库也可以被多个应用调用。
使用插件(可选)
插件实际上是一些可以调用的函数。创建应用时可以选择不同的插件,以便增强应用的能力。
编排工作流(可选)
让应用按照实际流程工作,以便完成更加复杂的任务。实际上,在编排工作流时加入适当的模块,也可以实现使用插件的效果。