📄️ 开源模型部署
如果您需要使用开源模型,那么需要注意的是必须进行私有化部署(本机、本地服务器或云服务器)才能正常工作。运行大模型对硬件配置尤其是GPU会有一定的要求(部分开源大模型可以在CPU上运行),同时您还需要遵守该模型的开源协议。
📄️ 闭源模型申请
模链是基于向量模型和大模型工作的,所以在正式开始使用模链之前,您需要有所用向量模型与大模型的使用权限(一般是秘钥/KEY);对于需要付费调用的闭源模型,您或需要还需要其提供的BASE_URL地址,同时也需要及时向大模型厂商支付费用,才能保证使用模链开发的应用正常使用。
📄️ 创建模型调度令牌
注意:技术路径2也即模链DEV2已将调度令牌与应用开发模块合并,所以采用技术路径2时,可跳过此部分。
📄️ 创建AI大模型应用
本部分会简要阐述使用模链DEV创建AI大模型应用的主要方法和步骤:
📄️ 集成至网页端(WEB)
使用模链DEV创建好的应用,既可以采用直接分享的方式集成至网页端(直接分享地址、嵌入网页或做成悬浮球均可,只是前端脚本 的差异),也可以采用API的方式供网页、移动端或其他系统调用。
📄️ 集成至移动端(微信)
使用模链DEV创建好的应用,可以使用API集成到移动端(微信或企业微信中)。
📄️ 制作帮助文档站点
推荐使用静态站点生成器制作帮助文档站点,本站即为一个实际案例。
📄️ 实验室与代码托管
本部分为可选模块(模链LAB与模链GIT)的简要介绍。