跳到主要内容

开源向量模型(可部署)

注意:只有开源模型才能私有化部署;参数量越大对硬件的要求越高。

序号模型名称参数量硬件要求软件要求实测情况
001qwen-text0.5B/1.8B/7B/4B/14B/72B支持CPU模链DEV2测试通过
002nomic-embed-text137M支持CPU模链DEV2测试通过
003all-minilm23M支持CPU模链DEV2测试通过
004gemma-text2B/7B采集中模链DEV2测试中
005mixtral-text47B采集中模链DEV2测试中
006falcon-text7B/40B/180B采集中模链DEV2测试中
007solar-text11B采集中模链DEV2测试中
008samantha-mistral-text7B采集中模链DEV2测试中
009llama-pro-text8B采集中模链DEV2测试中

更多模型飞速补充中…