分享好友 最新动态首页 最新动态分类 切换频道
ChatGLM3+m3e+fastGPT Centos超详细本地化部署(四)(fastGPT部署)
2024-12-26 10:01

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

ChatGLM3+m3e+fastGPT Centos超详细本地化部署(四)(fastGPT部署)

因为one-api占用了本机的3000端口,所有修改映射到本地的端口为3020,默认映射端口为3000

对应上篇文章的操作保存的令牌,修改docker-compose.yml中的DEFAULT_ROOT_PSW(fastGPT默认密码)、OPENAI_BASE_URL(API 接口的地址,需要加/v1)和CHAT_API_KEY(API 接口的凭证)参数。localhost换成ipv4地址,key换成生成的令牌

在chatModels、qaModels、cqModels、extractModels模块中添加chatglm-6b-gpu模型配置(模型名称是在one-api中创建的

在qaModels、cqModels、vectorModels模块中添加m3e模型配置

启动FastGPT

启动之后访问ip:3020登录,账号密码为root和在配置文件中密码登录。

按照以下步骤创建知识库,只有在config.json中配置了m3e模型才可以选择

配置完成后如下图

随便导入一个文件,点击下一步

点击下一步

等待所有索引创建完成

新建应用,创建完成后点击进入应用

应用配置中修改AI模型和关联知识库,点击保存并预览

这样就可以提问了,测试一下

这样就拥有了一个属于自己的AI,还有很多功能,可以自行探索。

最新文章
高清美女写真神器!用AI绘画轻松生成你的完美女友
在你智能手机的微信小程序中搜索“搜狐简单AI”,点击进入。步骤二:选择图片类型在首页选择你希望生成的美女写真类型,比如时尚街拍、自然摄影等,系统会提供多种预设。步骤三:上传照片点击“上传照片”,选择你的底图,为后续生成的美女
维基百科的外链怎么做比较好呢?
优质内容是网络营销方案的璀璨明珠,谷歌这片浩瀚的信息海洋中,并不缺乏内容,但真正稀缺的,是那些熠熠生辉的优质内容。同样,外链作为网络世界的桥梁,其重要性也不容小觑。谷歌的算法虽然日新月异
蛙漫漫画免费版
蛙漫漫画免费版是一款阅读方便的漫画阅读软件,这款软件里面有着各种各样的漫画资源,我们可以在里面快速的找到不同种类的漫画,而且还可以对各种漫画进行有效的搜索,发现更多有趣的漫画内容。各种漫画我们都可以进行有效的缓存,在没有网
这家“上海小店”开业4年,年销超40亿元
“在线下零售生态中,有便利店、大型商超等,这些像是大自然里的狮子、大象,和它们相比,好特卖就是秃鹫。”好特卖联合创始人张宁,多次在公开场合用这个比喻来定位好特卖,是零售行业的分解者。在业内,大家都乐于称呼张宁为“二哥”,他
服务器一年的费用对于学生来说是多少?
服务器租用费用因供应商、配置、地理位置和合同期限等因素而异,对于学生来说,通常有几种选择,包括共享服务器、VPS(虚拟私人服务器)、云服务器以及专用服务器,以下是一些常见的服务器租用选项及其大致年费范围: 基本型$30 $100高级型
【企业动态】又一PCB相关企业被收购51%股权
通过此次战略并购,CTI华测检测将在全球电子材料及印制电路板检测行业迎来全新机遇和开端,双方将通过深度融合,优化运营管理模式,致力于为全球客户提供更优质的检测服务。
热搜:2024成都儿科医院排名/那个好
热搜:2024成都儿科医院排名/那个好 - 成都儿科医院专业可靠在2024年的成都,儿科医院的选择对于家长们来说至关重要。经过综合评估和患者口碑的反馈,我们为您揭晓比较新的成都儿科医院排名:1、成都儿科医院,2、成都儿科医院,3、成都儿
长春市增值电信业务经营许可证办理全知道
  《长春市增值电信业务经营许可证办理全知道》  一、长春市增值电信业务经营许可证办理条件  1.企业形式与资质:  -申请主体必须是依法设立的公司,具备独立法人资格。公司要有完善的组织架构,如股东会、董事会等治理机构(规模
相关文章
推荐文章
发表评论
0评