分享好友 最新动态首页 最新动态分类 切换频道
从0开始入门智能知识库和星火大模型,打造AI客服
2024-12-26 10:31

 

从0开始入门智能知识库和星火大模型,打造AI客服

目录

介绍FastWiki

部署FastWiki

部署One-Api

开源地址


FastWiki是一个高性能、基于最新技术栈的知识库系统,旨在为大规模信息检索和智能搜索提供解决方案。它采用微软Semantic Kernel进行深度学习和自然语言处理,在后端使用,前端采用框架,实现了一个高效、易用、可扩展的智能向量搜索平台。其目标是帮助用户快速准确地获取所需信息,具有智能搜索、高性能、现代化前端、强大的后端等特点。除此之外,是开源和社区驱动的项目,采用Apache-2.0许可证,鼓励开发者和企业使用和贡献。

下面部署将使用docker-compose进行部署,如果不存在环境则先安装docker和docker-compose的环境,由于postgresql需要使用向量插件,自己打包向量插件会过于麻烦,所以FastWiki提供了一键docker-compose的文件,内部提供的postgresql自带了插件了,我们只需要执行脚本即可

部署One-Api

One-Api是干什么的

  • One-Api用于AI的中转站,由于大部分的AI工具仅支持openai的api格式,但是国内的AI的接口格式五花八门,所以我们需要通过One-Api将国内的AI转换成openai的接口格式下面我们开始部署我们的One-Api

将下面的内容复制到一个文件中

 

我们使用最轻量级的Sqlite版本,启动容器以后打开浏览器访问

登录系统,默认账号为 ,密码为 。

  1. 添加渠道 1.

  2. 添加星火大模型的渠道 1.

  3. 获取星火大模型的密钥

    1. 控制台-讯飞开放平台 (xfyun.cn) 在这里申请一个应用和产品,3.5个人用户可以免费领取200万的Token对于测试基本是够用的

  4. 获取到密钥 安装APPID|APISecret|APIKey的格式填写到上面One-Api的密钥当中即可

5、创建One-Api的Token,设置无限额度,然后点击提交。

6、点击复制key,然后将key修改下面的compose文件中的OPENAI_CHAT_TOKEN的环境变量的值,OPENAI_CHAT_ENDPOINT的地址则修改成fast-wiki-service能访问的地址,比如你局域网的ip加端口  这样即可。1.

下载

 

然后打开下载的文件,知识库依赖了第三方服务所以不能直接运行,需要修改部分参数。

 

FastWikiService环境变量参数

  • QUANTIZE_MAX_TASK:量化任务的最大并发数,默认为3

  • OPENAI_CHAT_ENDPOINT:OpenAI API的地址

  • OPENAI_CHAT_EMBEDDING_ENDPOINT:Embedding API的地址

  • OPENAI_CHAT_TOKEN:OpenAI API的Token

  • OPENAI_CHAT_MODEL:对话的模型,默认gpt-3.5-turbo

  • OPENAI_EMBEDDING_MODEL:Embedding的模型,默认text-embedding-3-small

  • OPENAI_EMBEDDING_TOKEN: Embedding的Token, 默认为空,为空则使用对话的Token

FastWiki.Web.Server环境变量参数

  • FAST_WIKI_SERVICE:FastWikiService的地址,默认为http://localhost:5124

请注意FAST_WIKI_SERVICE环境变量一定是得外网能访问到的地址,否则在回复知识库内容的时候会导致引用的文件出现404.

FastWiki为你提供了免费的向量Api,这个地址和token仅支持向量(并且对于ip进行限流)。

创建自定义模型的json以便支持国产模型,文件需要于docker-compose.yml同级

 

则是星火大模型。

上面文件创建好了以后执行,然后就可以访问

 

登录系统默认账号admin密码Aa123456

1、点击知识库->创建知识库 点击添加。

2、点击创建的知识库

3、点击导入文件

4、拖动需要上传的.md/.pdf/.txt的文件到这里,然后点击下一步,一直到上传数据, 

5、上传数据,点击上传,上传完成关闭弹窗。

6、数据上传以后服务会在后台进行量化,等待上传完成以后点击应用,然后创建应用

7、创建应用,然后打开创建的应用

8、绑定知识库,点击选择知识库然后点击需要绑定的知识库,在关闭弹窗,然后点击保存修改即可。

9、修改电话基础模型,修改为添加的然后点击保存修改即可 1.

10、打开聊天然后提问上传的文档的内容,这样就可以针对性规范AI了,还可以设置超出知识库返回的时候回复内容

Github: https://github.com/239573049/fast-wiki

Gitee: https://gitee.com/hejiale010426/fast-wiki

在线文档:https://docs.token-ai.cn/

体验地址:https://chat.token-ai.cn/chat/share-chat?id=939b3ad2f853422db0d781bcb19a8bf1

知识库微信交流群加

最新文章
故事架构丰富游戏哪个最好玩 十大耐玩故事架构丰富游戏排行榜
探寻游戏世界中的艺术与深度,故事架构丰富游戏哪个最好玩?这篇文章带你揭示十大耐玩的游戏作品,它们不仅拥有引人入胜的剧情,更是将叙事体验提升到了新的高度。无论是角色发展、世界观构建还是情节转折,每一款都值得玩家沉醉其中,满足
推三返一 营销模式合法吗?玩法剖析 举例分析 优势亮点241213
大家好,我是丹丹,一家软件开发公司的商业模式策划导师!(如有疑问/联/系/编辑:DANCE5927)推三返一营销模式在合法合规的前提下是合法的。其合法性主要取决于具体的运营模式和是否涉及传销性质的活动。如果此模式不涉及传销的典型特征,
伯乐千里寻良驹是什么意思
伯乐千里寻良驹意思是跑了千里路来找寻好的马也形容不远千里找寻人才。伯乐千里寻良驹是一个爱马之人不惜走千里路来寻找好马,寓意只要有才华就有你展现的舞台,就有能识你的伯乐。伯乐最会识马。是不是千里马,别人无此眼力,伯乐可识别出
临沂大学2022年硕士研究生复试录取工作方案
为切实做好我校2022年硕士研究生招生考试复试录取工作,根据教育部《2022年全国硕士研究生招生工作管理规定》(教学函〔2021〕2号)、教育部高校学生司《关于做好2022年全国硕士研究生招生录取工作的通知》(教学司〔2022〕4号)和山东省教
小程序申请流程:你还不知道做小程序需要什么?点进来学!
小程序申请流程是怎样的?不知道做小程序需要什么?童鞋们看完这篇文章你就懂啦~(电脑打开“21t.fkw.com”0代码做小程序)​现在这时代,小程序可太火啦!它就像一个小巧玲珑的魔法盒子,能给我们带来不少好处。▶小程序申请流程及开发步
每年1亿元专项资金支持!杭州出台新政布局打造国际动漫之都、电竞名城
在刚刚顺利闭幕的第十八届中国国际动漫节上,杭州发布了《关于推进新时代杭州动漫游戏和电竞产业高质量发展的若干意见》(以下简称《若干意见》),并迅速引发业界、学界和媒体的广泛关注和深入解读。该《若干意见》由杭州市委办公厅、市政
淘宝店铺介绍怎么写才吸引注意?
淘宝开店少不了店铺介绍,一个好的淘宝店铺的介绍,可以吸引用户买账。用户从哪儿理解你的产品和你的店铺环境呢,只能是从你的淘宝店铺绍介来的,所以写好淘宝店铺介绍就能给您的店铺成交量带来不少的作用,那么下面易店无忧就给大家说说淘
小红书商品链接发布指南,如何安全分享与避免违规风险
1、小红书解锁淘宝链接新姿势:全流程指南,随着电商与社交平台的深度融合,小红书这一潮流分享社区逐渐开放带货舞台,自2020年起,小红书开始逐步接纳淘宝商品链接,让创作者们得以在直播间和笔记中实现盈利,即便是普通达人也能轻松上手
南京百度SEO秘籍,解锁网站搜索排名提升之道
南京百度SEO排名提升策略揭秘:通过优化网站内容、关键词研究、提高网站速度、增强用户体验和建立高质量外链,有效提升网站在百度搜索结果中的可见度。掌握这些技巧,助力您的网站在激烈竞争中脱颖而出。随着互联网的快速发展,搜索引擎优
“AI旗手”李彦宏:创业19年,不断冒险造就百度
你在中国有电脑吗?1992年,正在美国读书,向学校申请计算机图形研究生项目的李彦宏,被面试他的一位教授这样问道。这个问题让李彦宏有些尴尬。因为教授的意思,不是他个人在中国有没有电脑,而是中国有电脑吗?20多年后,登上电视节目的李
相关文章
推荐文章
发表评论
0评