分享好友 最新资讯首页 最新资讯分类 切换频道
私有化AI搜索引擎FreeAskInternet
2024-12-28 06:32

什么是 FreeAskInternet

私有化AI搜索引擎FreeAskInternet

是一个完全免费、私有且本地运行的搜索聚合器,并使用 生成答案,无需 。用户可以提出问题,系统将使用 进行多引擎搜索,并将搜索结果合并到 中,并根据搜索结果生成答案。所有进程都在本地运行,不需要 或 或 密钥。

软件特点

  • 🈚完全免费(不需要任何 API 密钥
  • 💻 完全本地(无需 GPU,任何计算机都可以运行
  • 🔐 完全私有(所有事情都在本地运行,使用自定义 llm
  • 👻 在没有 LLM 硬件的情况下运行(不需要 GPU
  • 🤩 使用免费聊天GPT3.5,Qwen,Kimi,ZhipuAI(GLM)API(无需API密钥!Thx OpenAI
  • 🐵 自定义LLM(ollama,llama.cpp)支持,是的,我们喜欢ollama
  • 🚀 使用Docker Compose快速轻松地部署
  • 🌐 网络和移动友好界面,专为网络搜索增强的人工智能聊天而设计,允许从任何设备轻松访问。

之所以不要 或 密钥,是因为借助了 、、、 等项目的帮助

而之所以不需要 ,则是因为用的是白嫖的线上大模型

所以个人研究使用就好,不要放在公网上

在折腾 时,老苏提到过 。因为 元搜索引擎受网络影响比较大,所以老苏当时是不打算写基于 的 搜索应用的,比如:、 等

文章传送门:互联网元搜索引擎SearXNG

但转念一想,爱折腾的人,一个科学的网络(稳不稳定先放一边,应该是基本的配置吧 🙂

老苏把折腾的过程写出来,折腾或者不折腾,大家自己量力而行

在群晖上以 Docker 方式安装。

涉及到多个容器,所以采用 安装方式,老苏根据自己的需要,对官方给的 做了比较大的调整

官方完整的 :https://github.com/nashsu/FreeAskInternet/blob/main/docker-compose.yaml

  1. 利用了已经安装的 ,而且是通过 进行管理的,这个好处是,只要更改模型名称就可以切换不同的模型

文章传送门:大模型接口管理和分发系统One API

  1. 去掉了 ,因为这个老苏也是单独安装的,如果你希望能通过 使用 搜索的结果,理论上可以将 的端口暴露出来,但老苏没试过

文章传送门:跨平台私人ChatGPT应用ChatGPT-Next-Web

将下面的内容保存为 文件

 

然后执行下面的命令

 
 
 

在浏览器中输入 就能看到主界面

第一当然是选择模型了,因为我们没有安装 、、、,所以上面的不用管,直接勾选

  • 部分,因为老苏用的是 + ,所以这里填的是 的地址
  • :填的是 的访问令牌
  • :填的是渠道中的模型名称

保存之后,模型就灰掉了

开始第一个问题,但是你会发现,一直卡在这个界面

一开始,老苏也以为是网络问题,但实际上并不是,不信的话,你可以打开 的端口,访问 ,随便搜索一个试试

老苏仔细查看了 的日志,发现了有这么一条

 

在浏览器中直接输入

确实是没权限访问的,这才是导致界面卡住的根本原因

找到了问题,解决起来就容易多了,找到 目录下的 文件

首先需要修改文件的权限,否则保存不了

 
 

修改完成后,建议再打开看看,确认是否修改成功了,如果修改成了,可以单独重启一次容器

再次刷新页面,参考搜索结果有了,但是还是提示搜索失败

再看看日志,原来是超时了

继续编辑 文件

 
 

保存后

再次重启容器 ,搜索就没问题了

如果没有返回参考搜索结果的,但是告诉你搜索失败的,一般来说,应该是网络出问题了

像下面这样一声不吭的,说明模型设置可能也是不正确的

nashsu/FreeAskInternet: FreeAskInternet is a completely free, private and locally running search aggregator & answer generate using LLM, without GPU needed. The user can ask a question and the system will make a multi engine search and combine the search result to the ChatGPT3.5 LLM and generate the answer based on search results.
地址:https://github.com/nashsu/FreeAskInternet

python 3.x - LangChain search_tools ValueError: ('Searx API returned an error: ', ‘Too Many Requests’) - Stack Overflow
地址:https://stackoverflow.com/questions/77253870/langchain-search-tools-valueerror-searx-api-returned-an-error-too-many-r

SearXNG | 中文 | Dify
地址:https://docs.dify.ai/v/zh-hans/guides/gong-ju/tool-configuration/searxng

最新文章
BI数据分析软件
在如今的数字化时代,数据变得越来越重要。每天,无数的数据在我们的业务中产生。然而,对这些数据进行处理和分析并从中获取有价
AI游戏引擎生成《毁灭战士》,为什么震撼了欧美游戏界
上个月,谷歌的AI开发团队DeepMind公布了首个“AI游戏引擎”GameNGen,正如其名字所暗示的,这个“游戏引擎”依靠的是新潮的“神
5个试图很酷但失败的广告策划设计案例分析
多年来,许多非常成功的广告活动要么顺应了流行文化的潮流,要么在某些情况下,成功地颠覆了现状,获得了自己的追随者。一个好的
chatbot机器人
聊天机器人(chatbot)是一种基于人工&
51建模网升级10项广告动画编辑新功能,推进3D可视化营销应用零门槛
随着元宇宙概念的爆发,互联网迈入Web3.0时代,消费者逐渐从传统的线下面对面的购物,更新迭代到线上网站、APP、商城、微商、小
excel表格怎样设置快速排序(Excel表格怎么快速排序)
EXCEL2010中如何对表格中的数据进行排序一直困扰着众多新手,如何快速做好EXCEL表格数据排序?今天,小编就教大家在Excel中快速做
C++比Python快50倍?如何让C++和Python优势互补?(Boost Python)_boost python vscode
在一个远端控制系统中,前端Web使用html+css+js;后端采用python-flask作为服务端,底层控制采用C/C&
1Checker(易改)在线写作润色软件
1Checker(易改)线上写作润色软件是一款合适我国人的英文SCI写作润色手机软件,是您理想的英文写作和审校小助手。1Checker(易改
Final Draft 12 for Mac/Win:专业剧本编辑器的卓越之选
​​Final Draft 12是一款专为剧本创作者量身打造的专业编辑器,无论您是Mac还是Windows用户,都能享受到其带来的无与伦比的写作
C语言代码实例助手
1、C语言的命名编程时给变量或者函数起的名字就是标识符。C语言的标识符是不可以随便起名字的,必须遵守一定的规则。C 语言规定