Farfalle是什么
Farfalle.dev 是一个开源的 AI 搜索引擎,定位为 Perplexity 的自托管替代品。Farfalle支持用户运行本地大型语言模型(LLMs),如llama3、gemma、mistral和phi3,或使用云端模型来回答问题和进行搜索。Farfalle 提供了丰富的功能,包括支持 Docker 和 Vercel 部署,并且可以使用多个搜索提供商,如 Tavily、Searxng、Serper 和 Bing。
Farfalle功能特点
✅ 快速响应和高效搜索:
Farfalle 能够提供快速、高效的搜索结果,支持持续追问和列出引用的相关链接。
✅ 多模型支持:
Farfalle 可以使用多种云模型来回答问题,包括 OpenAI 的 gpt4-o 和 gpt3.5-turbo,以及 Groq 的 Llama3 模型。
✅ 自托管能力:
Farfalle 支持本地模型,用户可以在本地运行 llama3、mistral、gemma 和 phi3 等大型语言模型,可以在没有互联网连接的情况下进行搜索和问题回答。
✅ 多个搜索提供商:
Farfalle 支持多个搜索API提供商,用户可以根据需求选择Tavily、Searxng、Serper、Bing等不同的搜索引擎。
✅ 部署方式灵活:
Farfalle 提供详细的自定义设置文档和 Docker 部署设置,用户可以通过 Docker 或 Vercel 进行部署,也可以选择已经部署好的版本。
✅ 开源代码:
作为一个开源项目,Farfalle 提供了开源代码,方便用户进行二次开发和定制 。
Farfalle如何使用
1、在线使用Farfalle
Farfalle 提供了一个在线试用版本,支持web网页端在线使用,访问Farfalle官网,无需注册登录即可在线免费使用。
- Farfalle官网:https://www.farfalle.dev/
2、自主部署Farfalle
Farfalle 项目已在 Github 上开源,可以根据需要部署到本地/云端运行。
- Farfalle Github项目地址:https://github.com/rashadphz/farfalle