开源 AI 问答引擎「Farfalle」支持本地部署，据介绍采用了支持本地大型语言模型（LLM），包括有：llama3, gemma, mistral, phi3。同时还支持云模型：包括有 Groq/Llama3, OpenAI/gpt4-o。

功能介绍

• 支持用 Docker 和 Ollama部署
• 支持使用多个搜索提供商
• 支持使用云模型 / 本地模型
• 需要下载支持的模型，并启动 Ollama 服务器
• 提供了获取 API 密钥的指南

在线地址：
https://www.farfalle.dev

项目地址：
https://github.com/rashadphz/farfalle