喜欢纯洁本地输入法小伙伴很多会选择小狼毫输入法，现在有大佬基于 Rime 小狼毫（Weasel） 开源输入法，增加基于大语言模型（LLM）的智能预测。在保留 Rime 全套方案与词库的前提下，用 LLM 根据当前输入与历史上下文生成候选词，支持本地推理与云端 API 多种后端。

功能介绍

• 多后端 LLM 预测：OpenAI 兼容、llama.cpp 本地、HF Constraint
• 上下文历史：维护用户最近输入词序列，作为 LLM 预测的上下文。
• 可选记忆压缩：历史超过容量时，可异步调用单独配置的 LLM（llm/memory/）将旧词压缩为摘要，节省上下文长度。
• 与 Rime 并存：预测候选与 Rime 方案候选一起展示，不改变原有方案、词库与部署流程。

功能介绍

• 系统要求：Windows 8.1 ~ Windows 11
• 运行环境：与官方小狼毫相同（需先安装/部署 Rime）

LLM 可选：

• 使用 openai 时需可访问的 API 或本地服务（如 Ollama）；
• 使用 llamacpp 时需本机加载 GGUF 模型（建议 4GB+ 显存或足够内存）；
• 使用 hf_constraint 需要创建Python环境，hf_backend\requirements.txt。

下载地址

• 网盘下载：
  https://pan.quark.cn/s/476ae1854529
• 视频介绍：
  https://www.bilibili.com/video/BV1JkwgzHEDs|
• 项目地址：
  https://github.com/scukeqi/Wisdom-Weasel