在本地部署大模型的过程中，最让人头疼的问题莫过于硬件跑不动 AI 模型，现在通过开源工具「llmfit」它能自动检测电脑的 CPU、GPU、内存配置，从 500 + 款大模型中快速筛选出可运行的型号，还会给出模型评分、推理速度、内存占用等关键信息。

功能介绍

• 全自动硬件检测：启动工具后，llmfit 会瞬间读取电脑的总内存 / 可用内存、CPU 核心数、GPU 型号及显存
• 500 + 大模型全覆盖：其模型库源自 HuggingFace API，涵盖 Meta Llama、Mistral、通义千问 Qwen、Google Gemma、DeepSeek 等
• 多维度模型评分：每款模型都会从质量、速度、适配度、上下文长度四个维度（0-100 分）评分，并结合使用场景给出加权综合分
• 精准的运行模式判断：工具会根据硬件配置，判断模型的最佳运行模式：GPU 直跑（显存充足、速度最快）、CPU+GPU 混合（显存不足时内存兜底）、纯 CPU 运行（无独立显卡），还会标注适配等级

下载地址

• 网盘下载：
  https://pan.quark.cn/s/c23ee3ae332e

• 项目地址：
  https://github.com/AlexsJones/llmfit/