llmfit 硬件覆盖参数完整指南如何用 --memory / --ram / --cpu-cores 模拟任意硬件【免费下载链接】llmfitHundreds of models providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfitllmfit是一款本地大模型推荐工具内置数百个模型与提供方数据一条命令即可告诉你能在自家硬件上流畅运行哪些 LLM。当自动检测失效、或你想提前评估换台机器能跑什么模型时--memory、--ram、--cpu-cores这三个硬件覆盖参数就是关键工具。本文带你快速掌握它们的用法与适用场景。什么时候需要手动覆盖硬件参数llmfit 启动时会自动检测 CPU、内存和 GPU但在以下场景检测会失败或不准nvidia-smi损坏、虚拟机、GPU 直通等特殊环境 还没买新显卡想先看看 24G 显存能跑哪些模型⚙️ 在服务器上为另一台目标机器规划本地部署方案此时用这三个参数手动指定硬件规格llmfit 就会基于你给的值重新评分。三个硬件覆盖参数速查参数作用示例--memory覆盖 GPU 显存VRAMllmfit --memory32G--ram覆盖系统内存llmfit --ram128G--cpu-cores覆盖 CPU 核心数llmfit --cpu-cores16三个参数都是全局参数放在命令最前面即可且对 TUI 模式、CLI 模式和所有子命令都生效llmfit --memory24G --cli # 覆盖显存后看完整模型表 llmfit --memory24G fit --perfect -n 5 # 只列完美适配的前 5 个模型 llmfit --ram64G recommend --json # 覆盖内存后取 JSON 推荐结果--memory单独指定 GPU 显存最常用的参数。它告诉 llmfit按这个显存大小来评分llmfit --memory24G --ram64G --cpu-cores8 fit两个值得了解的行为没检测到 GPU 时--memory会自动创建一个虚拟 GPU 条目让模型按 GPU 推理路径来评分——纯 CPU 机器也能借此评估如果装一张 12G 显卡会怎样。值格式灵活支持G/GB/GiB、M/MB/MiB、T/TB/TiB后缀且大小写不敏感32G、32000M、1.5T都可以。--ram覆盖系统内存影响 CPU 推理与 CPU offload 路径的内存余量评估llmfit --ram128G system⚠️Apple Silicon 注意M 系列芯片是统一内存架构此时--ram会同时更新 VRAM如果想单独调整显存而不影响内存请改用--memory。--cpu-cores覆盖 CPU 核心数核心数决定 CPU 推理的速度估算与评分llmfit --cpu-cores16 fit -n 10组合三参数模拟一台完整的目标机器三个参数可以叠加等于在纸上搭建一台虚拟机器llmfit 会立即基于模拟规格重算所有模型的适配度、速度估算# 模拟一台24G 显存 64G 内存 8 核 CPU的机器 llmfit --memory24G --ram64G --cpu-cores8 fit # 确认模拟生效以 JSON 查看系统规格 llmfit --memory24G --ram64G system --json顺手推荐TUI 里的硬件模拟面板如果你更喜欢图形化操作在 TUI 中按S键即可打开硬件模拟面板Hardware Simulation用Tab切换 RAM / VRAM / CPU 字段输入数字后按Enter应用Ctrl-R一键恢复真实硬件。效果与上面三个参数完全一致模型表会即时重算系统栏会出现SIM徽标提示当前处于模拟状态。常见疑问Q覆盖参数会修改真实硬件配置吗不会它们只影响本次运行的评分计算属于沙盘推演。Q显存和内存都想覆盖顺序有影响吗内部会先应用--ram再应用--memory因此在统一内存系统上--memory拥有更高优先级可放心按先 ram 后 memory的直觉书写。延伸阅读硬件覆盖完整文档docs/cli.mdHardware overrides 小节TUI 硬件模拟面板说明docs/tui.mdHardware Simulation 小节中文主文档README.zh.md硬件覆盖小节覆盖参数在源码中的解析实现llmfit-tui/src/main.rs 小提示配合--max-context参数还能同时限制内存估算所用的上下文长度适合评估长对话场景下模型的真实内存占用。【免费下载链接】llmfitHundreds of models providers. One command to find what runs on your hardware.项目地址: https://gitcode.com/GitHub_Trending/ll/llmfit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
