LM Studio
免费 + 付费版体验最精致的本地大模型桌面端工作台,直观查看显存适配度并支持一键开启 MLX 与 GGUF 引擎。
个人日常与常规本地办公免费使用;大型团队可按官方商用授权条款选用
如果不习惯黑框命令行敲指令,LM Studio 是本机跑大模型体感最好的桌面应用:搜索 Hugging Face 模型时直接根据你当前电脑显存或 Mac 统一内存标注能不能流畅装下,还能直接在界面里选择用 llama.cpp 还是 Apple Silicon 专享的 MLX 后端,随手调节上下文长度、GPU 卸载层数并一键启动本地 API 服务。
实用建议: 跑 32K 以上大上下文或 27B/35B 模型前务必核对 GPU 卸载层数拉满并开启 Flash Attention,一旦几层掉回 CPU 跑吐字速度会断崖下跌。