Skip to content
LM Studio
一个带有可视化界面的大模型运行工具。
应用特点
截图预览
系统要求
最低16GB内存。预留足够硬盘空间，建议100GB以上。 Windows10/11，可用CPU，但速度慢，推荐用NVIDIA GPU。 macOS 11及以上版本，仅支持M系列芯片。
应用介绍
- 特点与优势：
- 本地运行：与传统依赖云端服务调用语言模型不同，LM Studio专注于本地设备运用，只要硬件配置达标，如常见的笔记本电脑、台式机等，就能顺利运行各类大型语言模型，摆脱了网络限制，也避免了数据外流至云端的隐私风险，即使在无网络环境下也能使用。
- 模型兼容性广：具备出色的模型适配能力，能兼容来自Hugging Face等资源库的大量模型，包括热门的通义千问(Qwen)、Llama、实用的MPT、编程辅助见长的StarCoder等，以及诸多衍生变体，用户可依据具体工作任务，如文学创作、代码编写、学术研讨等不同需求，精准筛选契合的模型。
- 硬件协同优化：依托llama.cpp底层架构支撑，针对NVIDIA系列GPU，运用GPU卸载技术，把模型拆解为精细“子图”，依据硬件算力状况，合理分配运算任务，让GPU和CPU各司其职、协同发力，突破显存局限，显著提升运算速度；在内存管理方面，借助模型量化手段，在保障模型输出质量稳定前提下，降低内存占用量，确保即便设备内存有限，也能平稳加载运行大型模型。LM Studio 搭载了 MLX 引擎，可在苹果M系列芯片 Mac 电脑上极为高效地运行本地大语言模型。
- 便捷交互设计：其图形化操作界面秉持简洁易用原则，新手无需应对复杂命令行操作，通过鼠标点击等常规交互，就能在界面流畅完成模型下载、参数精细调整、运行状态监控等系列流程。尤为亮眼的是，内置兼容OpenAI的本地服务器功能，无缝衔接既有基于OpenAI API搭建的应用与本地模型，极大缩短开发适配周期。
- 系统支持：支持Windows、macOS、Linux平台。
- 安装与使用：
- 安装：可使用魔当一键安装，还可访问LM Studio官方网站，依自身操作系统类别下载对应安装包，按常规软件安装步骤完成安装，过程中按需设置安装路径等基础参数。
- 模型选取及下载：启动应用后，在主界面定位“模型库”板块进入，可借助搜索框输入关键词或依分类标签筛选心仪模型，选定目标模型后，点击旁侧“下载”按钮，程序自动从云端拉取模型文件存至本地指定目录。
- 本地运行与交互：若计划与外部基于OpenAI API开发应用集成，切换至“本地服务器”标签，于下拉菜单选定已下载好的模型，点击“启动服务器”按钮，成功启动后可开展外部连接操作。回到主界面“聊天”或“交互”板块，在输入框录入指令或询问内容，点击“发送”或按回车键，LM Studio驱动本地模型运算，片刻后输出结果展示于下方框内，交互中还可利用侧边栏参数滑块实时微调“温度”“重复惩罚”等参数，优化输出文本质量。
许可证MIT