LM Studio 综合介绍
LM Studio是一个免费的工具,它允许您在桌面上使用本地安装的开源大型语言模型(LLM)。它具有一个浏览器,可以从Hugging Face搜索和下载LLM,一个内置的聊天用户界面,以及一个与OpenAI API兼容的本地服务器的运行时。LM Studio不是开源的,但它使用了流行的llama.cpp库。它支持与llama.cpp项目的ggml张量库兼容的各种模型,并需要16GB的RAM。LM Studio用户友好,适用于Windows和Mac,Linux版本正在开发中。
LM Studio 功能列表
- 在笔记本电脑上离线运行LLM
- 通过应用内聊天界面或兼容OpenAI的本地服务器使用模型
- 从HuggingFace仓库下载任何兼容的模型文件
- 在应用首页发现新的和值得关注的LLM
- 支持包括LLaMa、MPT和Gemma在内的多种模型架构
LM Studio 使用帮助
- 在Mac、Windows或Linux平台上下载LM Studio并安装
- 根据操作系统及硬件要求选择合适的LM Studio版本
- 在LM Studio内探索、下载并运行支持的LLM
- 使用LLM进行本地数据处理和分析
- 若用于商业目的,请按照提示填写LM Studio@Work请求表
LM Studio 常见问题
简要说明:该应用程序不收集数据或监视您的行为。您的数据会保存在本地机器上。个人使用是免费的。商业用途,请联系我们。
LM Studio 会收集任何数据吗?
不,使用本地LLM的主要原因之一是隐私,LM Studio就是为此而设计的。您的数据仍然是私有的,并且在您的机器上是本地的。
我可以在工作中使用 LM Studio 吗?
请填写LM Studio @ Work申请表格,我们将尽快回复您。请给我们一些时间来回复。
最低的硬件/软件要求是什么?
- 装有 macOS 13.6 或更高版本的 Apple Silicon Mac (M1/M2/M3)
- Windows / Linux PC,具有支持AVX2的处理器(通常是较新的PC)
- 推荐16GB的RAM,对于PC机,推荐6GB的VRAM
- 支持NVIDIA/AMD GPUs
LM Studio 下载