本地部署开源大模型工具

LM Studio

LM Studio是一站式桌面应用,让您在隐私保护下自由探索和运行各类本地大语言模型。

标签:

LM Studio 综合介绍

 

LM Studio是一个免费的工具,它允许您在桌面上使用本地安装的开源大型语言模型(LLM)。它具有一个浏览器,可以从Hugging Face搜索和下载LLM,一个内置的聊天用户界面,以及一个与OpenAI API兼容的本地服务器的运行时。LM Studio不是开源的,但它使用了流行的llama.cpp库。它支持与llama.cpp项目的ggml张量库兼容的各种模型,并需要16GB的RAM。LM Studio用户友好,适用于Windows和Mac,Linux版本正在开发中。

 

LM Studio

 

 

LM Studio 功能列表

 

  • 在笔记本电脑上离线运行LLM
  • 通过应用内聊天界面或兼容OpenAI的本地服务器使用模型
  • 从HuggingFace仓库下载任何兼容的模型文件
  • 在应用首页发现新的和值得关注的LLM
  • 支持包括LLaMa、MPT和Gemma在内的多种模型架构

 

 

LM Studio 使用帮助

 

  • 在Mac、Windows或Linux平台上下载LM Studio并安装
  • 根据操作系统及硬件要求选择合适的LM Studio版本
  • 在LM Studio内探索、下载并运行支持的LLM
  • 使用LLM进行本地数据处理和分析
  • 若用于商业目的,请按照提示填写LM Studio@Work请求表

 

 

LM Studio 常见问题

 

简要说明:该应用程序不收集数据或监视您的行为。您的数据会保存在本地机器上。个人使用是免费的。商业用途,请联系我们。

 

LM Studio 会收集任何数据吗?

不,使用本地LLM的主要原因之一是隐私,LM Studio就是为此而设计的。您的数据仍然是私有的,并且在您的机器上是本地的。

 

我可以在工作中使用 LM Studio 吗?

请填写LM Studio @ Work申请表格,我们将尽快回复您。请给我们一些时间来回复。

 

最低的硬件/软件要求是什么?

  • 装有 macOS 13.6 或更高版本的 Apple Silicon Mac (M1/M2/M3)
  • Windows / Linux PC,具有支持AVX2的处理器(通常是较新的PC)
  • 推荐16GB的RAM,对于PC机,推荐6GB的VRAM
  • 支持NVIDIA/AMD GPUs

 

 

LM Studio 下载

 

LM Studio Windows版下载

LM Studio MAC版下载

LM Studio Linux版下载

相关导航