LM Studio

主要功能

• 本地运行LLM：用户可以在本地设备上运行LLM，无需联网，确保数据隐私。
• 应用内聊天界面：提供直观的聊天界面，用户可以与模型进行交互，进行文本生成、对话、知识提取等任务。
• OpenAI兼容服务器：支持作为本地服务器运行，提供与OpenAI兼容的API接口，方便其他程序或应用调用。
• 本地文档聊天：用户可以将本地文件导入并与之进行对话，实现文档的内容查询和分析。
• 模型下载与管理：支持从Hugging Face等平台下载兼容的模型文件，并提供模型管理功能。

• 多模型同时运行：通过“Playground”模式，用户可以同时运行多个AI模型，利用它们的组合能力。

  

特点

• 离线运行：所有数据和计算都在本地进行，确保数据隐私和安全性。
• 兼容性强：支持多种操作系统，包括macOS（M1/M2/M3）、Windows和Linux。
• 用户友好：提供图形用户界面（GUI）和命令行界面（CLI），适合不同用户。

硬件要求

• macOS：苹果硅（M1/M2/M3）芯片，macOS 13.4或更高版本，建议16GB+内存。
• Windows：支持x64和ARM架构，需要支持AVX2指令集的CPU，建议至少16GB RAM。
• Linux：以AppImage形式分发，支持Ubuntu 20.04或更高版本，仅支持x64架构。