LocalGPT – 本地大模型GPT工具

LocalGPT（本地大模型 GPT 工具）簡介

LocalGPT 是一個本地大模型 GPT 工具，免費開源，能夠讓用戶能夠在本地設備上與自己的文件進行對話交互，而不會洩露任何資料，支援命令列和圖形介面兩種交互方式，我們可以根據自己的需要配置和切換不同的語言模型和嵌入模型。

它的主要特點包括:

1. 隱私保護: 所有資料都儲存在本地設備上，絕不會外洩，確保 100% 隱私安全。

2. 支援多種模型: 可以無縫整合各種開源模型，包括 HuggingFace、GPTQ、GGML 和 GGUF 等。

3. 多種嵌入選擇: 用戶可以選擇不同的開源嵌入模型。

4. 模型重用: 一旦下載了語言模型，就可以重複使用，無需重複下載。

5. 對話歷史記錄: 能夠記住會話中的之前對話。

6. API 支援: LocalGPT 提供了 API，方便構建基於檢索增強的應用程式。

7. 圖形介面: 提供了兩種 GUI，一種基於 API，一種是獨立的基於 Streamlit 的介面。

8. 多平台支援: 開箱即用支援 GPU、CPU 和蘋果 MPS 等多種平台。

LocalGPT（本地大模型 GPT 工具）官網

• Github 開源主頁 ：https://github.com/PromtEngineer/localGPT