資料來源:🤗 Hugging Face · GitHub · 資料庫即時更新

探索開源 AI 宇宙
自由部署,完全掌控

175+ 個開源可自行部署的 AI 模型與工具,資料來源自 🤗 Hugging Face

175+開源模型
86+語言模型
32+多模態
10+圖像生成
10+語音處理
6+影片生成
最新發布2026
🤖2026-03
Roo Code
🤖2026-03
newtype OS
🧠2026-03
Qwen3.5
🤖2026-03
Cursor
🤖2026-03
AstrBot
🧠2026-03
Mistral Small 4
🤖2026-03
Claude Code
🤖2026-03
Kilo Code
👁️2026-03
Mistral Small Latest
🧠2026-03
Sarvam

模型瀏覽

分類:
VRAM:
我的 GPU:
強項篩選:
排序:
找到 175 個結果🤗
🤖 AI Agent✦ 最近更新

newtype OS

📅2025年1月

專為內容創作設計的 8 Agent 多層協作系統。由 Chief(總編輯)統一調度,自動串聯 Researcher、Fact-Checker、Archivist、Extractor、Writer、Editor 等專業 Agent,完成研究→撰寫→查核→編輯全流程。支援 Claude Code、Cursor、Copilot、Windsurf、Cline 等工具。

參數量
最大上下文
VRAM 資料待補充
agentmulti-agentcontent-creationcliorchestrationresearch
bunnpm
👁️ 多模態MoE✦ 最近更新

Mistral Small Latest

📅2026年3月

Mistral Small Latest 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

參數量
119B (A11.9B)
最大上下文
250K tokens
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
🤖 AI Agent✦ 最近更新

Cursor

📅2023年1月

AI 驅動的程式碼編輯器,基於 VS Code 深度整合 AI 能力,支援 Tab 自動補全、Composer 多檔案編輯、Agent 模式自動執行任務。

參數量
最大上下文
VRAM 資料待補充
agentcodingeditoridevscodeautocomplete
standalone
🤖 AI Agent✦ 最近更新

AstrBot

📅2023年1月

開源一站式 Agentic IM 聊天機器人平台,可整合 QQ、微信、Telegram、Discord、Slack 等十餘種即時通訊平台,支援 OpenAI、Gemini、DeepSeek、Ollama 等多種 LLM,具備 MCP、知識庫、插件系統(1000+ 插件)、Agent 沙箱、角色扮演等功能。

參數量
最大上下文
VRAM 資料待補充
agentchatbotmcpmulti-platformpluginqq
dockeruvpip
🤖 AI Agent✦ 最近更新

Kilo Code

📅2025年3月

開源 VS Code AI 編碼代理,支援 500+ AI 模型(含本地 LLM),可從自然語言生成程式碼、自動化任務,支援 MCP。

參數量
最大上下文
VRAM 資料待補充
agentcodingvscodeopen-sourcemcplocal-llm
vscode-extension
🧠 大型語言模型✦ 最近更新🔒 需申請

Mistral Small 4

📅2026年3月

Mistral Small 4,2026 年 3 月最新發布,24B 參數,Apache 2.0 授權,支援 128K 上下文,多語言與視覺能力全面升級。

多模態理解長上下文處理多語言支援
980K/月
▸ 5%
參數量
24B
最大上下文
128K tokens
128K多語言視覺最新
OllamavLLMllama.cpp
ollama run mistral-small4:latest
Apache 2.0
🧠 大型語言模型2 版本✦ 最近更新

Sarvam

📅2026年3月
選擇版本(參數量)
最大上下文:128K tokens📅 2026年3月

Sarvam-105B,2026 年 3 月發布,印度 Sarvam AI 出品,105B 參數,Apache 2.0 授權,專注印度語言(Hindi、Tamil 等)及多語言能力。

印度語言優化多語言理解複雜推理
120K/月
▸ 1%
參數量
105B
最大上下文
128K tokens
128K印度語言多語言最新
vLLMllama.cppSGLang
Apache 2.0
🤖 AI Agent✦ 最近更新

Roo Code

📅2025年5月

Cline 的分支版本,在 VS Code 中提供一整個 AI 代理開發團隊,支援多種模式(Architect、Code、Ask、Debug),整合 MCP。

參數量
最大上下文
VRAM 資料待補充
agentcodingvscodeopen-sourcemcptypescript
vscode-extension
🤖 AI Agent✦ 最近更新

Claude Code

📅2025年5月

Anthropic 官方 CLI 編碼代理,在終端機中運作,深度理解程式碼庫,自動執行例行編碼任務、修復 bug、撰寫測試。

參數量
最大上下文
VRAM 資料待補充
agentcodingcliterminalanthropicclaude
npmbrew
🧠 大型語言模型MoE8 版本✦ 最近更新💬 1

Qwen3.5

📅2026年2月2026年3月
選擇版本(參數量)
最大上下文:262K tokens📅 2026年2月

Qwen3.5 大型 MoE 模型,122B 總參數激活 10B,支援 262K 上下文。在 llm-stats.com 開源排行榜名列第 5,Code Arena 1136,GPQA 88.4%。

超長上下文高效MoE架構多模態理解
1.19K/月
參數量
27B
最大上下文
262K tokens
推薦超長上下文262K中文嵌入式低顯存
Ollamallama.cppLM StudiovLLMSGLang
ollama run qwen3.5:27b
Apache 2.0
🧠 大型語言模型MoE✦ 最近更新

MiniMax M2.5

📅2026年2月

MiniMax M2.5,2026 年 2 月發布,230B MoE 模型,支援超長 1M token 上下文,GPQA 80.2%,SWE-bench 76.3%,旗艦開源模型。

超長上下文旗艦性能MoE架構
530K/月
▸ 3%
參數量
230B
最大上下文
1M tokens
MoE1M Context最新旗艦
vLLMSGLang
MiniMax
🧠 大型語言模型MoE✦ 最近更新

Minimax M2

📅2026年2月

Minimax M2 由 MiniMaxAI 開發的開源 語言 模型。授權:mit。共 1 個尺寸版本。

超大上下文高效能MoE架構MIT開源
530K/月
▸ 3%
參數量
230B (A23B)
最大上下文
977K tokens
VRAM 資料待補充
MiniMaxAImitllm
ollamallama.cpp
MIT
🧠 大型語言模型✦ 最近更新

Step 3.5 Flash (65.5B Dense)

📅2026年2月

Step-3.5-Flash,階躍星辰 2026 年 2 月發布,65.5B 參數,Apache 2.0 授權,65K 上下文,GPQA 78.0%,SWE-bench 44.0%。

長上下文處理高效能部署程式碼理解
92K/月
▸ 1%
參數量
65.5B
最大上下文
65K tokens
65KApache 2.0StepFun
vLLMSGLang
Apache 2.0
🧠 大型語言模型✦ 最近更新

Nvidia Nemotron Nano 9B V2

📅2026年2月

Nvidia Nemotron Nano 9B V2 由 nvidia 開發的開源 語言 模型。授權:nvidia_open_model_license_agreement。共 1 個尺寸版本。

日語優化指令遵循工具調用
568K/月
▸ 3%
參數量
8.9B
最大上下文
VRAM 資料待補充
nvidiallm
ollamallama.cpp
NVIDIA Open
🤖 AI Agent✦ 最近更新

Trae

📅2025年6月

ByteDance 開源的 AI IDE 及 CLI 編碼代理,基於 LLM 執行通用軟體工程任務,支援多種 LLM 供應商,適合研究與實驗。

參數量
最大上下文
VRAM 資料待補充
agentcodingcliidellmbytedance
pipdocker
🧠 大型語言模型MoE✦ 最近更新

Step 3.5 Flash (196B MoE)

📅2026年2月

Step 3.5 Flash 由 stepfun-ai 開發的開源 語言 模型。授權:apache_2_0。共 1 個尺寸版本。

高效能推理大規模語言理解MoE架構優勢
311K/月
▸ 2%
參數量
196B (A19.6B)
最大上下文
64K tokens
VRAM 資料待補充
stepfun-aillmStep 3.5 Flash
ollamallama.cpp
Apache 2.0
🧠 大型語言模型MoE✦ 最近更新🔒 需申請

LongCat-Flash-Lite

📅2026年2月

LongCat-Flash-Lite,美團 2026 年 2 月發布,560B MoE 模型,Apache 2.0 授權,256K 上下文,GPQA 66.8%,長文本處理能力突出。

長文本處理大規模模型高效推理
60K/月
參數量
560B
最大上下文
256K tokens
256KApache 2.0美團長文本
vLLMSGLang
Apache 2.0
🧠 大型語言模型MoE✦ 最近更新🔒 需申請

LongCat-Flash-Thinking-2601

📅2026年1月

LongCat-Flash-Thinking-2601,美團 2026 年 1 月發布,560B MoE 推理增強版本,Apache 2.0 授權,GPQA 81.5%,SWE-bench 59.4%。

長上下文理解高效推理知識問答
45K/月
參數量
560B
最大上下文
128K tokens
128KApache 2.0美團推理
vLLMSGLang
Apache 2.0
👁️ 多模態✦ 最近更新

Step3 Vl

📅2026年1月

Step3 Vl 由 stepfun-ai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

多模態理解開源模型圖像文本交互
211K/月
▸ 1%
參數量
10B
最大上下文
VRAM 資料待補充
stepfun-aimultimodal
ollamallama.cpp
Apache 2.0
🧠 大型語言模型MoE✦ 最近更新

Qwen3 Next

📅2026年1月

Qwen3 Next 由 Qwen 開發的開源 語言 模型。授權:apache_2_0。共 3 個尺寸版本。

高效能程式碼代理長程推理
1.1M/月
▸ 6%
參數量
80B (A8B)
最大上下文
64K tokens
VRAM 資料待補充
Qwenllm
ollamallama.cpp
Apache 2.0
💻 程式碼生成✦ 最近更新

Qwen3 Coder

📅2026年1月

Qwen3 Coder 由 Qwen 開發的開源 程式碼 模型。授權:apache_2_0。共 2 個尺寸版本。

高效能程式碼智能代理能力長上下文理解
1.1M/月
▸ 6%
參數量
480B
最大上下文
VRAM 資料待補充
Qwencode
ollamallama.cpp
Apache 2.0
🧠 大型語言模型✦ 最近更新🔒 需申請

GLM-4.7-Flash

📅2026年1月

GLM-4.7-Flash,2026 年 1 月發布,30B 輕量版本,Apache 2.0 授權,GPQA 75.2%,128K 上下文,24 GB VRAM 可運行。

輕量高效長上下文中文優化
320K/月
▸ 2%
參數量
30B
最大上下文
128K tokens
128K高效中文推薦
OllamavLLMllama.cpp
ollama run glm4.7-flash:latest
Apache 2.0
🧠 大型語言模型MoE

Deepseek Reasoner

📅2025年12月

Deepseek Reasoner 由 deepseek-ai 開發的開源 語言 模型。授權:mit。共 1 個尺寸版本。

大型語言模型開源模型MoE架構
參數量
685B (A68.5B)
最大上下文
VRAM 資料待補充
deepseek-aimitllm
ollamallama.cpp
MIT
🧠 大型語言模型MoE

MiMo-V2-Flash

📅2025年12月

MiMo-V2-Flash,小米 2025 年 12 月發布,309B MoE 模型,Apache 2.0 授權,256K 上下文,GPQA 83.7%,SWE-bench 58.3%。

高速推理長上下文理解MoE 高效能
92K/月
▸ 1%
參數量
309B
最大上下文
256K tokens
256K推理Apache 2.0小米
vLLMSGLang
Apache 2.0
👁️ 多模態MoE

Mistral Large Latest

📅2025年12月

Mistral Large Latest 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

多模態理解超大上下文高效能MoE
參數量
675B (A67.5B)
最大上下文
256K tokens
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
👁️ 多模態

Ministral 8B Latest

📅2025年12月

Ministral 8B Latest 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

多模態理解超長上下文開源靈活
參數量
8B
最大上下文
256K tokens
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
🧠 大型語言模型MoE

MiniMax M2.1

📅2025年12月

MiniMax M2.1,2025 年 12 月發布,230B MoE 模型,支援 1M token 上下文,GPQA 84.5%,SWE-bench 60.2%,Code Arena 51.0%。

旗艦級性能超長上下文程式碼能力
42K/月
參數量
230B
最大上下文
1M tokens
MoE1M Context旗艦
vLLMSGLang
MiniMax
🧠 大型語言模型🔒 需申請

GLM-4.7

📅2025年12月

GLM-4.7,2025 年 12 月發布,355B 參數,GLM-4 授權,131K 上下文,GPQA 81.5%,中文能力頂尖,需要多 GPU 部署。

旗艦中文能力超長上下文高精度推理
180K/月
▸ 1%
參數量
355B
最大上下文
131K tokens
131K旗艦中文
vLLMSGLang
GLM-4
👁️ 多模態

Ministral 3B Latest

📅2025年12月

Ministral 3B Latest 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

參數量
3B
最大上下文
128K tokens
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
👁️ 多模態

Ministral 14B Latest

📅2025年12月

Ministral 14B Latest 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

多模態理解超長上下文開源靈活
參數量
14B
最大上下文
256K tokens
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
👁️ 多模態MoE

Mistral Large 3 675B Instruct 2512 Eagle

📅2025年11月

Mistral Large 3 675B Instruct 2512 Eagle 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

29
參數量
675B (A67.5B)
最大上下文
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
🧠 大型語言模型MoE

Deepseek V3.2 Speciale

📅2025年11月

Deepseek V3.2 Speciale 由 deepseek-ai 開發的開源 語言 模型。授權:mit。共 1 個尺寸版本。

高效推理Agentic AI開源模型
15K/月
參數量
685B (A68.5B)
最大上下文
VRAM 資料待補充
deepseek-aimitllm
ollamallama.cpp
MIT
👁️ 多模態MoE

Mistral Large 3 675B Instruct 2512 Nvfp4

📅2025年11月

Mistral Large 3 675B Instruct 2512 Nvfp4 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

4K/月
參數量
675B (A67.5B)
最大上下文
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
🧠 大型語言模型MoE🔒 需申請

Nemotron 3 Nano (30B A3B)

📅2025年11月

NVIDIA Nemotron 3 Nano,30B MoE 模型(激活 3B),2025 年 12 月發布,NVIDIA Open Model 授權,128K 上下文,高效推理。

高效推理超長上下文MoE 架構
280K/月
▸ 2%
參數量
30B (A3B)
最大上下文
128K tokens
MoE128KNVIDIA
vLLMSGLangTensorRT-LLM
NVIDIA Open Model
🧠 大型語言模型MoE

Deepseek

📅2025年10月

Deepseek 由 deepseek-ai 開發的開源 語言 模型。授權:mit。共 1 個尺寸版本。

多模態理解多語言支援超長上下文
2.7M/月
▸ 15%
參數量
685B (A68.5B)
最大上下文
128K tokens
VRAM 資料待補充
deepseek-aimitllm
ollamallama.cpp
MIT
🧠 大型語言模型MoE

Deepseek V3.2 Exp

📅2025年9月

Deepseek V3.2 Exp 由 deepseek-ai 開發的開源 語言 模型。授權:mit。共 1 個尺寸版本。

開源模型大規模參數高效能MoE
92K/月
▸ 1%
參數量
685B (A68.5B)
最大上下文
VRAM 資料待補充
deepseek-aimitllm
ollamallama.cpp
MIT
🧠 大型語言模型🔒 需申請

Mistral Large 3

📅2025年9月

Mistral Large 3,675B 參數,256K 上下文,Mistral 最新旗艦,多語言和推理能力頂尖,需多機多 GPU 部署。

旗艦多語言超長上下文頂級推理
890K/月
▸ 5%
參數量
675B
最大上下文
256K tokens
256K多語言旗艦
vLLMSGLang
Mistral Research
👁️ 多模態MoE

Mistral Large 3 2509

📅2025年9月

Mistral Large 3 2509 由 mistralai 開發的開源 多模態 模型。授權:apache_2_0。共 1 個尺寸版本。

參數量
675B (A67.5B)
最大上下文
125K tokens
VRAM 資料待補充
mistralaimultimodal
ollamallama.cpp
Apache 2.0
🧠 大型語言模型🔒 需申請

GLM-4.6

📅2025年9月

GLM-4.6,32B 參數,Apache 2.0 授權,131K 上下文,在 llm-stats.com 開源排行榜第 4 名,中文能力頂尖。

頂尖中文能力超長上下文高性能推理
890K/月
▸ 5%
參數量
32B
最大上下文
131K tokens
中文131KApache 2.0
vLLMllama.cppSGLang
Apache 2.0
🧠 大型語言模型

Deepseek V3.1

📅2025年8月

Deepseek V3.1 由 deepseek-ai 開發的開源 語言 模型。授權:mit。共 1 個尺寸版本。

超大上下文開源模型高參數規模
153K/月
▸ 1%
參數量
671B
最大上下文
160K tokens
VRAM 資料待補充
deepseek-aimitllm
ollamallama.cpp
MIT

常見問題

什麼是開源 AI 模型?
開源 AI 模型是指原始碼、模型權重或訓練資料公開發布的人工智慧模型,任何人都可以免費下載、修改和自行部署。常見的開源 AI 模型包括 Meta 的 Llama、Mistral AI 的 Mistral、阿里巴巴的 Qwen 等。
如何自行部署開源 AI 模型?
最常用的工具包括:Ollama(最簡單,適合本機部署)、LM Studio(圖形介面,適合初學者)、vLLM(高效能伺服器部署)、llama.cpp(輕量化 CPU/GPU 推理)。根據你的 GPU VRAM 選擇合適的量化版本即可。
我需要多少 VRAM 才能運行 AI 模型?
7B 模型(Q4 量化)約需 4-6 GB VRAM;13B 約需 8-10 GB;70B 約需 40-48 GB。OSAI Centre 為每個模型提供詳細的 VRAM 需求表。
OSAI Centre 收錄了哪些類型的 AI 模型?
OSAI Centre 收錄超過 160 個開源 AI 模型,涵蓋:語言模型(LLM)、圖像生成(Stable Diffusion、FLUX)、語音、程式碼生成、多模態、影片生成,以及 AI 工具和 Agent 框架。
什麼是量化(Quantization)?
量化通過降低模型權重精度(如 FP16 → Q4)來減少 VRAM 佔用和加快推理速度。常見格式:Q2、Q3、Q4、Q5、Q6、Q8,數字越大精度越高但 VRAM 需求也越大。
如何選擇適合我的開源 AI 模型?
建議考慮:1) GPU VRAM 大小;2) 使用場景(對話、程式碼、圖像生成等);3) 語言支援;4) 授權條款。使用 OSAI Centre 的 VRAM 篩選器和分類篩選快速找到合適的模型。
Llama 和 GPT-4 有什麼分別?
Llama(Meta)是開源免費的,可下載權重在本地自行部署,資料完全私密。GPT-4(OpenAI)是閉源商業模型,只能透過付費 API 呼叫。Llama 3.3 70B 在多項基準測試上接近 GPT-4 水準,且完全免費本地運行。
如何在 Windows 上安裝和使用 Ollama?
從 ollama.com 下載 Windows 安裝包,安裝後開啟 PowerShell 或命令提示字元,輸入:ollama run llama3.2(或其他模型名稱)。Ollama 會自動下載模型並啟動本地對話。如需圖形介面,可搭配 Open WebUI 或 LM Studio 使用。
可以在 Mac 上運行 AI 模型嗎?
可以!搭載 Apple Silicon(M1/M2/M3/M4)的 Mac 非常適合本地 AI 部署。Ollama 原生支援 macOS,使用統一記憶體(RAM)作為顯存。M2 Pro 16 GB 記憶體可流暢運行 7B–13B 模型。在終端機輸入:ollama run qwen2.5:7b 即可開始。
開源 AI 模型可以商業使用嗎?
取決於具體授權協議。Llama 3.3 允許大多數企業商業使用(月活用戶不超過 7 億);Qwen 2.5 採用 Apache 2.0(完全免費商用);Mistral 系列也是 Apache 2.0。商業部署前請務必在 Hugging Face 頁面確認該模型的具體授權條款。
2025 年最好的開源大語言模型是哪個?
2025 年頂級開源 LLM:Llama 3.3 70B(綜合品質最佳)、Qwen 2.5 72B(多語言和程式碼能力強)、Mistral Large(高效)、DeepSeek R1(推理能力強)、Phi-4(小模型中的佼佼者)。最佳選擇取決於你的顯存大小和使用場景。
沒有 GPU 可以運行 AI 模型嗎?
可以,使用 llama.cpp 或 Ollama 的純 CPU 推理模式。7B Q4 模型約需 8 GB 記憶體,在現代 CPU 上運行速度約 2–5 tokens/秒。即使是中階 GPU(如 RTX 3060 12 GB)也能大幅提升速度。Apple Silicon Mac 的統一記憶體利用效率也很高。
Ollama、LM Studio 和 vLLM 有什麼區別?
Ollama:命令行快速本地部署,支援大多數 GGUF 模型。LM Studio:圖形介面,適合 Windows/Mac 初學者,無需命令行。vLLM:高吐吐量生產伺服器,支援 OpenAI 相容 API,需要 Linux/GPU。個人使用選 Ollama 或 LM Studio;服务多用戶選 vLLM。
本地運行 AI 模型安全私密嗎?
是的!本地 AI 模型完全在你自己的硬體上運行,沒有任何資料傳送到外部伺服器。你的對話、文件和提示詞永遠不會離開你的機器。這使得本地 AI 非常適合處理敗感業務資料、個人隱私和離線場景。
最適合寫程式碼的開源 AI 模型是哪個?
頂級程式碼模型:Qwen 2.5 Coder 32B(綜合最佳)、DeepSeek Coder V2(推理能力強)、CodeLlama 70B(Meta)、Phi-4(高效)。VRAM 有限時,Qwen 2.5 Coder 7B 或 14B 是性價比最高的選擇。
最適合中文的開源 AI 模型是哪個?
最佳中文開源模型:Qwen 2.5(阿里巴巴,中英文最強)、DeepSeek V3(中文推理能力強)、Yi-1.5(01.AI)、Baichuan 2。Qwen 2.5 72B 被廣泛認為是中文 NLP 任務的首選。
如何在本地運行 Stable Diffusion?
使用 ComfyUI(最靈活,節點式工作流)或 AUTOMATIC1111 WebUI(初學者友好)。從 Hugging Face 或 CivitAI 下載模型檔案(如 SDXL、FLUX)。最低需求:SDXL 需 6 GB VRAM;FLUX 建議 8 GB+。支援 Windows、Mac(MPS)和 Linux。
如何在 Linux 上運行 AI 模型?
安裝 Ollama:curl -fsSL https://ollama.com/install.sh | sh,然後執行:ollama run llama3.2。GPU 加速需確保安裝 NVIDIA 驅動和 CUDA。vLLM 適合 Linux 伺服器部署:pip install vllm,然後 python -m vllm.entrypoints.openai.api_server --model Qwen/Qwen2.5-7B-Instruct。
什麼是 RAG(檢索增強生成)?
RAG 將本地 AI 模型與文件檢索系統結合,讓模型基於你自己的檔案(PDF、文件、筆記)回答問題。常用工具:Ollama + Open WebUI(內建 RAG)、LlamaIndex、LangChain、AnythingLLM。這讓你能基於自己的知識庫建立私有 ChatGPT。