在本地機器上零成本運行 Ava
完整代理體驗——所有模式、所有工具、您的記憶——透過 Ollama 或 LM Studio 在本地開源模型上運行,零持續成本。無需密鑰、無需計量、數據絕不出您的設備。以下是具體步驟。
大多數 AI 工具的「免費層」其實只是試用版——足以讓您上癮,隨後便是付費牆。Ava 的構建邏輯相反:底線確實永久免費,因為您能在自己的硬件上運行整個代理,完全不用支付分文。這就是作弊碼。以下是具體用法。
您實際獲得的內容
並非刪減版的「輕量」模式。而是完整代理:
- 所有模式——編程、規劃、對話、教學、安全、腦力激盪、寫作——以及所有工具。
- 以本地為先的記憶功能,讓 Ava 能在不同會話中繼續學習和記住您。
- 零持續成本。無積分、無 API 帳單——硬件本就是您的。
- 100% 私隱:模型在您機器上運行;您的提示詞與代碼絕不流出。
- 無速率限制,僅受您自己的算力約束。
所需條件
- 一臺能運行本地 LLM 的設備。現代筆記本可處理中小型模型;更多 RAM 或 VRAM 則支持運行更大、更強大的模型。
- 本地模型運行環境:Ollama(最簡單)、LM Studio(介面友好)或 vLLM(適合進階用戶)。
步驟 1 — 啟動本地模型
使用 Ollama,安裝後拉取一個能力強、擅長工具調用的模型。針對編程優化的模型如 Qwen3-Coder 是很好的起點——其 30B 預設版本專為可靠的工具調用而優化,這正是代理成敗的關鍵。更大參數的版本在長流程、多步驟任務中表現明顯更穩健。
ollama pull qwen3-coder
ollama serve # usually already running in the background偏好圖形介面?LM Studio 也能完成同樣的工作——在應用內下載模型,然後從開發者選項卡啟動本地服務器。
步驟 2 — 配置 Ava 連接
在外掛或桌面 IDE 中,進入設定 → 自定義模型,輸入以下兩項內容。無需 API 密鑰:
- 基礎 URL — Ollama: http://localhost:11434/v1 · LM Studio: http://localhost:1234/v1
- 模型名稱 —— 與您的運行器顯示的一致(例如 qwen3-coder)。
步驟 3 — 開始使用
選擇您的自定義模型並開始工作。聊天、模式、記憶皆同——如今完全在您的硬件上運行,零成本。請它解釋文件、構建功能或教授知識:代理閉環與托管模型完全一致。
關於模型規模的實話
本地開源模型在可靠工具調用及長流程多步驟任務上,不如前沿雲端模型強大——模型越小,差距越明顯。Ava 的調度機制(角色專精的子代理、驗證與修復閉環)刻意設計用於從中等規模模型中釋放真實能力,但需誠實設定預期:7B 模型非常適合對話和小範圍修改;若硬件允許,更大模型在自主多文件任務上表現遠佳。若任務在本地運行吃力,那是模型的局限,而非代理的問題。若您希望獲得同等能力卻無須硬件,同一代理亦可運行於我們的兩大集群之一——Maestro 基於 Qwen 端到端,或 Supernova 搭配 DeepSeek 協調器按步驟選擇專家——Free 方案每月包含 300 積分供您體驗。本地模型與帳號模型並行共存,您可將私密工作保留在本地,將繁重任務分流至雲端。
為何我們如此直言
其他平台皆隱藏免費途徑。我們將其置於首位,因為 Ava 的核心在於普惠——具備能力、隱私且具代理性的 AI,任何人皆可運行,不受預算限制。托管計劃旨在滿足追求便利與前沿模型的需求,這些訂閱收入維持了免費層與開源的運作。但底線確實免費,非免費試用。這才是核心理念。