Orkas Orkas
首頁 博客 產品
產品

什麼是本地優先 AI?你的資料、你的密鑰、你的機器

本地優先 AI 的含義:工作區資料預設留在本機,模型接入可選托管官方模型或自有供應商直連。

你今天用的大多數 AI 應用,本質上都是別人雲端的一個瘦客戶端。你敲一句提示詞,它發去他們的服務器;你的檔案被上傳,好讓模型能讀;你的對話歷史存在他們的資料庫里;而那把 API key——如果有的話——是他們的,加了利潤再算到你頭上。這種安排很方便,對很多用途也確實夠用。但它悄悄預設了一件事:你的資料、你的工作、你的憑證,歸他們保管。

本地優先 AI(local-first AI)把這個預設反了過來。這篇文章講清楚「本地優先」到底是什麼意思,把它套到 AI 上之後有哪些變化,以及怎麼判斷一個號稱本地優先的工具是不是真的。Orkas 就是這麼做的,所以我們拿它當具體例子——但這些觀念適用於這一類里的任何工具。

範圍說明。下文的自帶 Key 部分描述 Orkas 的 BYO 路徑。托管官方模型使用 Orkas 托管模型服務。本地優先描述工作區預設值和控制面,並不要求所有模型呼叫都繞過 Orkas。

一句話版本 本地優先說的是工作區在哪,不是模型在哪跑 Orkas 預設把對話、Agent 配置和 Key 留在你的機器上,模型呼叫則發往你選擇的供應商。想看它在應用里是什麼樣,去本地優先 AI Agent 頁面。
下載 Orkas — 免費

「本地優先」到底是什麼意思

這個詞來自軟體設計本身,不是 AI 圈造的。剝到最核心,一個本地優先的應用守著三條性質:

  1. 你的資料預設存在你的設備上。 文件、歷史、設定——真相的源頭是你自己磁盤上的一個檔案,而不是遠端資料庫里的一行記錄。
  2. 應用從你的機器上運行。 核心功能在本地跑,不需要往服務器跑一個來回才能用。
  3. 聯網是可選項,不是地基。 同步、分享、協作是你可以開啓的功能——而不是這個應用賴以存在的根本。把它們關掉,應用照樣能用。

對比一下雲優先(cloud-first)的 SaaS 預設:服務器才是真相之源,你的設備只是一扇朝它開的窗。在一個雲優先應用上合上筆記本蓋子,你的資料從一開始就不真正屬於你;它一直待在他們的基礎設施上,受他們的條款管轄,對他們的員工和傳票可見。本地優先把舉證責任反了過來:資料是你的,除非你明確決定把一份副本發到某個地方。

當這個應用是個 AI agent 時,會變什麼

把那三條性質套到 AI 工具上,會額外推出兩條 AI 特有的承諾——而這兩條恰恰是對隱私最要緊的。

自帶密鑰(BYO-key, Bring Your Own Key)。 在 BYO 路徑中,你提供自己的 API key 或供應商 OAuth 登入,並掌控供應商、模型、限額和賬單;Orkas 也提供可選的托管官方模型。

BYO 模型呼叫直連。 當 agent 使用你自己的供應商時,請求會從你的機器直接發往該供應商,不經過 Orkas。托管官方模型則使用 Orkas 托管模型服務。

這裡值得說精確點,因為「AI 在本地跑」是一個很常見的誤讀。本地優先並不意味著模型本身跑在你的筆記本上(雖然它可以——下面會講)。模型仍然可以是一個龐大的雲端 API。本地的是模型周圍的一切:你的資料、你的密鑰、你的 agent 配置,以及決定「發什麼、何時發」的控制面。本地優先講的是誰保管你的東西,而不是 GPU 在哪。

你的東西到底存在哪

具體到 Orkas 這樣一個本地優先的 agent,下面是「留在原地的」和「可以走的」之間的劃分。

預設存在你自己的機器上:

  • 你的 API 密鑰和 OAuth token——加密落盤,且被排除在任何同步之外。
  • 你的 對話歷史、計劃、生成的檔案。
  • 你的 agent 配置、技能、知識庫。
  • 你的 個人記憶——agent 學到的關於你的偏好和事實。

憑證的處理值得細看,因為 key 是一個 AI 工具會碰到的最敏感的東西。在一個做得好的本地優先應用里,一把 key 的生命週期很短、很受控:

1. 你添加它    →  在本機粘貼一把 API key(或用 OAuth 登入)
2. 加密落盤    →  在碰到磁盤之前,用帶認證的 AES-256-GCM 封好
3. 本地存儲    →  寫進一個機器私有的配置檔案,排除在同步之外
4. 直接使用    →  僅在內存里解密,用來從你的機器直接呼叫你的供應商

在 BYO 路徑中,這把 key 不會跨網路傳到 Orkas——落盤時不會,傳輸時不會,遙測里也不會。(像 AES-256-GCM 這樣的認證加密還能讓篡改可被發現;它防的是隨手洩露——一條亂入的日誌、一個會跑 OCR 的備份、另一個應用讀了這個檔案夾——這才是一個落盤密鑰現實中要面對的威脅。)

什麼仍然會離開——而且只在你下令時

「本地優先」不等於「什麼都永遠不離開你的機器」。那會是個沒用的應用——也是個不誠實的說法。誠實的表述是:東西只在你要求時才離開,而且去往你選定的目的地。一個值得信任的本地優先工具,會把這些到底是什麼講得明明白白。對 Orkas 來說:

  • 發往你自己供應商的模型呼叫。 你的提示詞和回復,在你的電腦和你挑的那家供應商之間直接往來。它們離開了你的機器——但去的是你的供應商,不是 Orkas。
  • 你明確授權的連接器呼叫。 當你連上 GitHub、Notion、Google 等等,這些呼叫從你的機器發往那個服務。OAuth token 存在你的設備上;對少數會在每次刷新時輪換 token 的供應商,刷新這一步會經由 Orkas 協調,免得你的多台設備互相搶——一個刻意收得很窄、且公開記錄在案的例外。
  • 雲同步,如果你開啓的話。 多設備同步是可選項。開了它,你選擇同步的那部分資料會存到 Orkas 服務器上,好讓它在你的多台設備間可用。不開,就什麼都不同步。
  • 有限的、尊重隱私的分析資料。 聚合的使用事件(哪些功能被用了)——絕不包含你的提示詞、檔案內容、消息文本或憑證。

在 BYO 路徑中,供應商 Key 留在本機,模型流量直連該供應商。托管官方模型及其他由你選擇的雲端功能會使用 Orkas 服務。

為什麼本地優先重要

這不是隱私表演。「你的東西仍歸你」這個預設,換來幾樣實打實的東西。

資料主權。 你的對話、agent 讀寫的檔案、你搭起來的知識庫——它們躺在你的磁盤上,歸你控制。你可以備份、檢查、刪除,不用問任何人。沒有哪個廠商的資料庫握著那份「正本」。

可審計。 使用自有供應商時,你可以讀開源客戶端、觀察網路流量並確認提示詞的直連路徑;托管功能則有一條經 Orkas 服務的、明確記錄的路徑。

模型可選。 你可以選擇托管官方模型,也可以連接自己的供應商並按需切換模型。

成本透明。 托管能力消耗 Orkas credits;自有密鑰的用量由對應供應商直接計費。

韌性。 因為核心在你機器上跑、資料又在本地,這個工具不會因為一次宕機、或一封「產品下線」的郵件,就把你的工作一起帶走。

本地優先 vs. 純本地模型——一個澄清

有一個區分常把人絆住,值得單開一節。「本地優先 AI」「端側 AI」和「跑一個本地 LLM」相關,但不是一回事。

  • 跑一個本地 LLM(用 Ollama 之類)指的是模型權重在你的硬件上運行。任何東西——提示詞或回復——根本不離開你的機器。它隱私最大化,但受限於你的硬件,所以模型比前沿的雲端模型小。
  • 本地優先 AI 講的是工作區資料、密鑰和控制面預設在哪。模型流量取決於你選的路徑:托管官方模型使用 Orkas 服務,自有供應商呼叫則直接發往該供應商。

所以兩者是疊加而不是競爭:一個同時支援本地模型的本地優先工具,給你的是能拿到的最強隱私姿態;而同一個工具指向雲端 API 時,給你的是前沿能力、且資料仍在你掌控之下。本地優先是架構;本地模型是你可以塞進去的引擎之一。

怎麼判斷一個 AI 工具是不是真本地優先

這個標籤被用得很松,所以這裡給一份簡短清單,可以套到任何號稱本地優先的工具上。問:

  • 工作區資料預設存在哪? 本地優先意味著設備是預設的真相來源。
  • 有哪些網路路徑? 值得信任的產品會區分 BYO 直連、托管模型、同步、連接器和分析資料。
  • 同步是可選的嗎? 在你主動開啓同步前,本地優先資料應留在本機。
  • 這些主張能覈實嗎? 開源客戶端讓你檢查代碼和網路行為。
  • 該選哪條模型路徑? BYO 提供供應商直連與直接計費;托管模型用便利性和 Orkas credits 換取不同的服務路徑。

小結

本地優先 AI 是一種關於預設值的立場:工作區資料與控制從你的機器開始,每項可選網路功能都有明確路徑。在 Orkas 中,托管官方模型使用 Orkas 服務,自有供應商呼叫則直連該供應商。

想看這具體是怎麼實現的——密鑰的生命週期、加密、以及「什麼留下、什麼離開」的精確清單——去讀安全與信任頁;因為客戶端開源,這些都不必憑信仰接受。想看 agent 本身底下的工程,去看一個 agent 是怎麼被造得能在你機器上可靠運行的,以及一個主 agent 是怎麼協調一支子 agent 團隊的。