Orkas Orkas
首页 博客 产品
产品

什么是本地优先 AI?你的数据、你的密钥、你的机器

本地优先 AI 的含义:工作区数据默认留在本机,模型接入可选托管官方模型或自有供应商直连。

你今天用的大多数 AI 应用,本质上都是别人云端的一个瘦客户端。你敲一句提示词,它发去他们的服务器;你的文件被上传,好让模型能读;你的对话历史存在他们的数据库里;而那把 API key——如果有的话——是他们的,加了利润再算到你头上。这种安排很方便,对很多用途也确实够用。但它悄悄预设了一件事:你的数据、你的工作、你的凭证,归他们保管

本地优先 AI(local-first AI)把这个默认反了过来。这篇文章讲清楚「本地优先」到底是什么意思,把它套到 AI 上之后有哪些变化,以及怎么判断一个号称本地优先的工具是不是真的。Orkas 就是这么做的,所以我们拿它当具体例子——但这些观念适用于这一类里的任何工具。

范围说明。下文的自带 Key 部分描述 Orkas 的 BYO 路径。托管官方模型使用 Orkas 托管模型服务。本地优先描述工作区默认值和控制面,并不要求所有模型调用都绕过 Orkas。

一句话版本 本地优先说的是工作区在哪,不是模型在哪跑 Orkas 默认把对话、Agent 配置和 Key 留在你的机器上,模型调用则发往你选择的供应商。想看它在应用里是什么样,去本地优先 AI Agent 页面。
下载 Orkas — 免费

「本地优先」到底是什么意思

这个词来自软件设计本身,不是 AI 圈造的。剥到最核心,一个本地优先的应用守着三条性质:

  1. 你的数据默认存在你的设备上。 文档、历史、设置——真相的源头是你自己磁盘上的一个文件,而不是远端数据库里的一行记录。
  2. 应用从你的机器上运行。 核心功能在本地跑,不需要往服务器跑一个来回才能用。
  3. 联网是可选项,不是地基。 同步、分享、协作是你可以开启的功能——而不是这个应用赖以存在的根本。把它们关掉,应用照样能用。

对比一下云优先(cloud-first)的 SaaS 默认:服务器才是真相之源,你的设备只是一扇朝它开的窗。在一个云优先应用上合上笔记本盖子,你的数据从一开始就不真正属于你;它一直待在他们的基础设施上,受他们的条款管辖,对他们的员工和传票可见。本地优先把举证责任反了过来:数据是你的,除非你明确决定把一份副本发到某个地方。

当这个应用是个 AI agent 时,会变什么

把那三条性质套到 AI 工具上,会额外推出两条 AI 特有的承诺——而这两条恰恰是对隐私最要紧的。

自带密钥(BYO-key, Bring Your Own Key)。 在 BYO 路径中,你提供自己的 API key 或供应商 OAuth 登录,并掌控供应商、模型、限额和账单;Orkas 也提供可选的托管官方模型。

BYO 模型调用直连。 当 agent 使用你自己的供应商时,请求会从你的机器直接发往该供应商,不经过 Orkas。托管官方模型则使用 Orkas 托管模型服务。

这里值得说精确点,因为「AI 在本地跑」是一个很常见的误读。本地优先并不意味着模型本身跑在你的笔记本上(虽然它可以——下面会讲)。模型仍然可以是一个庞大的云端 API。本地的是模型周围的一切:你的数据、你的密钥、你的 agent 配置,以及决定「发什么、何时发」的控制面。本地优先讲的是谁保管你的东西,而不是 GPU 在哪。

你的东西到底存在哪

具体到 Orkas 这样一个本地优先的 agent,下面是「留在原地的」和「可以走的」之间的划分。

默认存在你自己的机器上:

  • 你的 API 密钥和 OAuth token——加密落盘,且被排除在任何同步之外。
  • 你的 对话历史、计划、生成的文件
  • 你的 agent 配置、技能、知识库
  • 你的 个人记忆——agent 学到的关于你的偏好和事实。

凭证的处理值得细看,因为 key 是一个 AI 工具会碰到的最敏感的东西。在一个做得好的本地优先应用里,一把 key 的生命周期很短、很受控:

1. 你添加它    →  在本机粘贴一把 API key(或用 OAuth 登录)
2. 加密落盘    →  在碰到磁盘之前,用带认证的 AES-256-GCM 封好
3. 本地存储    →  写进一个机器私有的配置文件,排除在同步之外
4. 直接使用    →  仅在内存里解密,用来从你的机器直接调用你的供应商

在 BYO 路径中,这把 key 不会跨网络传到 Orkas——落盘时不会,传输时不会,遥测里也不会。(像 AES-256-GCM 这样的认证加密还能让篡改可被发现;它防的是随手泄露——一条乱入的日志、一个会跑 OCR 的备份、另一个应用读了这个文件夹——这才是一个落盘密钥现实中要面对的威胁。)

什么仍然会离开——而且只在你下令时

「本地优先」不等于「什么都永远不离开你的机器」。那会是个没用的应用——也是个不诚实的说法。诚实的表述是:东西只在你要求时才离开,而且去往你选定的目的地。一个值得信任的本地优先工具,会把这些到底是什么讲得明明白白。对 Orkas 来说:

  • 发往你自己供应商的模型调用。 你的提示词和回复,在你的电脑和挑的那家供应商之间直接往来。它们离开了你的机器——但去的是你的供应商,不是 Orkas。
  • 你明确授权的连接器调用。 当你连上 GitHub、Notion、Google 等等,这些调用从你的机器发往那个服务。OAuth token 存在你的设备上;对少数会在每次刷新时轮换 token 的供应商,刷新这一步会经由 Orkas 协调,免得你的多台设备互相抢——一个刻意收得很窄、且公开记录在案的例外。
  • 云同步,如果你开启的话。 多设备同步是可选项。开了它,你选择同步的那部分数据会存到 Orkas 服务器上,好让它在你的多台设备间可用。不开,就什么都不同步。
  • 有限的、尊重隐私的分析数据。 聚合的使用事件(哪些功能被用了)——绝不包含你的提示词、文件内容、消息文本或凭证。

在 BYO 路径中,供应商 Key 留在本机,模型流量直连该供应商。托管官方模型及其他由你选择的云端功能会使用 Orkas 服务。

为什么本地优先重要

这不是隐私表演。「你的东西仍归你」这个默认,换来几样实打实的东西。

数据主权。 你的对话、agent 读写的文件、你搭起来的知识库——它们躺在你的磁盘上,归你控制。你可以备份、检查、删除,不用问任何人。没有哪个厂商的数据库握着那份「正本」。

可审计。 使用自有供应商时,你可以读开源客户端、观察网络流量并确认提示词的直连路径;托管功能则有一条经 Orkas 服务的、明确记录的路径。

模型可选。 你可以选择托管官方模型,也可以连接自己的供应商并按需切换模型。

成本透明。 托管能力消耗 Orkas credits;自有密钥的用量由对应供应商直接计费。

韧性。 因为核心在你机器上跑、数据又在本地,这个工具不会因为一次宕机、或一封「产品下线」的邮件,就把你的工作一起带走。

本地优先 vs. 纯本地模型——一个澄清

有一个区分常把人绊住,值得单开一节。「本地优先 AI」「端侧 AI」和「跑一个本地 LLM」相关,但不是一回事。

  • 跑一个本地 LLM(用 Ollama 之类)指的是模型权重在你的硬件上运行。任何东西——提示词或回复——根本不离开你的机器。它隐私最大化,但受限于你的硬件,所以模型比前沿的云端模型小。
  • 本地优先 AI 讲的是工作区数据、密钥和控制面默认在哪。模型流量取决于你选的路径:托管官方模型使用 Orkas 服务,自有供应商调用则直接发往该供应商。

所以两者是叠加而不是竞争:一个同时支持本地模型的本地优先工具,给你的是能拿到的最强隐私姿态;而同一个工具指向云端 API 时,给你的是前沿能力、且数据仍在你掌控之下。本地优先是架构;本地模型是你可以塞进去的引擎之一。

怎么判断一个 AI 工具是不是真本地优先

这个标签被用得很松,所以这里给一份简短清单,可以套到任何号称本地优先的工具上。问:

  • 工作区数据默认存在哪? 本地优先意味着设备是默认的真相来源。
  • 有哪些网络路径? 值得信任的产品会区分 BYO 直连、托管模型、同步、连接器和分析数据。
  • 同步是可选的吗? 在你主动开启同步前,本地优先数据应留在本机。
  • 这些主张能核实吗? 开源客户端让你检查代码和网络行为。
  • 该选哪条模型路径? BYO 提供供应商直连与直接计费;托管模型用便利性和 Orkas credits 换取不同的服务路径。

小结

本地优先 AI 是一种关于默认值的立场:工作区数据与控制从你的机器开始,每项可选网络功能都有明确路径。在 Orkas 中,托管官方模型使用 Orkas 服务,自有供应商调用则直连该供应商。

想看这具体是怎么实现的——密钥的生命周期、加密、以及「什么留下、什么离开」的精确清单——去读安全与信任页;因为客户端开源,这些都不必凭信仰接受。想看 agent 本身底下的工程,去看一个 agent 是怎么被造得能在你机器上可靠运行的,以及一个主 agent 是怎么协调一支子 agent 团队的