로컬 우선 AI란? 내 데이터, 내 키, 내 컴퓨터

오늘날 사용하는 AI 앱 대부분은 다른 회사의 클라우드에 연결되는 경량 클라이언트입니다. 프롬프트를 입력하면 그 회사의 서버로 전송되고, 모델이 파일을 읽을 수 있도록 파일이 업로드됩니다. 대화 이력은 그 회사의 데이터베이스에 저장되며, API 키가 있다 해도 그 회사 소유이고 마진을 더해 사용자에게 청구합니다. 이 방식은 편리하고 많은 용도에서 괜찮습니다. 하지만 암묵적으로 한 가지를 전제합니다. 사용자의 데이터, 작업, 자격 증명을 그 회사가 보관해도 된다는 것입니다.

로컬 우선 AI는 이 기본값을 뒤집습니다. 이 글에서는 "로컬 우선"이 실제로 무엇을 뜻하는지, 이를 AI에 적용하면 무엇이 달라지는지, 로컬 우선을 표방하는 도구가 실제로 그런지 어떻게 판별하는지 설명합니다. Orkas는 이런 방식으로 만들어졌으므로 구체적인 예로 사용하겠습니다. 하지만 이 개념은 이 범주에 속하는 모든 도구에 적용됩니다.

범위 안내. 아래의 직접 키 사용 관련 설명은 Orkas에서 자체 제공업체를 연결하는 방식에 해당합니다. Orkas는 선택적으로 관리형 공식 모델도 제공합니다. 해당 요청은 Orkas의 관리형 모델 서비스를 사용합니다. 로컬 우선은 작업 공간의 기본값과 제어권을 뜻하며, 모든 모델 요청이 Orkas를 거치지 않아야 한다는 뜻은 아닙니다.

핵심 요약 로컬 우선은 모델 실행 위치가 아니라 작업 공간의 저장 위치에 관한 것입니다 Orkas는 기본적으로 채팅, 에이전트 설정, 키를 사용자 기기에 보관하고, 모델 호출은 사용자가 선택한 제공업체로 보냅니다. 앱에서 어떤 모습인지 로컬 우선 AI 에이전트 페이지에서 확인하세요.

Orkas 다운로드 — 무료

빠른 답변

로컬 우선 AI란 무엇인가요?

로컬 우선은 작업 공간 데이터와 제어 계층이 기본적으로 사용자 기기에 있다는 뜻입니다. 모든 모델 호출이 앱 공급업체를 우회해야 하는 것은 아닙니다. Orkas는 선택적인 관리형 공식 모델과 자체 제공업체를 직접 연결하는 방식을 모두 제공합니다.

로컬 우선 AI는 로컬 LLM 실행과 같은 뜻인가요?

아닙니다. 로컬 우선은 데이터, 키, 제어 계층이 사용자 기기에 있다는 뜻입니다. 모델 자체는 여전히 OpenAI나 Anthropic 같은 클라우드 API일 수 있습니다. 예를 들어 Ollama로 완전히 로컬에서 모델을 실행하는 것은 로컬 우선 설계 안에서 선택할 수 있는 한 가지 옵션이지, 그 정의 자체는 아닙니다.

자체 키 사용(BYO-key)이란 무엇인가요?

자체 키 사용은 자신의 API 키나 OAuth 계정으로 제공업체를 연결하는 방식입니다. 이 방식에서는 키가 사용자 기기에 남고 모델 호출은 해당 제공업체로 직접 전달됩니다. Orkas의 선택적인 관리형 공식 모델 대신 사용할 수 있습니다.

"로컬 우선"의 실제 의미

이 용어는 AI가 아니라 소프트웨어 설계 전반에서 유래했습니다. 핵심만 보면 로컬 우선 앱은 세 가지 속성을 지킵니다.

데이터는 기본적으로 사용자 기기에 있습니다. 문서, 이력, 설정의 기준 원본은 원격 데이터베이스의 행이 아니라 자신의 디스크에 있는 파일입니다.
앱은 사용자 기기에서 작동합니다. 핵심 기능은 로컬에서 실행되며, 작동하기 위해 서버를 왕복할 필요가 없습니다.
네트워크는 기반이 아닌 선택 사항입니다. 동기화, 공유, 협업은 켤 수 있는 기능이지 앱을 이루는 근본 요소가 아닙니다. 꺼도 앱은 계속 작동합니다.

서버가 기준 원본이고 기기는 이를 보는 창에 불과한 클라우드 우선 SaaS의 기본 방식과 비교해 보세요. 클라우드 우선 앱을 쓰다가 노트북 덮개를 닫아 보면, 애초에 데이터가 진정으로 내 것이 아니었음을 알 수 있습니다. 데이터는 늘 그 회사의 인프라에 있었고, 그 회사의 약관을 따르며, 직원이나 소환장에 따른 열람 대상이었습니다. 로컬 우선은 입증 책임을 뒤집습니다. 어딘가에 사본을 보내기로 명시적으로 결정하지 않는 한 데이터는 사용자의 것입니다.

앱이 AI 에이전트일 때 달라지는 점

자체 제공업체를 연결하는 방식에서는 이런 속성이 개인정보 보호 측면에서 두 가지 이점을 더 만듭니다.

자체 키 사용(BYO-key). 사용자가 API 키나 OAuth 로그인 같은 제공업체 자격 증명을 제공하고 해당 제공업체의 모델, 한도, 청구를 제어합니다. Orkas에서는 선택적인 관리형 공식 모델을 대신하는 방식입니다.

자체 제공업체 모델 호출은 직접 전달됩니다. 에이전트가 사용자의 자체 제공업체를 이용하면 요청은 사용자 기기에서 해당 제공업체로 바로 전송되며 Orkas를 거치지 않습니다. 관리형 공식 모델은 대신 Orkas의 관리형 모델 서비스를 사용합니다.

"AI가 로컬에서 실행된다"고 오해하기 쉬우므로 정확히 짚어야 합니다. 로컬 우선은 모델 자체가 노트북에서 실행된다는 뜻이 아닙니다(그럴 수도 있으며, 아래에서 더 설명합니다). 모델은 여전히 거대한 클라우드 API일 수 있습니다. 로컬에 있는 것은 모델 주변의 모든 것입니다. 데이터, 키, 에이전트 설정, 무엇을 언제 보낼지 결정하는 제어 계층입니다. 로컬 우선은 GPU의 위치가 아니라 사용자의 자료를 누가 보관하는지에 관한 것입니다.

실제로 자료가 보관되는 곳

구체적으로 Orkas 같은 로컬 우선 에이전트에서는 기기에 남는 것과 이동할 수 있는 것이 다음처럼 나뉩니다.

기본적으로 사용자 자신의 기기에 있는 것:

사용자의 API 키와 OAuth 토큰 — 저장 시 암호화되며 모든 동기화에서 제외됩니다.
사용자의 채팅 이력, 계획, 생성된 파일.
사용자의 에이전트 설정, 스킬, 지식 베이스.
사용자의 개인 메모리 — 에이전트가 사용자에 대해 학습한 선호와 사실입니다.

키는 AI 도구가 다루는 정보 중 가장 민감하므로 자격 증명 처리를 더 자세히 살펴볼 필요가 있습니다. 잘 설계된 로컬 우선 앱에서 키의 수명 주기는 짧고 범위가 한정되어 있습니다.

1. 키 추가          →  기기에서 API 키를 붙여 넣거나 OAuth로 로그인
2. 저장 시 암호화    →  디스크에 기록하기 전에 인증 암호화 방식인 AES-256-GCM으로 암호화
3. 로컬에 저장       →  기기 전용 설정 파일에 기록하며 동기화에서 제외
4. 직접 사용         →  내 컴퓨터에서 제공업체를 직접 호출할 때만 메모리에서 복호화

키는 저장 중이든 전송 중이든 텔레메트리에서든 앱 공급업체로 전송되지 않습니다. (AES-256-GCM 같은 인증 암호화는 변조도 감지할 수 있게 합니다. 부주의하게 남긴 로그, OCR을 수행하는 백업, 폴더를 읽는 다른 앱처럼 우발적인 노출을 막습니다. 이런 것들이 디스크에 저장된 비밀 정보의 현실적인 위협입니다.)

기기 밖으로 나가는 것 — 사용자의 지시가 있을 때만

"로컬 우선"은 "기기 밖으로 아무것도 나가지 않는다"는 뜻이 아닙니다. Orkas는 사용자가 시작한 제공업체 및 커넥터 호출, 사용자가 선택한 관리형 기능, 선택적 동기화, 제한적인 제품 분석 등 각 네트워크 경로를 문서화합니다.

자체 제공업체에 대한 모델 호출. 프롬프트와 응답은 사용자 컴퓨터와 사용자가 선택한 제공업체 사이에서 직접 오갑니다. 기기 밖으로 나가지만 Orkas가 아니라 사용자의 제공업체로 갑니다.
사용자가 명시적으로 승인한 커넥터 호출. GitHub, Notion, Google 등을 연결하면 호출은 사용자 기기에서 해당 서비스로 전달됩니다. OAuth 토큰은 사용자 기기에 저장됩니다. 갱신할 때마다 토큰을 교체하는 일부 제공업체의 경우, 사용자 기기끼리 경합하지 않도록 Orkas를 통해 갱신 단계를 조율합니다. 이는 의도적으로 좁게 한정해 공개적으로 문서화한 예외입니다.
켜 둔 경우의 클라우드 동기화. 여러 기기 간 동기화는 선택 사항입니다. 활성화하면 사용자가 동기화하기로 선택한 데이터가 Orkas 서버에 저장되어 여러 기기에서 사용할 수 있습니다. 끄면 아무것도 동기화되지 않습니다.
개인정보를 존중하는 제한적인 분석. 어떤 기능을 사용하는지 등의 사용 이벤트를 집계합니다. 프롬프트, 파일 내용, 메시지 본문, 자격 증명은 절대 포함하지 않습니다.

자체 제공업체 방식에서는 제공업체 키가 로컬에 남고 해당 모델 트래픽은 Orkas 서버를 거치지 않습니다. 관리형 공식 모델, 동기화, 커넥터, 기타 선택한 클라우드 기능은 보안 페이지에 설명된 대로 Orkas 서비스를 사용합니다.

로컬 우선이 중요한 이유

이는 겉치레식 개인정보 보호가 아닙니다. "사용자의 자료는 사용자에게 남는다"는 기본값은 몇 가지 구체적인 이점을 줍니다.

데이터 주권. 대화, 에이전트가 읽고 쓰는 파일, 사용자가 구축한 지식 베이스가 자신의 디스크에서 자신의 통제 아래 놓입니다. 누구에게 묻지 않고도 백업하고, 살펴보고, 삭제할 수 있습니다. 정본을 보관하는 공급업체 데이터베이스는 없습니다.

감사 가능성. 자체 제공업체를 사용하면 오픈 소스 클라이언트를 읽고 네트워크를 관찰해 프롬프트의 직접 전달 경로를 확인할 수 있습니다. 관리형 기능은 Orkas 서비스를 거치는 별도의 문서화된 경로를 사용합니다.

모델 선택권. 선택적인 관리형 공식 모델을 고르거나 자체 제공업체를 연결해 필요할 때 모델을 바꿀 수 있습니다.

비용 투명성. 관리형 기능은 Orkas 크레딧을 소비하고, 자체 키를 통한 사용량은 해당 제공업체가 직접 청구합니다.

복원력. 핵심 기능이 사용자 기기에서 실행되고 데이터가 로컬에 있으므로, 한 번의 서비스 장애나 제품 종료 안내 메일 때문에 도구와 함께 작업까지 잃게 되지는 않습니다.

로컬 우선과 완전히 로컬인 모델 — 구분하기

많은 사람이 혼동하므로 별도 절에서 다룰 만한 구분이 있습니다. "로컬 우선 AI", "온디바이스 AI", "로컬 LLM 실행"은 서로 관련되지만 같은 뜻이 아닙니다.

로컬 LLM 실행(Ollama 같은 도구 사용)은 모델 가중치가 사용자 하드웨어에서 실행된다는 뜻입니다. 프롬프트도 응답도 기기 밖으로 전혀 나가지 않습니다. 개인정보 보호를 극대화하지만 하드웨어의 한계를 받으므로 모델은 최첨단 클라우드 모델보다 작습니다.
로컬 우선 AI는 작업 공간 데이터, 키, 제어 계층이 기본적으로 어디에 있는지에 관한 것입니다. 모델 트래픽은 사용자가 선택한 경로를 따릅니다. Orkas 관리형 공식 모델은 Orkas 서비스를 이용하고, 자체 제공업체 호출은 해당 제공업체로 직접 전달됩니다.

따라서 둘은 경쟁하기보다 결합됩니다. 로컬 모델도 지원하는 로컬 우선 도구는 가능한 가장 강력한 개인정보 보호를 제공하고, 같은 도구를 클라우드 API에 연결하면 데이터를 여전히 직접 통제하면서 최첨단 기능을 사용할 수 있습니다. 로컬 우선은 아키텍처이며, 로컬 모델은 그 안에 넣을 수 있는 엔진 중 하나입니다.

AI 도구가 실제로 로컬 우선인지 확인하는 방법

이 표현은 느슨하게 사용되므로, 이를 표방하는 모든 도구에 적용할 수 있는 짧은 체크리스트를 소개합니다. 다음을 물어보세요.

작업 공간 데이터는 기본적으로 어디에 있나요? 로컬 우선은 기기가 기본적인 기준 원본이라는 뜻입니다.
어떤 네트워크 경로가 있나요? 신뢰할 수 있는 제품은 자체 제공업체 직접 호출을 관리형 모델, 동기화, 커넥터, 분석 트래픽과 구분합니다.
동기화는 선택 사항인가요? 로컬 우선 데이터는 사용자가 의도적으로 동기화를 켤 때까지 로컬에 남습니다.
주장을 검증할 수 있나요? 오픈 소스 클라이언트라면 코드와 네트워크 동작을 살펴볼 수 있습니다.
나는 어떤 모델 경로를 원하나요? 자체 제공업체 방식에서는 제공업체가 직접 청구하고 트래픽도 직접 전달됩니다. 관리형 모델에서는 그 경로 대신 편의성과 Orkas 크레딧을 선택합니다.

마무리

로컬 우선은 기본값에 관한 입장입니다. 작업 공간 데이터와 제어권은 사용자 기기에서 시작하며, 각 선택적 네트워크 기능은 공개된 경로를 갖습니다. Orkas에서는 관리형 공식 모델이 Orkas 서비스를 이용하고, 자체 제공업체 호출은 해당 제공업체로 직접 전달됩니다.

키의 수명 주기, 암호화, 기기에 남는 것과 나가는 것의 정확한 목록 등 구체적인 구현이 궁금하다면 보안 및 신뢰 페이지를 읽어 보세요. 클라이언트가 오픈 소스이므로 어떤 내용도 무작정 믿을 필요가 없습니다. 에이전트 자체의 기반 기술이 궁금하다면 단일 에이전트가 사용자 기기에서 안정적으로 실행되도록 만드는 방법과 리드 에이전트가 서브 에이전트 팀을 조율하는 방법을 확인하세요.