AI ưu tiên cục bộ là gì? Dữ liệu của bạn, khóa của bạn, máy của bạn

Hầu hết ứng dụng AI bạn dùng hiện nay chỉ là ứng dụng khách mỏng kết nối tới đám mây của người khác. Bạn nhập lời nhắc, nó được gửi đến máy chủ của họ; tệp của bạn được tải lên để mô hình đọc; lịch sử trò chuyện nằm trong cơ sở dữ liệu của họ; và khóa API — nếu có — là của họ, được tính phí lại cho bạn kèm phần chênh lệch. Cách tổ chức đó tiện lợi và phù hợp với nhiều mục đích sử dụng. Nhưng nó âm thầm đặt ra một giả định: rằng dữ liệu, công việc và thông tin xác thực của bạn là thứ họ có quyền giữ.

AI ưu tiên cục bộ đảo ngược mặc định đó. Bài viết này giải thích "ưu tiên cục bộ" thực sự nghĩa là gì, điều gì thay đổi khi áp dụng riêng cho AI và cách xác định liệu một công cụ tự nhận ưu tiên cục bộ có thực sự như vậy hay không. Orkas được xây dựng theo cách này, nên chúng tôi sẽ dùng nó làm ví dụ cụ thể — nhưng các ý tưởng này áp dụng cho mọi công cụ trong nhóm này.

Lưu ý về phạm vi. Các phần về khóa trực tiếp dưới đây mô tả cách dùng nhà cung cấp riêng trong Orkas. Orkas cũng cung cấp tùy chọn mô hình chính thức được quản lý; những yêu cầu đó sử dụng dịch vụ mô hình được quản lý của Orkas. Ưu tiên cục bộ mô tả các mặc định và quyền kiểm soát không gian làm việc, không có nghĩa mọi yêu cầu tới mô hình đều phải bỏ qua Orkas.

Trả lời nhanh

AI ưu tiên cục bộ là gì?

Ưu tiên cục bộ mô tả nơi dữ liệu không gian làm việc và tầng điều khiển nằm theo mặc định: trên thiết bị của bạn. Nó không yêu cầu mọi lệnh gọi mô hình đều phải bỏ qua nhà cung cấp ứng dụng. Orkas cung cấp tùy chọn mô hình chính thức được quản lý và cả cách kết nối trực tiếp tới nhà cung cấp riêng.

AI ưu tiên cục bộ có giống chạy LLM cục bộ không?

Không. Ưu tiên cục bộ mô tả nơi dữ liệu, khóa và tầng điều khiển của bạn được lưu — trên máy của bạn. Bản thân mô hình vẫn có thể là API đám mây như OpenAI hoặc Anthropic. Chạy mô hình hoàn toàn cục bộ (ví dụ bằng Ollama) là một lựa chọn trong thiết kế ưu tiên cục bộ, không phải định nghĩa của nó.

Dùng khóa riêng (BYO-key) có nghĩa là gì?

Dùng khóa riêng nghĩa là bạn kết nối với nhà cung cấp bằng khóa API hoặc tài khoản OAuth của chính mình. Với cách này, khóa ở lại trên thiết bị của bạn và lệnh gọi mô hình đi thẳng tới nhà cung cấp đó. Đây là lựa chọn thay thế cho các mô hình chính thức được quản lý tùy chọn của Orkas.

"Ưu tiên cục bộ" thực sự có nghĩa là gì

Thuật ngữ này bắt nguồn từ thiết kế phần mềm nói chung, không phải AI. Về cốt lõi, ứng dụng ưu tiên cục bộ tuân theo ba đặc tính:

1. Dữ liệu của bạn mặc định nằm trên thiết bị của bạn. Tài liệu, lịch sử, cài đặt — nguồn dữ liệu chuẩn là một tệp trên ổ đĩa của chính bạn, không phải một hàng trong cơ sở dữ liệu từ xa.
2. Ứng dụng hoạt động từ máy của bạn. Các tính năng cốt lõi chạy cục bộ; chúng không cần gửi yêu cầu tới máy chủ rồi nhận phản hồi để hoạt động.
3. Kết nối mạng là tùy chọn chủ động bật, không phải nền tảng. Đồng bộ, chia sẻ và cộng tác là những tính năng bạn có thể bật — không phải thành phần nền tảng tạo nên ứng dụng. Tắt chúng đi, ứng dụng vẫn hoạt động.

Hãy đối chiếu với mặc định SaaS ưu tiên đám mây, nơi máy chủ là nguồn dữ liệu chuẩn và thiết bị của bạn chỉ là cửa sổ nhìn vào đó. Khi gập nắp laptop với một ứng dụng ưu tiên đám mây, dữ liệu của bạn vốn chưa bao giờ thực sự thuộc về bạn; nó luôn nằm trên hạ tầng của họ, chịu sự chi phối của các điều khoản của họ, có thể được nhân viên của họ và bên có trát yêu cầu cung cấp dữ liệu tiếp cận. Ưu tiên cục bộ đảo ngược nghĩa vụ chứng minh: dữ liệu là của bạn trừ khi bạn chủ động quyết định gửi một bản sao đi nơi khác.

Điều gì thay đổi khi ứng dụng là một tác tử AI

Với cách dùng nhà cung cấp riêng, những đặc tính đó tạo thêm hai lợi ích về quyền riêng tư.

Dùng khóa riêng (BYO-key). Bạn cung cấp thông tin xác thực của nhà cung cấp — khóa API hoặc đăng nhập OAuth — và kiểm soát các mô hình, hạn mức và hóa đơn của nhà cung cấp đó. Trong Orkas, đây là lựa chọn thay thế cho các mô hình chính thức được quản lý tùy chọn.

Các lệnh gọi mô hình BYO đi trực tiếp. Khi tác tử dùng nhà cung cấp riêng của bạn, yêu cầu đi thẳng từ máy của bạn tới nhà cung cấp đó và không đi qua Orkas. Các mô hình chính thức được quản lý thì sử dụng dịch vụ mô hình được quản lý của Orkas.

Cần diễn đạt chính xác ở đây, vì "AI chạy cục bộ" là cách hiểu nhầm phổ biến. Ưu tiên cục bộ không có nghĩa là bản thân mô hình chạy trên laptop của bạn (dù nó có thể — xem thêm bên dưới). Mô hình vẫn có thể là một API đám mây khổng lồ. Thứ được giữ cục bộ là mọi thứ xung quanh mô hình: dữ liệu, khóa, cấu hình tác tử và tầng điều khiển quyết định gửi gì, khi nào. Ưu tiên cục bộ nói về ai giữ những thứ của bạn, không phải GPU nằm ở đâu.

Những thứ của bạn thực sự nằm ở đâu

Cụ thể, trong một tác tử ưu tiên cục bộ như Orkas, đây là sự phân chia giữa những gì ở lại và những gì có thể được chuyển đi.

Theo mặc định, trên chính máy của bạn:

• Của bạn: Khóa API và token OAuth — được mã hóa khi lưu trữ và loại khỏi mọi hoạt động đồng bộ.
• Của bạn: lịch sử trò chuyện, kế hoạch và các tệp được tạo.
• Của bạn: cấu hình tác tử, kỹ năng và cơ sở tri thức.
• Của bạn: bộ nhớ cá nhân — những sở thích và thông tin mà tác tử đã học được về bạn.

Cách xử lý thông tin xác thực cần được xem xét kỹ hơn, vì khóa là thứ nhạy cảm nhất mà một công cụ AI chạm tới. Vòng đời của khóa trong một ứng dụng ưu tiên cục bộ được xây dựng tốt rất ngắn gọn và khép kín:

1. Bạn thêm khóa       →  dán khóa API (hoặc đăng nhập bằng OAuth), ngay trên thiết bị
2. Mã hóa khi lưu trữ  →  được bảo vệ bằng AES-256-GCM có xác thực trước khi ghi xuống ổ đĩa
3. Lưu trữ cục bộ      →  ghi vào tệp cấu hình riêng của máy, loại khỏi đồng bộ
4. Sử dụng trực tiếp   →  chỉ giải mã trong bộ nhớ để gọi nhà cung cấp, trực tiếp từ máy của bạn

Khóa không bao giờ được truyền qua mạng tới nhà cung cấp ứng dụng — không khi lưu trữ, không khi truyền, không trong dữ liệu đo lường. (Mã hóa có xác thực như AES-256-GCM còn giúp phát hiện việc sửa đổi trái phép; nó bảo vệ trước việc vô tình lộ thông tin — một dòng nhật ký ngoài ý muốn, một bản sao lưu chạy OCR, một ứng dụng khác đọc thư mục — vốn là những mối đe dọa thực tế đối với bí mật lưu trên ổ đĩa.)

Những gì vẫn được gửi đi — và chỉ theo lệnh của bạn

"Ưu tiên cục bộ" không có nghĩa là "không có gì rời khỏi máy của bạn". Orkas mô tả từng đường truyền mạng: các lệnh gọi nhà cung cấp và trình kết nối do bạn khởi tạo, tính năng được quản lý do bạn chọn, đồng bộ tùy chọn và phân tích sản phẩm có giới hạn.

• Lệnh gọi mô hình tới nhà cung cấp riêng của bạn. Lời nhắc và phản hồi truyền trực tiếp giữa máy tính của bạn và nhà cung cấp do bạn chọn. Chúng rời khỏi máy của bạn — nhưng đi tới nhà cung cấp của bạn, không phải Orkas.
• Các lệnh gọi trình kết nối mà bạn cho phép rõ ràng. Khi bạn kết nối GitHub, Notion, Google, v.v., các lệnh gọi đó đi từ máy của bạn tới dịch vụ tương ứng. Token OAuth được lưu trên thiết bị của bạn; với một số nhà cung cấp thay token sau mỗi lần làm mới, bước làm mới được phối hợp qua Orkas để các thiết bị của bạn không tranh chấp nhau — một ngoại lệ được giới hạn có chủ đích và công khai trong tài liệu.
• Đồng bộ đám mây, nếu bạn bật. Đồng bộ nhiều thiết bị là tùy chọn chủ động bật. Khi bật, dữ liệu bạn chọn đồng bộ được lưu trên máy chủ Orkas để có thể truy cập trên các thiết bị của bạn. Nếu tắt, không có gì được đồng bộ.
• Phân tích có giới hạn, tôn trọng quyền riêng tư. Các sự kiện sử dụng tổng hợp (những tính năng được dùng) — tuyệt đối không có lời nhắc, nội dung tệp, nội dung tin nhắn hay thông tin xác thực của bạn.

Với cách dùng BYO, khóa nhà cung cấp của bạn được giữ cục bộ và lưu lượng mô hình không đi qua máy chủ Orkas. Các mô hình chính thức được quản lý, đồng bộ, trình kết nối và những tính năng đám mây khác do bạn chọn sử dụng dịch vụ Orkas như mô tả trên trang Bảo mật.

Vì sao ưu tiên cục bộ quan trọng

Đây không phải màn trình diễn về quyền riêng tư. Mặc định "những gì của bạn vẫn thuộc về bạn" mang lại một số lợi ích cụ thể.

Chủ quyền dữ liệu. Cuộc trò chuyện, các tệp tác tử đọc và ghi, cơ sở tri thức bạn xây dựng — chúng nằm trên ổ đĩa của bạn, dưới quyền kiểm soát của bạn. Bạn có thể sao lưu, kiểm tra hoặc xóa chúng mà không cần hỏi ai. Không có cơ sở dữ liệu của nhà cung cấp giữ bản chuẩn.

Khả năng kiểm chứng. Với nhà cung cấp riêng, bạn có thể đọc mã nguồn mở của ứng dụng khách, theo dõi mạng và xác nhận đường truyền trực tiếp của lời nhắc. Các tính năng được quản lý có đường truyền khác qua dịch vụ Orkas, được mô tả trong tài liệu.

Lựa chọn mô hình. Chọn các mô hình chính thức được quản lý tùy chọn hoặc kết nối nhà cung cấp riêng và chuyển đổi mô hình của họ khi cần.

Minh bạch chi phí. Các chức năng được quản lý tiêu thụ tín dụng Orkas; mức sử dụng qua khóa riêng được nhà cung cấp đó tính phí trực tiếp.

Khả năng duy trì hoạt động. Vì phần cốt lõi chạy trên máy của bạn và dữ liệu được lưu cục bộ, một lần ngừng dịch vụ hay một email thông báo ngừng sản phẩm không thể khiến công cụ mang theo toàn bộ công việc của bạn.

Ưu tiên cục bộ và mô hình hoàn toàn cục bộ — làm rõ khác biệt

Có một khác biệt thường gây nhầm lẫn đến mức đáng dành riêng một mục. "AI ưu tiên cục bộ", "AI trên thiết bị" và "chạy LLM cục bộ" có liên quan nhưng không giống nhau.

• Chạy LLM cục bộ (bằng công cụ như Ollama) nghĩa là trọng số mô hình chạy trên phần cứng của bạn. Không có gì — dù là lời nhắc hay phản hồi — rời khỏi máy của bạn. Cách này bảo vệ quyền riêng tư tối đa, nhưng bị giới hạn bởi phần cứng, nên các mô hình nhỏ hơn những mô hình đám mây tiên tiến hàng đầu.
• AI ưu tiên cục bộ nói về nơi dữ liệu không gian làm việc, khóa và tầng điều khiển của bạn nằm theo mặc định. Lưu lượng mô hình đi theo đường bạn chọn: các mô hình chính thức do Orkas quản lý sử dụng dịch vụ Orkas, còn lệnh gọi tới nhà cung cấp riêng đi trực tiếp tới nhà cung cấp đó.

Vì vậy, chúng bổ sung cho nhau thay vì cạnh tranh: một công cụ ưu tiên cục bộ đồng thời hỗ trợ mô hình cục bộ mang lại mức bảo vệ quyền riêng tư mạnh nhất hiện có, còn chính công cụ đó khi kết nối tới API đám mây mang lại năng lực tiên tiến hàng đầu mà dữ liệu vẫn dưới quyền kiểm soát của bạn. Ưu tiên cục bộ là kiến trúc; mô hình cục bộ là một trong những động cơ bạn có thể lắp vào.

Cách xác định một công cụ AI có thực sự ưu tiên cục bộ hay không

Nhãn này thường được dùng khá tùy tiện, nên đây là danh sách kiểm tra ngắn bạn có thể áp dụng cho bất kỳ công cụ nào tự nhận như vậy. Hãy hỏi:

• Dữ liệu không gian làm việc mặc định nằm ở đâu? Ưu tiên cục bộ nghĩa là thiết bị là nguồn dữ liệu chuẩn theo mặc định.
• Có những đường truyền mạng nào? Một sản phẩm đáng tin cậy phân biệt rõ các lệnh gọi BYO trực tiếp với lưu lượng mô hình được quản lý, đồng bộ, trình kết nối và phân tích.
• Đồng bộ có phải tùy chọn chủ động bật không? Dữ liệu ưu tiên cục bộ được giữ cục bộ cho đến khi bạn chủ động bật đồng bộ hóa.
• Tôi có thể kiểm chứng các tuyên bố không? Ứng dụng khách mã nguồn mở cho phép bạn kiểm tra mã và hành vi mạng.
• Tôi muốn chọn cách truy cập mô hình nào? BYO cho phép nhà cung cấp tính phí trực tiếp và lưu lượng đi trực tiếp; mô hình được quản lý đổi cách kết nối đó lấy sự tiện lợi và việc dùng tín dụng Orkas.

Lời kết

Ưu tiên cục bộ là một lập trường về các giá trị mặc định: dữ liệu không gian làm việc và quyền điều khiển bắt đầu trên máy của bạn, còn mỗi tính năng mạng tùy chọn đều có đường truyền được công bố. Trong Orkas, các mô hình chính thức được quản lý sử dụng dịch vụ Orkas, còn lệnh gọi tới nhà cung cấp riêng đi trực tiếp tới nhà cung cấp đó.

Nếu bạn muốn xem chính xác cách triển khai — vòng đời khóa, mã hóa, danh sách cụ thể những gì ở lại và những gì được gửi đi — hãy đọc trang Bảo mật & Tin cậy; vì ứng dụng khách là mã nguồn mở, bạn không cần phải chỉ dựa vào niềm tin. Và nếu bạn muốn tìm hiểu kỹ thuật nền tảng của chính tác tử, hãy xem cách một tác tử được xây dựng để chạy đáng tin cậy trên máy của bạn và cách một tác tử trưởng điều phối một nhóm tác tử phụ.