Apa itu AI Lokal-Pertama? Data Anda, Kunci Anda, Mesin Anda

Sebagian besar aplikasi AI yang Anda gunakan saat ini adalah klien tipis ke cloud orang lain. Anda mengetik permintaan, itu masuk ke server mereka; file Anda diunggah sehingga model dapat membacanya; riwayat percakapan Anda ada di basis data mereka; dan kunci API - jika ada - adalah milik mereka, ditagih kembali kepada Anda dengan margin. Pengaturan itu nyaman, dan untuk banyak penggunaan itu baik-baik saja. Tapi itu diam-diam membuat satu asumsi: bahwa data Anda, pekerjaan Anda, dan kredensial Anda adalah Milik mereka untuk dipegang.

AI Lokal-pertama Membalik default itu. Artikel ini menjelaskan apa arti sebenarnya dari "lokal-pertama", apa yang berubah ketika Anda menerapkannya ke AI secara khusus, dan bagaimana cara mengetahui apakah alat yang mengklaim sebagai lokal-pertama benar-benar. Orkas dibangun dengan cara ini, jadi kami akan menggunakannya sebagai contoh konkret — tetapi ide-idenya berlaku untuk alat apa pun dalam kategori ini.

Catatan lingkup. Bagian kunci langsung di bawah ini menjelaskan jalur penyedia bawa-Anda-sendiri Orkas. Orkas juga menawarkan model resmi terkelola opsional; permintaan tersebut menggunakan layanan model terkelola Orkas. Lokal-pertama menjelaskan default dan kontrol ruang kerja, bukan persyaratan bahwa setiap permintaan model melewati Orkas.

Versi pendek Lokal-pertama adalah tentang di mana ruang kerja Anda tinggal, bukan di mana model berjalan Orkas menyimpan obrolan, konfigurasi agen, dan kunci di mesin Anda secara default, sementara model panggilan masuk ke penyedia yang Anda pilih. Lihat tampilannya di aplikasi di Agen AI lokal-pertama Halaman.

Unduh Orkas — gratis

Jawaban cepat

Apa itu AI lokal-pertama?

Lokal-pertama menjelaskan di mana data ruang kerja dan bidang kontrol hidup secara default: di perangkat Anda. Tidak memerlukan setiap panggilan model untuk melewati vendor aplikasi. Orkas menawarkan model resmi terkelola opsional dan juga jalur penyedia langsung bawa-Anda-sendiri.

Apakah AI lokal-pertama sama dengan menjalankan LLM lokal?

Tidak. Lokal-pertama menjelaskan di mana data, kunci, dan bidang kontrol Anda berada — di mesin Anda. Model itu sendiri masih bisa menjadi API cloud seperti OpenAI atau Anthropic. Menjalankan model lokal sepenuhnya (misalnya dengan Ollama) adalah salah satu opsi dalam desain lokal-pertama, bukan definisinya.

Apa yang dimaksud dengan membawa-kunci-Anda-sendiri (BYO-key)?

Bawa-kunci-Anda-sendiri berarti Anda menghubungkan penyedia menggunakan kunci API atau akun OAuth Anda sendiri. Dengan jalur ini, kunci tetap berada di perangkat Anda dan panggilan model langsung ke penyedia tersebut. Ini adalah alternatif untuk model resmi terkelola opsional Orkas.

Apa sebenarnya yang dimaksud dengan "lokal-pertama"

Istilah ini berasal dari desain perangkat lunak secara umum, bukan dari AI. Dilucuti, aplikasi lokal-pertama memegang tiga properti:

Data Anda ada di perangkat Anda secara default. Dokumen, riwayat, pengaturan — sumber kebenaran adalah file di disk Anda sendiri, bukan baris di basis data jarak jauh.
Aplikasi ini berfungsi dari mesin Anda. Fitur inti berjalan secara lokal; mereka tidak memerlukan perjalanan pulang pergi ke server untuk berfungsi.
Jaringan adalah opt-in, bukan fondasinya. Sinkronisasi, berbagi, dan kolaborasi adalah fitur yang dapat Anda nyalakan — bukan hal yang pada dasarnya dibuat dari aplikasi. Matikan dan aplikasinya masih berfungsi.

Kontras dengan default SaaS cloud-first, di mana server adalah sumber kebenaran dan perangkat Anda hanyalah jendela ke dalamnya. Tutup tutup laptop pada aplikasi cloud-first dan data Anda tidak pernah benar-benar menjadi milik Anda sejak awal; itu selalu berada di infrastruktur mereka, diatur oleh persyaratan mereka, terlihat oleh staf dan panggilan pengadilan mereka. Lokal-pertama membalikkan beban pembuktian: data adalah milik Anda kecuali Anda secara eksplisit memutuskan untuk mengirim salinan ke suatu tempat.

Apa yang berubah ketika aplikasi adalah agen AI

Untuk jalur penyedia yang membawa Anda sendiri, properti tersebut menciptakan dua manfaat privasi tambahan.

Bawa kunci Anda sendiri (BYO-key). Anda menyediakan kredensial penyedia — kunci API atau masuk OAuth — dan mengontrol model, batasan, dan tagihan penyedia tersebut. Di Orkas ini adalah alternatif untuk model resmi terkelola opsional.

Panggilan model BYO langsung. Ketika seorang agen menggunakan penyedia Anda sendiri, permintaan tersebut langsung masuk dari mesin Anda ke penyedia tersebut dan tidak melewati Orkas. Model resmi yang dikelola menggunakan layanan model yang dikelola Orkas sebagai gantinya.

Layak untuk tepat di sini, karena "AI berjalan secara lokal" adalah kesalahan pembacaan yang umum. Lokal-pertama melakukan Tidak Berarti model itu sendiri berjalan di laptop Anda (meskipun bisa — lebih lanjut tentang itu di bawah). Yang Model Masih bisa menjadi API cloud raksasa. Apa yang lokal adalah segalanya Sekitar Model: data Anda, kunci Anda, konfigurasi agen Anda, dan bidang kontrol yang memutuskan apa yang akan dikirim dan kapan. Lokal-pertama adalah tentang siapa yang memegang barang-barang Anda, bukan tentang di mana GPU berada.

Di mana barang-barangmu sebenarnya tinggal

Secara konkret, dalam agen lokal-pertama seperti Orkas, inilah pembagian antara apa yang tetap di tempatnya dan apa yang dapat bergerak.

Secara default, di mesin Anda sendiri:

Kamu Kunci API dan token OAuth — dienkripsi saat diam dan dikecualikan dari sinkronisasi apa pun.
Kamu Riwayat obrolan, rencana, dan file yang dihasilkan.
Kamu Konfigurasi agen, keterampilan, dan basis pengetahuan.
Kamu Kenangan pribadi — preferensi dan fakta yang telah dipelajari agen tentang Anda.

Penanganan kredensial layak untuk dilihat lebih dekat, karena kunci adalah hal paling sensitif yang disentuh oleh alat AI. Siklus hidup kunci dalam aplikasi lokal-pertama yang dibangun dengan baik pendek dan berisi:

1. You add it        →  paste an API key (or sign in with OAuth), on-device
2. Encrypted at rest →  sealed with authenticated AES-256-GCM before it touches disk
3. Stored locally    →  written to a machine-private config file, excluded from sync
4. Used directly     →  decrypted in memory only to call your provider, straight from your machine

Kuncinya tidak pernah melewati kabel ke vendor aplikasi — tidak dalam diam, tidak dalam perjalanan, tidak dalam telemetri. (Enkripsi yang diautentikasi seperti AES-256-GCM juga membuat gangguan dapat dideteksi; itu melindungi terhadap pengungkapan biasa - log liar, cadangan yang menjalankan OCR, aplikasi lain yang membaca folder - yang merupakan ancaman realistis untuk rahasia pada disk.)

Apa yang masih tersisa — dan hanya atas perintahmu

"Local-first" tidak berarti "tidak ada yang pernah meninggalkan mesin Anda." Orkas mendokumentasikan setiap jalur jaringan: panggilan penyedia dan konektor yang Anda mulai, fitur terkelola yang Anda pilih, sinkronisasi opsional, dan analitik produk terbatas.

Model memanggil penyedia Anda sendiri. Permintaan dan balasan Anda berjalan langsung antara komputer Anda dan penyedia Kamu Dipilih. Mereka meninggalkan mesin Anda - tetapi mereka pergi ke penyedia Anda, bukan ke Orkas.
Panggilan konektor yang Anda otorisasi secara eksplisit. Ketika Anda menghubungkan GitHub, Notion, Google, dan sebagainya, panggilan tersebut masuk dari mesin Anda ke layanan tersebut. Token OAuth disimpan di perangkat Anda; untuk beberapa penyedia yang memutar token mereka pada setiap penyegaran, langkah penyegaran dikoordinasikan melalui Orkas sehingga perangkat Anda tidak saling berlomba - pengecualian yang sengaja sempit, didokumentasikan di tempat terbuka.
Sinkronisasi cloud, jika Anda menyalakannya. Sinkronisasi multi-perangkat adalah opt-in. Aktifkan dan data yang Anda pilih untuk disinkronkan disimpan di server Orkas sehingga tersedia di seluruh perangkat Anda. Matikan dan tidak ada yang disinkronkan.
Terbatas, analisis yang menghormati privasi. Acara penggunaan agregat (fitur mana yang digunakan) — tidak pernah permintaan, konten file, teks pesan, atau kredensial Anda.

Untuk jalur BYO, kunci penyedia Anda tetap lokal dan lalu lintas modelnya tidak menyentuh server Orkas. Model resmi yang dikelola, sinkronisasi, konektor, dan fitur cloud terpilih lainnya menggunakan layanan Orkas seperti yang dijelaskan di halaman Keamanan.

Mengapa lokal-pertama penting

Ini bukan teater privasi. Default "barang Anda tetap menjadi milik Anda" membeli beberapa hal konkret.

Berdaulat data. Percakapan Anda, file yang dibaca dan ditulis oleh agen, basis pengetahuan yang Anda bangun — mereka berada di disk Anda, di bawah kendali Anda. Anda dapat mencadangkannya, memeriksanya, atau menghapusnya, tanpa bertanya kepada siapa pun. Tidak ada basis data vendor yang menyimpan salinan kanonik.

Auditabilitas. Dengan penyedia Anda sendiri, Anda dapat membaca klien sumber terbuka, menonton jaringan, dan mengonfirmasi jalur prompt langsung. Fitur yang dikelola memiliki jalur terdokumentasi yang berbeda melalui layanan Orkas.

Pilihan model. Pilih model resmi terkelola opsional atau hubungkan penyedia Anda sendiri dan ganti modelnya saat dibutuhkan.

Transparansi biaya. Kemampuan yang dikelola mengkonsumsi kredit Orkas; penggunaan melalui kunci Anda sendiri ditagih langsung oleh penyedia tersebut.

Ketahanan. Karena inti berjalan di mesin Anda dan data Anda bersifat lokal, alat ini bukan satu pemadaman atau satu email produk yang dihentikan dari mengambil pekerjaan Anda bersamanya.

Lokal-pertama vs. model lokal sepenuhnya — sebuah klarifikasi

Satu perbedaan membuat orang tersandung cukup sering untuk menjadi layak untuk bagiannya sendiri. "AI lokal-pertama," "AI pada perangkat," dan "menjalankan LLM lokal" terkait tetapi tidak sama.

Menjalankan LLM lokal (Dengan sesuatu seperti Ollama) berarti Bobot model Jalankan pada perangkat keras Anda. Tidak ada — prompt atau balasan — yang meninggalkan mesin Anda sama sekali. Ini sangat pribadi, tetapi dibatasi oleh perangkat keras Anda, sehingga modelnya lebih kecil daripada yang ada di awan perbatasan.
AI Lokal-pertama Adalah tentang di mana kamu Data ruang kerja, kunci, dan bidang kontrol Hidup secara default. Lalu lintas model mengikuti jalur yang Anda pilih: Model resmi yang dikelola Orkas menggunakan layanan Orkas, sementara panggilan penyedia sendiri langsung ke penyedia tersebut.

Jadi mereka menyusun daripada bersaing: alat lokal-pertama yang juga mendukung model lokal memberi Anda postur privasi terkuat yang tersedia, sementara alat yang sama menunjuk ke API cloud memberi Anda kemampuan perbatasan dengan data Anda masih di bawah kendali Anda. Lokal-pertama adalah arsitektur; model lokal adalah salah satu mesin yang dapat Anda masukkan ke dalamnya.

Bagaimana cara mengetahui jika alat AI benar-benar lokal-pertama

Label digunakan secara longgar, jadi berikut adalah daftar periksa singkat yang dapat Anda terapkan pada alat apa pun yang mengklaimnya. Bertanya:

Di mana data ruang kerja berada secara default? Lokal-pertama berarti perangkat adalah sumber kebenaran bawaan.
Jalur jaringan mana yang ada? Produk yang dapat dipercaya membedakan panggilan BYO langsung dari model terkelola, sinkronisasi, konektor, dan lalu lintas analitik.
Apakah sinkronisasi opt-in? Data lokal-pertama tetap lokal sampai Anda sengaja mengaktifkan sinkronisasi.
Dapatkah saya memverifikasi klaimnya? Klien sumber terbuka memungkinkan Anda memeriksa kode dan perilaku jaringan.
Jalur model mana yang saya inginkan? BYO memberikan penagihan dan lalu lintas penyedia langsung; model terkelola menukar jalur itu untuk kenyamanan dan kredit Orkas.

Membungkus

Lokal-pertama adalah sikap tentang default: data ruang kerja dan kontrol dimulai di mesin Anda, sementara setiap fitur jaringan opsional memiliki jalur yang diungkapkan. Di Orkas, model resmi yang dikelola menggunakan layanan Orkas dan panggilan penyedia Anda sendiri langsung ke penyedia tersebut.

Jika Anda ingin melihat dengan tepat bagaimana ini diimplementasikan — siklus hidup kunci, enkripsi, daftar tepat dari apa yang tetap dan apa yang pergi — baca Halaman Keamanan & Kepercayaan; karena kliennya adalah sumber terbuka, tidak ada yang harus diambil berdasarkan keyakinan. Dan jika Anda menginginkan teknik di bawah agen itu sendiri, lihat Bagaimana satu agen dibangun untuk berjalan dengan andal di mesin Anda Dan Bagaimana agen utama mengoordinasikan tim sub-agen.