Orkas Orkas
डाउनलोड GitHub
मुखपृष्ठ ब्लॉग उत्पाद
उत्पाद

स्थानीय संचालन को प्राथमिकता देने वाला AI क्या है? आपका डेटा, आपकी कुंजियाँ, आपकी मशीन

स्थानीय-प्रथम AI का अर्थ: कार्यक्षेत्र का डेटा डिफ़ॉल्ट रूप से स्थानीय रहता है, जबकि मॉडल तक पहुँच के लिए प्रबंधित आधिकारिक मॉडल या अपना प्रदाता सीधे जोड़ने का रास्ता इस्तेमाल किया जा सकता है।

आज आप जिन अधिकांश AI ऐप का उपयोग करते हैं, वे किसी और के क्लाउड से जुड़े हल्के क्लाइंट हैं। आप प्रॉम्प्ट लिखते हैं, वह उनके सर्वर पर जाता है; आपकी फ़ाइलें अपलोड होती हैं ताकि मॉडल उन्हें पढ़ सके; आपकी बातचीत का इतिहास उनके डेटाबेस में रहता है; और API कुंजी — अगर कोई है भी — उनकी होती है, जिसका शुल्क मुनाफ़ा जोड़कर आपसे लिया जाता है। यह व्यवस्था सुविधाजनक है, और कई उपयोगों के लिए ठीक भी है। लेकिन यह चुपचाप एक बात मान लेती है: कि आपका डेटा, आपका काम और आपके क्रेडेंशियल उनके पास रखने के लिए हैं.

स्थानीय-प्रथम AI इस डिफ़ॉल्ट को उलट देता है। यह लेख समझाता है कि “स्थानीय-प्रथम” का वास्तविक अर्थ क्या है, इसे खास तौर पर AI पर लागू करने से क्या बदलता है, और कैसे जानें कि स्थानीय-प्रथम होने का दावा करने वाला टूल वास्तव में ऐसा है या नहीं। Orkas इसी तरह बनाया गया है, इसलिए हम इसे ठोस उदाहरण के रूप में इस्तेमाल करेंगे — लेकिन ये विचार इस श्रेणी के किसी भी टूल पर लागू होते हैं।

दायरे संबंधी टिप्पणी। नीचे सीधे कुंजी इस्तेमाल करने वाले खंड Orkas में अपना प्रदाता जोड़ने के रास्ते का वर्णन करते हैं। Orkas वैकल्पिक प्रबंधित आधिकारिक मॉडल भी देता है; उनके अनुरोध Orkas की प्रबंधित मॉडल सेवा का उपयोग करते हैं। स्थानीय-प्रथम कार्यक्षेत्र के डिफ़ॉल्ट और नियंत्रण का वर्णन करता है, यह अनिवार्य नहीं करता कि हर मॉडल अनुरोध Orkas को बायपास करे।

संक्षिप्त विवरण स्थानीय-प्रथम का संबंध इस बात से है कि आपका कार्यक्षेत्र कहाँ रहता है, न कि मॉडल कहाँ चलता है Orkas डिफ़ॉल्ट रूप से चैट, एजेंट कॉन्फ़िगरेशन और कुंजियाँ आपकी मशीन पर रखता है, जबकि मॉडल कॉल आपके चुने हुए प्रदाता के पास जाती है। ऐप में यह कैसा दिखता है, देखें यहाँ: स्थानीय-प्रथम AI एजेंट पृष्ठ पर।
Orkas डाउनलोड करें — मुफ़्त

संक्षिप्त उत्तर

स्थानीय-प्रथम AI क्या है?

स्थानीय-प्रथम बताता है कि कार्यक्षेत्र का डेटा और नियंत्रण तंत्र डिफ़ॉल्ट रूप से कहाँ रहते हैं: आपके डिवाइस पर। इसमें यह ज़रूरी नहीं कि हर मॉडल कॉल ऐप विक्रेता को बायपास करे। Orkas वैकल्पिक प्रबंधित आधिकारिक मॉडल और अपना प्रदाता सीधे जोड़ने का रास्ता, दोनों देता है।

क्या स्थानीय-प्रथम AI और स्थानीय LLM चलाना एक ही बात है?

नहीं। स्थानीय-प्रथम बताता है कि आपका डेटा, कुंजियाँ और नियंत्रण तंत्र कहाँ रहते हैं — आपकी मशीन पर। मॉडल फिर भी OpenAI या Anthropic जैसी क्लाउड API हो सकता है। पूरी तरह स्थानीय मॉडल चलाना (उदाहरण के लिए Ollama के साथ) स्थानीय-प्रथम डिज़ाइन के भीतर एक विकल्प है, उसकी परिभाषा नहीं।

अपनी कुंजी लाने (BYO-key) का क्या अर्थ है?

अपनी कुंजी लाने का अर्थ है कि आप अपनी API कुंजी या OAuth खाते से किसी प्रदाता को जोड़ते हैं। इस रास्ते में कुंजी आपके डिवाइस पर रहती है और मॉडल कॉल सीधे उस प्रदाता के पास जाती हैं। यह Orkas के वैकल्पिक प्रबंधित आधिकारिक मॉडलों का एक विकल्प है।

“स्थानीय-प्रथम” का वास्तविक अर्थ

यह शब्द सामान्य सॉफ़्टवेयर डिज़ाइन से आया है, AI से नहीं। बुनियादी तौर पर, स्थानीय-प्रथम ऐप में तीन गुण होते हैं:

  1. आपका डेटा डिफ़ॉल्ट रूप से आपके डिवाइस पर रहता है। दस्तावेज़, इतिहास, सेटिंग्स — प्रामाणिक स्रोत आपकी अपनी डिस्क पर मौजूद फ़ाइल होती है, किसी दूरस्थ डेटाबेस की पंक्ति नहीं।
  2. ऐप आपकी मशीन से काम करता है। मुख्य सुविधाएँ स्थानीय रूप से चलती हैं; काम करने के लिए उन्हें सर्वर तक अनुरोध भेजकर जवाब आने की ज़रूरत नहीं होती।
  3. नेटवर्क वैकल्पिक है, आधार नहीं। सिंक, साझाकरण और सहयोग ऐसी सुविधाएँ हैं जिन्हें आप चालू कर सकते हैं — ऐप का मूल आधार नहीं। इन्हें बंद कर दें, तब भी ऐप काम करता है।

इसकी तुलना क्लाउड-प्रथम SaaS के डिफ़ॉल्ट से करें, जहाँ सर्वर प्रामाणिक स्रोत होता है और आपका डिवाइस उसे देखने की बस एक खिड़की। क्लाउड-प्रथम ऐप इस्तेमाल करते हुए लैपटॉप बंद करें, तो सच यह है कि आपका डेटा शुरू से ही पूरी तरह आपका नहीं था; वह हमेशा उनके बुनियादी ढाँचे पर, उनकी शर्तों के अधीन, उनके कर्मचारियों और कानूनी समन की पहुँच में था। स्थानीय-प्रथम प्रमाण देने की ज़िम्मेदारी उलट देता है: डेटा आपका है, जब तक आप स्पष्ट रूप से उसकी प्रति कहीं भेजने का निर्णय न लें।

जब ऐप एक AI एजेंट हो, तो क्या बदलता है

अपना प्रदाता जोड़ने के रास्ते में ये गुण गोपनीयता के दो अतिरिक्त लाभ देते हैं।

अपनी कुंजी लाएँ (BYO-key)। आप प्रदाता का क्रेडेंशियल — API कुंजी या OAuth साइन-इन — देते हैं और उस प्रदाता के मॉडल, सीमाएँ और बिल नियंत्रित करते हैं। Orkas में यह वैकल्पिक प्रबंधित आधिकारिक मॉडलों का एक विकल्प है।

BYO मॉडल कॉल सीधे जाती हैं। जब कोई एजेंट आपके अपने प्रदाता का उपयोग करता है, तो अनुरोध आपकी मशीन से सीधे उस प्रदाता के पास जाता है और Orkas से होकर नहीं गुज़रता। प्रबंधित आधिकारिक मॉडल इसके बजाय Orkas की प्रबंधित मॉडल सेवा इस्तेमाल करते हैं।

यहाँ सटीक होना ज़रूरी है, क्योंकि “AI स्थानीय रूप से चलता है” एक आम गलतफ़हमी है। स्थानीय-प्रथम का नहीं अर्थ यह नहीं है कि मॉडल स्वयं आपके लैपटॉप पर चलता है (हालाँकि ऐसा हो सकता है — इस पर नीचे और बताएँगे)। मॉडल फिर भी एक विशाल क्लाउड API हो सकता है। स्थानीय वह सब कुछ है जो इसके आसपास है: मॉडल के आसपास — आपका डेटा, आपकी कुंजियाँ, आपका एजेंट कॉन्फ़िगरेशन और वह नियंत्रण तंत्र जो तय करता है कि क्या और कब भेजना है। स्थानीय-प्रथम का संबंध इस बात से है कि आपकी चीज़ें किसके पास हैं, GPU कहाँ है इससे नहीं।

आपकी चीज़ें वास्तव में कहाँ रहती हैं

ठोस तौर पर, Orkas जैसे स्थानीय-प्रथम एजेंट में क्या अपनी जगह रहता है और क्या बाहर जा सकता है, इसका विभाजन यह है।

डिफ़ॉल्ट रूप से, आपकी अपनी मशीन पर:

  • आपके API कुंजियाँ और OAuth टोकन — संग्रहित अवस्था में एन्क्रिप्ट किए गए और किसी भी सिंक से बाहर रखे गए।
  • आपके चैट का इतिहास, योजनाएँ और बनाई गई फ़ाइलें.
  • आपके एजेंट कॉन्फ़िगरेशन, कौशल और ज्ञान आधार.
  • आपके व्यक्तिगत स्मृति — वे प्राथमिकताएँ और तथ्य जो एजेंट ने आपके बारे में सीखे हैं।

क्रेडेंशियल संभालने की प्रक्रिया को करीब से देखना ज़रूरी है, क्योंकि किसी AI टूल के संपर्क में आने वाली सबसे संवेदनशील चीज़ कुंजियाँ होती हैं। अच्छी तरह बने स्थानीय-प्रथम ऐप में कुंजी का जीवनचक्र छोटा और सीमित होता है:

1. आप इसे जोड़ते हैं        →  डिवाइस पर API कुंजी पेस्ट करते हैं (या OAuth से साइन इन करते हैं)
2. संग्रहित अवस्था में एन्क्रिप्शन →  डिस्क तक पहुँचने से पहले प्रमाणीकृत AES-256-GCM से सुरक्षित की जाती है
3. स्थानीय संग्रहण    →  मशीन की निजी कॉन्फ़िगरेशन फ़ाइल में लिखी जाती है, सिंक से बाहर रखी जाती है
4. सीधे उपयोग     →  केवल आपके प्रदाता को आपकी मशीन से सीधे कॉल करने के लिए मेमोरी में डिक्रिप्ट की जाती है

कुंजी नेटवर्क से कभी ऐप विक्रेता तक नहीं जाती — न संग्रहित अवस्था में, न भेजे जाते समय, न टेलीमेट्री में। (AES-256-GCM जैसा प्रमाणीकृत एन्क्रिप्शन छेड़छाड़ का पता लगाना भी संभव बनाता है; यह अनजाने खुलासे से बचाता है — किसी लॉग में दर्ज हो जाना, OCR चलाने वाला बैकअप, किसी दूसरे ऐप का फ़ोल्डर पढ़ना — जो डिस्क पर रखे गोपनीय डेटा के लिए वास्तविक खतरे हैं।)

क्या फिर भी बाहर जाता है — और केवल आपके निर्देश पर

“स्थानीय-प्रथम” का अर्थ “आपकी मशीन से कभी कुछ बाहर नहीं जाता” नहीं है। Orkas हर नेटवर्क रास्ते का दस्तावेज़ देता है: आपके शुरू किए गए प्रदाता और कनेक्टर कॉल, आपके चुने हुए प्रबंधित फ़ीचर, वैकल्पिक सिंक और सीमित उत्पाद विश्लेषिकी।

  • आपके अपने प्रदाता को की गई मॉडल कॉल। आपके प्रॉम्प्ट और उत्तर सीधे आपके कंप्यूटर और उस प्रदाता के बीच आते-जाते हैं जिसे आपने चुना है। वे आपकी मशीन से बाहर जाते हैं — लेकिन आपके प्रदाता के पास, Orkas के पास नहीं।
  • वे कनेक्टर कॉल जिन्हें आप स्पष्ट अनुमति देते हैं। जब आप GitHub, Notion, Google वगैरह को जोड़ते हैं, तो वे कॉल आपकी मशीन से उस सेवा तक जाती हैं। OAuth टोकन आपके डिवाइस पर संग्रहित होते हैं; कुछ प्रदाताओं के मामले में, जो हर रिफ़्रेश पर अपने टोकन बदलते हैं, रिफ़्रेश चरण Orkas के ज़रिए समन्वित होता है ताकि आपके डिवाइस एक-दूसरे से प्रतिस्पर्धा न करें — यह जानबूझकर सीमित रखा गया अपवाद है, जिसका खुले तौर पर दस्तावेज़ दिया गया है।
  • क्लाउड सिंक, अगर आप इसे चालू करें। कई डिवाइस के बीच सिंक वैकल्पिक है। इसे चालू करने पर आप जिस डेटा को सिंक करना चुनते हैं, वह Orkas सर्वर पर संग्रहित होता है ताकि आपके सभी डिवाइस पर उपलब्ध रहे। इसे बंद रखें, तो कुछ भी सिंक नहीं होता।
  • सीमित, गोपनीयता का सम्मान करने वाली विश्लेषिकी। समेकित उपयोग घटनाएँ (कौन-सी सुविधाएँ इस्तेमाल होती हैं) — कभी भी आपके प्रॉम्प्ट, फ़ाइलों की सामग्री, संदेशों का पाठ या क्रेडेंशियल नहीं।

BYO रास्ते में आपके प्रदाता की कुंजी स्थानीय रहती है और उसका मॉडल ट्रैफ़िक Orkas सर्वर तक नहीं पहुँचता। प्रबंधित आधिकारिक मॉडल, सिंक, कनेक्टर और अन्य चुनी हुई क्लाउड सुविधाएँ सुरक्षा पृष्ठ पर बताए अनुसार Orkas सेवाओं का उपयोग करती हैं।

स्थानीय-प्रथम क्यों मायने रखता है

यह गोपनीयता का दिखावा नहीं है। “आपकी चीज़ें आपकी ही रहें” का डिफ़ॉल्ट कई ठोस लाभ देता है।

डेटा पर संप्रभुता। आपकी बातचीत, एजेंट जिन फ़ाइलों को पढ़ता और लिखता है, आपका बनाया ज्ञान आधार — सब आपकी डिस्क पर, आपके नियंत्रण में रहते हैं। आप किसी से पूछे बिना उनका बैकअप ले सकते हैं, जाँच कर सकते हैं या उन्हें मिटा सकते हैं। कोई विक्रेता डेटाबेस प्रामाणिक प्रति अपने पास नहीं रखता।

जाँच की सुविधा। अपने प्रदाता के साथ, आप ओपन-सोर्स क्लाइंट का कोड पढ़ सकते हैं, नेटवर्क देख सकते हैं और प्रॉम्प्ट के सीधे रास्ते की पुष्टि कर सकते हैं। प्रबंधित सुविधाओं का Orkas सेवाओं से होकर जाने वाला अलग, दस्तावेज़ित रास्ता है।

मॉडल का विकल्प। वैकल्पिक प्रबंधित आधिकारिक मॉडल चुनें या अपना प्रदाता जोड़ें और ज़रूरत के मुताबिक उसके मॉडल बदलें।

लागत में पारदर्शिता। प्रबंधित क्षमताएँ Orkas क्रेडिट खर्च करती हैं; आपकी अपनी कुंजी से किए गए उपयोग का बिल सीधे वह प्रदाता देता है।

विपरीत परिस्थितियों में टिकाऊपन। चूँकि मूल तंत्र आपकी मशीन पर चलता है और आपका डेटा स्थानीय है, इसलिए किसी एक सेवा-बाधा या उत्पाद बंद होने वाले ईमेल से यह टूल आपका काम अपने साथ लेकर ग़ायब नहीं हो जाता।

स्थानीय-प्रथम बनाम पूरी तरह स्थानीय मॉडल — एक स्पष्टीकरण

एक अंतर अक्सर लोगों को उलझाता है, इसलिए उसका अलग खंड होना चाहिए। “स्थानीय-प्रथम AI”, “डिवाइस पर चलने वाला AI” और “स्थानीय LLM चलाना” आपस में संबंधित हैं, लेकिन एक जैसे नहीं।

  • स्थानीय LLM चलाने का (Ollama जैसे किसी टूल के साथ) अर्थ है कि मॉडल वेट आपके हार्डवेयर पर चलते हैं। कुछ भी — प्रॉम्प्ट या उत्तर — आपकी मशीन से बाहर नहीं जाता। यह अधिकतम गोपनीयता देता है, लेकिन आपके हार्डवेयर की सीमा में रहता है, इसलिए मॉडल अत्याधुनिक क्लाउड मॉडलों से छोटे होते हैं।
  • स्थानीय-प्रथम AI का संबंध इस बात से है कि आपके कार्यक्षेत्र का डेटा, कुंजियाँ और नियंत्रण तंत्र डिफ़ॉल्ट रूप से कहाँ रहते हैं। मॉडल ट्रैफ़िक आपके चुने रास्ते पर चलता है: Orkas द्वारा प्रबंधित आधिकारिक मॉडल Orkas सेवाओं का उपयोग करते हैं, जबकि अपने प्रदाता की कॉल सीधे उस प्रदाता के पास जाती हैं।

इसलिए ये एक-दूसरे से प्रतिस्पर्धा करने के बजाय साथ काम करते हैं: ऐसा स्थानीय-प्रथम टूल जो स्थानीय मॉडल का भी समर्थन करता हो, आपको उपलब्ध सबसे मज़बूत गोपनीयता देता है, जबकि वही टूल क्लाउड API से जुड़ने पर अत्याधुनिक क्षमता देता है और आपका डेटा फिर भी आपके नियंत्रण में रहता है। स्थानीय-प्रथम वास्तु-संरचना है; स्थानीय मॉडल उन इंजनों में से एक है जिन्हें आप उसमें लगा सकते हैं।

कैसे जानें कि कोई AI टूल वास्तव में स्थानीय-प्रथम है

यह लेबल ढीले अर्थ में इस्तेमाल होता है, इसलिए यह छोटी जाँच-सूची किसी भी दावा करने वाले टूल पर लागू करें। पूछें:

  • कार्यक्षेत्र का डेटा डिफ़ॉल्ट रूप से कहाँ रहता है? स्थानीय-प्रथम का अर्थ है कि डिवाइस डिफ़ॉल्ट प्रामाणिक स्रोत है।
  • कौन-कौन से नेटवर्क रास्ते मौजूद हैं? भरोसेमंद उत्पाद सीधे BYO कॉल को प्रबंधित मॉडल, सिंक, कनेक्टर और विश्लेषिकी ट्रैफ़िक से अलग स्पष्ट करता है।
  • क्या सिंक वैकल्पिक है? स्थानीय-प्रथम डेटा तब तक स्थानीय रहता है जब तक आप जानबूझकर सिंक्रनाइज़ेशन चालू न करें।
  • क्या मैं दावों की पुष्टि कर सकता हूँ? ओपन-सोर्स क्लाइंट आपको कोड और नेटवर्क व्यवहार जाँचने देते हैं।
  • मुझे मॉडल का कौन-सा रास्ता चाहिए? BYO में बिलिंग और ट्रैफ़िक सीधे प्रदाता से जुड़े होते हैं; प्रबंधित मॉडल उस रास्ते के बदले सुविधा और Orkas क्रेडिट का उपयोग देते हैं।

समापन

स्थानीय-प्रथम डिफ़ॉल्ट के बारे में एक दृष्टिकोण है: कार्यक्षेत्र का डेटा और नियंत्रण आपकी मशीन से शुरू होते हैं, जबकि हर वैकल्पिक नेटवर्क सुविधा का रास्ता स्पष्ट बताया जाता है। Orkas में प्रबंधित आधिकारिक मॉडल Orkas सेवाओं का उपयोग करते हैं और आपके अपने प्रदाता की कॉल सीधे उस प्रदाता तक जाती हैं।

अगर आप ठीक-ठीक देखना चाहते हैं कि इसे कैसे लागू किया गया है — कुंजी का जीवनचक्र, एन्क्रिप्शन, क्या रहता है और क्या बाहर जाता है इसकी सटीक सूची — तो पढ़ें सुरक्षा और भरोसा पृष्ठ; चूँकि क्लाइंट ओपन सोर्स है, इसलिए इनमें से किसी बात पर आँख मूँदकर भरोसा करने की ज़रूरत नहीं। और अगर आप एजेंट के भीतर की इंजीनियरिंग जानना चाहते हैं, तो देखें एक एजेंट को आपकी मशीन पर भरोसेमंद ढंग से चलने के लिए कैसे बनाया जाता है और मुख्य एजेंट उप-एजेंटों की टीम का समन्वय कैसे करता है.