แอป AI ส่วนใหญ่ที่คุณใช้ในปัจจุบันเป็นไคลเอนต์ขนาดเล็กที่เชื่อมต่อคลาวด์ของผู้อื่น คุณพิมพ์พรอมป์ต์ มันก็ถูกส่งไปยังเซิร์ฟเวอร์ของพวกเขา ไฟล์ของคุณถูกอัปโหลดเพื่อให้โมเดลอ่านได้ ประวัติการสนทนาอยู่ในฐานข้อมูลของพวกเขา และคีย์ API — หากมีให้ใช้ — ก็เป็นของพวกเขา โดยคิดเงินคุณเพิ่มส่วนต่าง รูปแบบนี้สะดวก และเหมาะกับการใช้งานจำนวนมาก แต่แฝงสมมติฐานหนึ่งไว้อย่างเงียบ ๆ ว่าข้อมูล งาน และข้อมูลรับรองของคุณเป็นสิ่งที่ พวกเขามีสิทธิ์เก็บรักษา.
AI ที่ให้เครื่องผู้ใช้เป็นหลัก พลิกค่าเริ่มต้นนั้น บทความนี้อธิบายว่า “ให้เครื่องผู้ใช้เป็นหลัก” หมายถึงอะไรจริง ๆ อะไรเปลี่ยนไปเมื่อนำมาใช้กับ AI โดยเฉพาะ และจะตรวจสอบได้อย่างไรว่าเครื่องมือที่อ้างเช่นนั้นเป็นเช่นนั้นจริง Orkas สร้างขึ้นด้วยแนวทางนี้ เราจึงจะใช้เป็นตัวอย่างที่จับต้องได้ แต่แนวคิดเหล่านี้ใช้ได้กับเครื่องมือทุกตัวในประเภทนี้
หมายเหตุเรื่องขอบเขต ส่วนที่กล่าวถึงการใช้คีย์โดยตรงด้านล่างอธิบายเส้นทางเชื่อมต่อผู้ให้บริการของคุณเองใน Orkas นอกจากนี้ Orkas ยังมีโมเดลทางการแบบมีบริการจัดการให้เป็นทางเลือก โดยคำขอเหล่านั้นใช้บริการจัดการโมเดลของ Orkas การให้เครื่องผู้ใช้เป็นหลักอธิบายค่าเริ่มต้นและการควบคุมพื้นที่ทำงาน ไม่ได้กำหนดว่าคำขอโมเดลทุกครั้งต้องไม่ผ่าน Orkas
คำตอบสั้น ๆ
AI ที่ให้เครื่องผู้ใช้เป็นหลักคืออะไร?
การให้เครื่องผู้ใช้เป็นหลักอธิบายว่าข้อมูลพื้นที่ทำงานและระบบควบคุมอยู่ที่ใดโดยค่าเริ่มต้น ซึ่งก็คือบนอุปกรณ์ของคุณ ไม่ได้กำหนดว่าการเรียกโมเดลทุกครั้งต้องไม่ผ่านผู้พัฒนาแอป Orkas มีทั้งโมเดลทางการแบบมีบริการจัดการให้เป็นทางเลือก และเส้นทางเชื่อมต่อผู้ให้บริการของคุณเองโดยตรง
AI ที่ให้เครื่องผู้ใช้เป็นหลักเหมือนกับการรัน LLM ในเครื่องหรือไม่?
ไม่เหมือนกัน การให้เครื่องผู้ใช้เป็นหลักอธิบายว่าข้อมูล คีย์ และระบบควบคุมของคุณอยู่ที่ใด ซึ่งก็คือบนเครื่องของคุณ ตัวโมเดลยังอาจเป็น API บนคลาวด์ เช่น OpenAI หรือ Anthropic ได้ การรันโมเดลในเครื่องทั้งหมด (เช่น ด้วย Ollama) เป็นทางเลือกหนึ่งภายในการออกแบบที่ให้เครื่องผู้ใช้เป็นหลัก ไม่ใช่นิยามของมัน
การใช้คีย์ของคุณเอง (BYO-key) หมายถึงอะไร?
การใช้คีย์ของคุณเองหมายถึงการเชื่อมต่อผู้ให้บริการด้วยคีย์ API หรือบัญชี OAuth ของคุณเอง ในเส้นทางนี้ คีย์จะอยู่บนอุปกรณ์ของคุณ และการเรียกโมเดลจะส่งตรงไปยังผู้ให้บริการนั้น เป็นอีกทางเลือกนอกเหนือจากโมเดลทางการแบบมีบริการจัดการให้ของ Orkas
“ให้เครื่องผู้ใช้เป็นหลัก” หมายถึงอะไรจริง ๆ
คำนี้มาจากการออกแบบซอฟต์แวร์โดยทั่วไป ไม่ได้มาจาก AI หากสรุปให้เหลือแก่น แอปที่ให้เครื่องผู้ใช้เป็นหลักมีคุณสมบัติสามข้อ:
- ข้อมูลของคุณอยู่บนอุปกรณ์ของคุณโดยค่าเริ่มต้น เอกสาร ประวัติ การตั้งค่า — แหล่งข้อมูลหลักที่ยึดถือคือไฟล์บนดิสก์ของคุณเอง ไม่ใช่แถวข้อมูลในฐานข้อมูลระยะไกล
- แอปทำงานจากเครื่องของคุณ ฟีเจอร์หลักทำงานในเครื่อง ไม่ต้องส่งคำขอไปกลับกับเซิร์ฟเวอร์จึงจะทำงานได้
- เครือข่ายเป็นสิ่งที่เลือกเปิดใช้ ไม่ใช่รากฐาน การซิงก์ การแชร์ และการทำงานร่วมกันเป็นฟีเจอร์ที่คุณเปิดใช้ได้ ไม่ใช่องค์ประกอบพื้นฐานที่แอปขาดไม่ได้ ปิดสิ่งเหล่านี้แล้วแอปก็ยังทำงานได้
ลองเทียบกับค่าเริ่มต้นของ SaaS ที่ให้คลาวด์เป็นหลัก ซึ่งเซิร์ฟเวอร์เป็นแหล่งข้อมูลหลักและอุปกรณ์ของคุณเป็นเพียงหน้าต่างที่มองเข้าไป เมื่อปิดฝาแล็ปท็อปที่ใช้แอปแบบคลาวด์เป็นหลัก ข้อมูลของคุณก็ไม่เคยเป็นของคุณจริง ๆ ตั้งแต่ต้น มันอยู่บนโครงสร้างพื้นฐานของพวกเขามาตลอด อยู่ภายใต้ข้อกำหนดของพวกเขา และเจ้าหน้าที่ของพวกเขาหรือผู้มีหมายเรียกสามารถเข้าถึงได้ การให้เครื่องผู้ใช้เป็นหลักกลับภาระการพิสูจน์: ข้อมูลเป็นของคุณ เว้นแต่คุณจะตัดสินใจอย่างชัดเจนว่าจะส่งสำเนาไปที่ใด
อะไรเปลี่ยนไปเมื่อแอปเป็นเอเจนต์ AI
สำหรับเส้นทางเชื่อมต่อผู้ให้บริการของคุณเอง คุณสมบัติเหล่านี้สร้างประโยชน์ด้านความเป็นส่วนตัวเพิ่มอีกสองข้อ
ใช้คีย์ของคุณเอง (BYO-key) คุณให้ข้อมูลรับรองของผู้ให้บริการ — คีย์ API หรือการลงชื่อเข้าใช้ OAuth — และควบคุมโมเดล ขีดจำกัด และค่าใช้จ่ายของผู้ให้บริการนั้น ใน Orkas นี่เป็นทางเลือกนอกเหนือจากโมเดลทางการแบบมีบริการจัดการให้
การเรียกโมเดลแบบ BYO ส่งตรงถึงผู้ให้บริการ เมื่อเอเจนต์ใช้ผู้ให้บริการของคุณเอง คำขอจะส่งตรงจากเครื่องของคุณไปยังผู้ให้บริการนั้นโดยไม่ผ่าน Orkas ส่วนโมเดลทางการแบบมีบริการจัดการให้จะใช้บริการจัดการโมเดลของ Orkas
ควรอธิบายให้ชัดเจนตรงนี้ เพราะมักมีคนเข้าใจผิดว่า “AI รันในเครื่อง” การให้เครื่องผู้ใช้เป็นหลัก ไม่ได้ หมายความว่าตัวโมเดลเองรันบนแล็ปท็อปของคุณ (แม้จะทำได้ ซึ่งจะกล่าวถึงด้านล่าง) ตัว โมเดล ยังอาจเป็น API บนคลาวด์ขนาดใหญ่ได้ สิ่งที่อยู่ในเครื่องคือทุกอย่าง ที่แวดล้อม โมเดล: ข้อมูล คีย์ การตั้งค่าเอเจนต์ และระบบควบคุมที่ตัดสินใจว่าจะส่งอะไรและเมื่อใด การให้เครื่องผู้ใช้เป็นหลักเกี่ยวกับว่าใครถือครองสิ่งต่าง ๆ ของคุณ ไม่ใช่ว่า GPU อยู่ที่ไหน
สิ่งต่าง ๆ ของคุณอยู่ที่ไหนจริง ๆ
ในทางปฏิบัติ สำหรับเอเจนต์ที่ให้เครื่องผู้ใช้เป็นหลักอย่าง Orkas สิ่งที่อยู่กับที่และสิ่งที่ส่งออกได้แบ่งดังนี้
อยู่บนเครื่องของคุณเองโดยค่าเริ่มต้น:
- ของคุณ คีย์ API และโทเค็น OAuth — เข้ารหัสขณะจัดเก็บและไม่รวมอยู่ในการซิงก์ใด ๆ
- ของคุณ ประวัติแชต แผน และไฟล์ที่สร้างขึ้น.
- ของคุณ การตั้งค่าเอเจนต์ ทักษะ และฐานความรู้.
- ของคุณ ความทรงจำส่วนบุคคล — ความชอบและข้อเท็จจริงที่เอเจนต์เรียนรู้เกี่ยวกับคุณ
การจัดการข้อมูลรับรองควรพิจารณาให้ละเอียดขึ้น เพราะคีย์เป็นสิ่งที่อ่อนไหวที่สุดที่เครื่องมือ AI สัมผัส วงจรชีวิตของคีย์ในแอปที่ให้เครื่องผู้ใช้เป็นหลักและออกแบบมาดีนั้นสั้นและอยู่ในขอบเขตจำกัด:
1. คุณเพิ่มคีย์ → วางคีย์ API (หรือลงชื่อเข้าใช้ด้วย OAuth) บนอุปกรณ์
2. เข้ารหัสขณะจัดเก็บ → ปิดผนึกด้วย AES-256-GCM ที่มีการยืนยันความถูกต้องก่อนแตะดิสก์
3. จัดเก็บในเครื่อง → เขียนลงไฟล์การตั้งค่าส่วนตัวของเครื่อง โดยไม่รวมในการซิงก์
4. ใช้งานโดยตรง → ถอดรหัสในหน่วยความจำเพื่อเรียกผู้ให้บริการของคุณจากเครื่องของคุณโดยตรงเท่านั้นคีย์จะไม่ถูกส่งผ่านเครือข่ายไปยังผู้พัฒนาแอปเลย ทั้งขณะจัดเก็บ ขณะส่ง หรือในข้อมูลการวัดระบบ (การเข้ารหัสที่มีการยืนยันความถูกต้องอย่าง AES-256-GCM ยังทำให้ตรวจพบการดัดแปลงได้ด้วย และช่วยป้องกันการเปิดเผยโดยไม่ตั้งใจ เช่น บันทึกระบบที่หลุดออกมา การสำรองข้อมูลที่ใช้ OCR หรือแอปอื่นที่อ่านโฟลเดอร์ ซึ่งเป็นภัยคุกคามที่เกิดขึ้นได้จริงต่อข้อมูลลับบนดิสก์)
สิ่งที่ยังออกจากเครื่อง — และออกได้ตามคำสั่งของคุณเท่านั้น
“ให้เครื่องผู้ใช้เป็นหลัก” ไม่ได้หมายความว่า “ไม่มีอะไรออกจากเครื่องของคุณเลย” Orkas ระบุเส้นทางเครือข่ายแต่ละแบบไว้ในเอกสาร ได้แก่ การเรียกผู้ให้บริการและตัวเชื่อมต่อที่คุณเริ่มต้น ฟีเจอร์แบบมีบริการจัดการที่คุณเลือก การซิงก์ที่เลือกเปิดได้ และการวิเคราะห์ผลิตภัณฑ์ในขอบเขตจำกัด
- การเรียกโมเดลไปยังผู้ให้บริการของคุณเอง พรอมป์ต์และคำตอบของคุณเดินทางโดยตรงระหว่างคอมพิวเตอร์ของคุณกับผู้ให้บริการที่ คุณ เลือก ข้อมูลออกจากเครื่องของคุณ แต่ไปยังผู้ให้บริการของคุณ ไม่ใช่ Orkas
- การเรียกตัวเชื่อมต่อที่คุณอนุญาตอย่างชัดเจน เมื่อคุณเชื่อมต่อ GitHub, Notion, Google และบริการอื่น ๆ การเรียกเหล่านั้นจะส่งจากเครื่องของคุณไปยังบริการนั้น โทเค็น OAuth เก็บไว้บนอุปกรณ์ของคุณ สำหรับผู้ให้บริการไม่กี่รายที่เปลี่ยนโทเค็นทุกครั้งที่รีเฟรช ขั้นตอนรีเฟรชจะประสานงานผ่าน Orkas เพื่อไม่ให้อุปกรณ์ของคุณทำงานแข่งกัน นี่เป็นข้อยกเว้นที่จงใจจำกัดให้แคบและระบุไว้ในเอกสารอย่างเปิดเผย
- การซิงก์บนคลาวด์ หากคุณเปิดใช้ การซิงก์หลายอุปกรณ์ต้องเลือกเปิดใช้ เมื่อเปิด ข้อมูลที่คุณเลือกซิงก์จะเก็บไว้บนเซิร์ฟเวอร์ Orkas เพื่อให้ใช้ได้บนอุปกรณ์ต่าง ๆ ของคุณ หากไม่เปิด ก็ไม่มีการซิงก์
- การวิเคราะห์ในขอบเขตจำกัดที่เคารพความเป็นส่วนตัว เหตุการณ์การใช้งานแบบรวม (ฟีเจอร์ใดถูกใช้งานบ้าง) โดยไม่มีพรอมป์ต์ เนื้อหาไฟล์ ข้อความ หรือข้อมูลรับรองของคุณเด็ดขาด
สำหรับเส้นทาง BYO คีย์ผู้ให้บริการของคุณอยู่ในเครื่อง และการรับส่งข้อมูลโมเดลไม่ผ่านเซิร์ฟเวอร์ Orkas ส่วนโมเดลทางการแบบมีบริการจัดการให้ การซิงก์ ตัวเชื่อมต่อ และฟีเจอร์คลาวด์อื่นที่เลือกใช้ จะใช้บริการ Orkas ตามที่อธิบายไว้ในหน้าความปลอดภัย
เหตุใดการให้เครื่องผู้ใช้เป็นหลักจึงสำคัญ
นี่ไม่ใช่การสร้างภาพเรื่องความเป็นส่วนตัว ค่าเริ่มต้นที่ว่า “สิ่งของคุณยังเป็นของคุณ” ให้ประโยชน์ที่จับต้องได้หลายอย่าง
อำนาจควบคุมข้อมูลของตนเอง บทสนทนา ไฟล์ที่เอเจนต์อ่านและเขียน ฐานความรู้ที่คุณสร้าง ทั้งหมดอยู่บนดิสก์ของคุณ ภายใต้การควบคุมของคุณ คุณสำรอง ตรวจสอบ หรือลบได้โดยไม่ต้องขอใคร ไม่มีฐานข้อมูลของผู้ให้บริการที่ถือครองสำเนาหลัก
ความสามารถในการตรวจสอบ เมื่อใช้ผู้ให้บริการของคุณเอง คุณอ่านไคลเอนต์โอเพนซอร์ส เฝ้าดูเครือข่าย และยืนยันเส้นทางส่งพรอมป์ต์โดยตรงได้ ฟีเจอร์แบบมีบริการจัดการมีเส้นทางผ่านบริการ Orkas ที่แตกต่างออกไปและระบุไว้ในเอกสาร
การเลือกโมเดล เลือกโมเดลทางการแบบมีบริการจัดการให้ หรือเชื่อมต่อผู้ให้บริการของคุณเองและเปลี่ยนโมเดลของผู้ให้บริการนั้นได้ตามต้องการ
ความโปร่งใสด้านค่าใช้จ่าย ความสามารถแบบมีบริการจัดการใช้เครดิต Orkas ส่วนการใช้งานผ่านคีย์ของคุณเอง ผู้ให้บริการนั้นจะเรียกเก็บเงินโดยตรง
ความทนทานต่อเหตุขัดข้อง เพราะส่วนหลักทำงานบนเครื่องของคุณและข้อมูลอยู่ในเครื่อง การหยุดให้บริการครั้งเดียวหรืออีเมลประกาศยุติผลิตภัณฑ์ฉบับเดียวจึงไม่ทำให้เครื่องมือนี้พางานของคุณหายไปด้วย
การให้เครื่องผู้ใช้เป็นหลักกับโมเดลที่อยู่ในเครื่องทั้งหมด — อธิบายให้ชัดเจน
มีความแตกต่างหนึ่งที่ทำให้ผู้คนสับสนบ่อยจนควรแยกอธิบายเป็นหัวข้อ “AI ที่ให้เครื่องผู้ใช้เป็นหลัก” “AI บนอุปกรณ์” และ “การรัน LLM ในเครื่อง” เกี่ยวข้องกัน แต่ไม่เหมือนกัน
- การรัน LLM ในเครื่อง (ด้วยเครื่องมืออย่าง Ollama) หมายถึง ค่าน้ำหนักของโมเดล ทำงานบนฮาร์ดแวร์ของคุณ ไม่มีอะไรออกจากเครื่องเลย ไม่ว่าจะเป็นพรอมป์ต์หรือคำตอบ เป็นส่วนตัวสูงสุด แต่ถูกจำกัดด้วยฮาร์ดแวร์ของคุณ โมเดลจึงเล็กกว่าโมเดลคลาวด์ชั้นแนวหน้า
- AI ที่ให้เครื่องผู้ใช้เป็นหลัก เกี่ยวกับว่าของคุณ ทั้ง ข้อมูลพื้นที่ทำงาน คีย์ และระบบควบคุม อยู่ที่ใดโดยค่าเริ่มต้น การรับส่งข้อมูลโมเดลเป็นไปตามเส้นทางที่คุณเลือก: โมเดลทางการที่ Orkas จัดการใช้บริการ Orkas ส่วนการเรียกผู้ให้บริการของคุณเองจะส่งตรงไปยังผู้ให้บริการนั้น
ดังนั้นทั้งสองจึงเสริมกันแทนที่จะแข่งขันกัน เครื่องมือที่ให้เครื่องผู้ใช้เป็นหลักและรองรับโมเดลในเครื่องด้วยให้ความเป็นส่วนตัวที่แข็งแกร่งที่สุดเท่าที่มี ขณะที่เครื่องมือเดียวกันเมื่อเชื่อมต่อ API บนคลาวด์ก็ให้ความสามารถระดับแนวหน้า โดยข้อมูลยังอยู่ภายใต้การควบคุมของคุณ การให้เครื่องผู้ใช้เป็นหลักคือสถาปัตยกรรม ส่วนโมเดลในเครื่องเป็นหนึ่งในเครื่องยนต์ที่คุณใส่เข้าไปได้
จะดูอย่างไรว่าเครื่องมือ AI ให้เครื่องผู้ใช้เป็นหลักจริงหรือไม่
คำนี้ถูกใช้กันอย่างหลวม ๆ นี่จึงเป็นรายการตรวจสอบสั้น ๆ ที่ใช้กับเครื่องมือใดก็ตามที่อ้างเช่นนั้นได้ ลองถามว่า:
- ข้อมูลพื้นที่ทำงานอยู่ที่ไหนโดยค่าเริ่มต้น? การให้เครื่องผู้ใช้เป็นหลักหมายถึงอุปกรณ์เป็นแหล่งข้อมูลหลักโดยค่าเริ่มต้น
- มีเส้นทางเครือข่ายใดบ้าง? ผลิตภัณฑ์ที่น่าเชื่อถือแยกการเรียกแบบ BYO โดยตรงออกจากการรับส่งข้อมูลของโมเดลแบบมีบริการจัดการ การซิงก์ ตัวเชื่อมต่อ และการวิเคราะห์
- การซิงก์ต้องเลือกเปิดใช้หรือไม่? ข้อมูลแบบให้เครื่องผู้ใช้เป็นหลักจะอยู่ในเครื่องจนกว่าคุณจะตั้งใจเปิดการซิงก์
- ฉันตรวจสอบคำกล่าวอ้างได้หรือไม่? ไคลเอนต์โอเพนซอร์สให้คุณตรวจสอบโค้ดและพฤติกรรมเครือข่ายได้
- ฉันต้องการใช้โมเดลผ่านเส้นทางใด? BYO ให้การเรียกเก็บเงินและการรับส่งข้อมูลโดยตรงกับผู้ให้บริการ ส่วนโมเดลแบบมีบริการจัดการแลกเส้นทางนั้นกับความสะดวกและการใช้เครดิต Orkas
ส่งท้าย
การให้เครื่องผู้ใช้เป็นหลักคือจุดยืนเรื่องค่าเริ่มต้น: ข้อมูลพื้นที่ทำงานและการควบคุมเริ่มต้นบนเครื่องของคุณ ส่วนฟีเจอร์เครือข่ายที่เลือกใช้แต่ละอย่างมีเส้นทางที่เปิดเผยไว้ ใน Orkas โมเดลทางการแบบมีบริการจัดการใช้บริการ Orkas และการเรียกผู้ให้บริการของคุณเองจะส่งตรงไปยังผู้ให้บริการนั้น
หากต้องการดูรายละเอียดว่าระบบนี้ทำงานอย่างไร ตั้งแต่วงจรชีวิตของคีย์ การเข้ารหัส ไปจนถึงรายการที่ชัดเจนว่าอะไรอยู่ในเครื่องและอะไรออกจากเครื่อง โปรดอ่าน หน้าความปลอดภัยและความน่าเชื่อถือ เพราะไคลเอนต์เป็นโอเพนซอร์ส คุณจึงไม่จำเป็นต้องเชื่อสิ่งใดโดยไม่มีหลักฐาน และหากต้องการอ่านเรื่องวิศวกรรมเบื้องหลังตัวเอเจนต์ โปรดดู วิธีสร้างเอเจนต์เดี่ยวให้ทำงานอย่างน่าเชื่อถือบนเครื่องของคุณ และ เอเจนต์หัวหน้าประสานงานทีมเอเจนต์ย่อยอย่างไร.