Che cos’è l’IA local-first? I tuoi dati, le tue chiavi, il tuo computer

La maggior parte delle app di IA che usi oggi sono client leggeri collegati al cloud di qualcun altro. Scrivi un prompt e questo viene inviato ai loro server; i tuoi file vengono caricati affinché il modello possa leggerli; la cronologia delle tue conversazioni risiede nel loro database; e la chiave API — ammesso che ce ne sia una — è la loro, con un costo che ti viene addebitato applicando un margine. È una soluzione comoda e per molti usi va bene. Ma dà implicitamente per scontato una cosa: che i tuoi dati, il tuo lavoro e le tue credenziali siano nelle loro mani.

L’IA local-first ribalta questa impostazione predefinita. Questo articolo spiega che cosa significa davvero "local-first", che cosa cambia quando lo si applica specificamente all’IA e come capire se uno strumento che si dichiara local-first lo è davvero. Orkas è costruito in questo modo, quindi lo useremo come esempio concreto, ma i concetti si applicano a qualsiasi strumento di questa categoria.

Nota sull’ambito. Le sezioni seguenti sull’uso diretto delle chiavi descrivono la modalità di Orkas che consente di usare il proprio fornitore. Orkas offre anche modelli ufficiali gestiti facoltativi; queste richieste usano il servizio di modelli gestiti di Orkas. Local-first descrive le impostazioni predefinite e il controllo dello spazio di lavoro, non l’obbligo per ogni richiesta a un modello di evitare il passaggio attraverso Orkas.

Risposte rapide

Che cos’è l’IA local-first?

Local-first descrive dove risiedono per impostazione predefinita i dati dello spazio di lavoro e il piano di controllo: sul tuo dispositivo. Non richiede che ogni chiamata a un modello eviti il passaggio attraverso il fornitore dell’app. Orkas offre modelli ufficiali gestiti facoltativi e anche una modalità di collegamento diretto al proprio fornitore.

L’IA local-first equivale a eseguire un LLM locale?

No. Local-first descrive dove risiedono i tuoi dati, le tue chiavi e il piano di controllo: sul tuo computer. Il modello stesso può comunque essere un’API cloud come OpenAI o Anthropic. Eseguire un modello interamente locale (per esempio con Ollama) è una delle opzioni di un’architettura local-first, non la sua definizione.

Che cosa significa bring-your-own-key (BYO-key)?

Bring-your-own-key significa collegare un fornitore usando la propria chiave API o il proprio account OAuth. Con questa modalità, la chiave rimane sul tuo dispositivo e le chiamate al modello vengono inviate direttamente a quel fornitore. È un’alternativa ai modelli ufficiali gestiti facoltativi di Orkas.

Che cosa significa davvero "local-first"

Il termine proviene dalla progettazione software in generale, non dall’IA. In sostanza, un’app local-first rispetta tre proprietà:

1. I tuoi dati risiedono sul tuo dispositivo per impostazione predefinita. Documenti, cronologia, impostazioni: la fonte autorevole è un file sul tuo disco, non una riga in un database remoto.
2. L’app funziona dal tuo computer. Le funzionalità principali vengono eseguite localmente; per funzionare non richiedono uno scambio di richieste e risposte con un server.
3. La rete è facoltativa, non il fondamento. Sincronizzazione, condivisione e collaborazione sono funzionalità che puoi attivare, non ciò su cui l’app si basa essenzialmente. Disattivale e l’app continua a funzionare.

Confronta questo approccio con l’impostazione cloud-first tipica dei SaaS, in cui il server è la fonte autorevole e il tuo dispositivo è soltanto una finestra su di essa. Chiudi il portatile mentre usi un’app cloud-first e ti accorgi che i tuoi dati non sono mai stati davvero tuoi: sono sempre rimasti sulla loro infrastruttura, regolati dalle loro condizioni, accessibili al loro personale e soggetti a ordini giudiziari di esibizione. Local-first inverte l’onere della prova: i dati sono tuoi, a meno che tu non decida esplicitamente di inviarne una copia da qualche parte.

Che cosa cambia quando l’app è un agente IA

Nella modalità che consente di usare il proprio fornitore, queste proprietà offrono due ulteriori vantaggi per la privacy.

Usa la tua chiave (BYO-key). Fornisci una credenziale del fornitore — una chiave API o un accesso OAuth — e controlli i modelli, i limiti e la fatturazione di quel fornitore. In Orkas questa è un’alternativa ai modelli ufficiali gestiti facoltativi.

Le chiamate ai modelli con il proprio fornitore sono dirette. Quando un agente usa il tuo fornitore, la richiesta va direttamente dal tuo computer a quel fornitore e non passa attraverso Orkas. I modelli ufficiali gestiti usano invece il servizio di modelli gestiti di Orkas.

È bene essere precisi su questo punto, perché "l’IA viene eseguita localmente" è un’interpretazione errata comune. Local-first non significa che il modello stesso venga eseguito sul tuo portatile (anche se può esserlo, come vedremo più avanti). Il modello può comunque essere un’enorme API cloud. A essere locale è tutto ciò che sta intorno al modello: i tuoi dati, le tue chiavi, la configurazione degli agenti e il piano di controllo che decide cosa inviare e quando. Local-first riguarda chi custodisce i tuoi contenuti, non dove si trova la GPU.

Dove risiedono davvero i tuoi contenuti

In concreto, in un agente local-first come Orkas, ecco la distinzione tra ciò che resta sul posto e ciò che può essere trasferito.

Per impostazione predefinita, sul tuo computer:

• Le tue chiavi API e i token OAuth — cifrati a riposo ed esclusi da qualsiasi sincronizzazione.
• La tua cronologia delle chat, i piani e i file generati.
• Le tue configurazioni degli agenti, le abilità e le basi di conoscenza.
• La tua memoria personale — le preferenze e le informazioni che l’agente ha appreso su di te.

La gestione delle credenziali merita un esame più approfondito, perché le chiavi sono i dati più sensibili con cui uno strumento di IA entra in contatto. Il ciclo di vita di una chiave in un’app local-first ben realizzata è breve e circoscritto:

1. La aggiungi           →  incolli una chiave API (o accedi con OAuth) sul dispositivo
2. Crittografata a riposo →  protetta con AES-256-GCM autenticato prima di essere scritta su disco
3. Archiviata localmente →  scritta in un file di configurazione privato del dispositivo, escluso dalla sincronizzazione
4. Usata direttamente    →  decrittografata in memoria solo per chiamare il tuo fornitore direttamente dal tuo dispositivo

La chiave non viene mai trasmessa al fornitore dell’app: né a riposo, né in transito, né nella telemetria. (La cifratura autenticata come AES-256-GCM permette anche di rilevare le manomissioni; protegge dalla divulgazione accidentale — un log indesiderato, un backup che esegue l’OCR, un’altra app che legge la cartella — che rappresenta la minaccia realistica per un segreto conservato su disco.)

Che cosa esce comunque — e solo su tuo comando

"Local-first" non significa "nulla lascia mai il tuo computer". Orkas documenta ogni percorso di rete: le chiamate a fornitori e connettori che avvii, le funzionalità gestite che selezioni, la sincronizzazione facoltativa e le analisi limitate sull’uso del prodotto.

• La chiamata al modello del tuo fornitore. I tuoi prompt e le risposte viaggiano direttamente tra il tuo computer e il fornitore che hai scelto tu. Lasciano il tuo computer, ma vanno al tuo fornitore, non a Orkas.
• Le chiamate ai connettori che autorizzi esplicitamente. Quando colleghi GitHub, Notion, Google e così via, queste chiamate vanno dal tuo computer a quel servizio. I token OAuth sono conservati sul tuo dispositivo; per alcuni fornitori che sostituiscono i token a ogni rinnovo, il passaggio di rinnovo viene coordinato attraverso Orkas per evitare conflitti tra i tuoi dispositivi: un’eccezione volutamente circoscritta e documentata pubblicamente.
• La sincronizzazione cloud, se la attivi. La sincronizzazione tra più dispositivi richiede un’attivazione esplicita. Se la abiliti, i dati che scegli di sincronizzare vengono conservati sui server di Orkas per essere disponibili sui tuoi dispositivi. Se la lasci disattivata, non viene sincronizzato nulla.
• Analisi limitate e rispettose della privacy. Eventi di utilizzo aggregati (quali funzionalità vengono usate), mai i tuoi prompt, i contenuti dei file, il testo dei messaggi o le credenziali.

Nella modalità BYO, la chiave del tuo fornitore resta locale e il traffico dei relativi modelli non passa dai server di Orkas. I modelli ufficiali gestiti, la sincronizzazione, i connettori e le altre funzionalità cloud selezionate usano i servizi di Orkas come descritto nella pagina Sicurezza.

Perché local-first è importante

Non è una tutela della privacy di facciata. L’impostazione predefinita "ciò che è tuo rimane tuo" offre diversi vantaggi concreti.

Sovranità dei dati. Le tue conversazioni, i file che un agente legge e scrive, la base di conoscenza che hai costruito: risiedono sul tuo disco, sotto il tuo controllo. Puoi farne una copia di backup, esaminarli o eliminarli senza chiedere a nessuno. Non esiste un database del fornitore che custodisce la copia autorevole.

Verificabilità. Usando il tuo fornitore, puoi leggere il codice del client open source, osservare la rete e confermare il percorso diretto dei prompt. Le funzionalità gestite seguono un percorso diverso, documentato, attraverso i servizi di Orkas.

Scelta del modello. Scegli i modelli ufficiali gestiti facoltativi oppure collega il tuo fornitore e cambia i suoi modelli quando serve.

Trasparenza dei costi. Le funzionalità gestite consumano crediti Orkas; l’utilizzo tramite la tua chiave viene fatturato direttamente da quel fornitore.

Resilienza. Poiché il nucleo dello strumento viene eseguito sul tuo computer e i tuoi dati sono locali, non basta un’interruzione del servizio o un’email che annuncia la dismissione del prodotto perché il tuo lavoro sparisca insieme allo strumento.

Local-first e modello interamente locale — un chiarimento

C’è una distinzione che crea confusione abbastanza spesso da meritare una sezione dedicata. "IA local-first", "IA sul dispositivo" ed "eseguire un LLM locale" sono concetti collegati, ma non equivalenti.

• Eseguire un LLM locale (con uno strumento come Ollama) significa che i pesi del modello vengono eseguiti sul tuo hardware. Nulla — né prompt né risposte — lascia il tuo computer. Offre la massima privacy, ma è limitato dal tuo hardware, quindi i modelli sono più piccoli di quelli cloud più avanzati.
• L’IA local-first riguarda dove risiedono per impostazione predefinita i dati dello spazio di lavoro, le chiavi e il piano di controllo. Il traffico dei modelli segue il percorso che scegli: i modelli ufficiali gestiti da Orkas usano i servizi di Orkas, mentre le chiamate al proprio fornitore vengono inviate direttamente a quel fornitore.

Quindi si integrano anziché competere: uno strumento local-first che supporta anche un modello locale offre il massimo livello di tutela della privacy disponibile, mentre lo stesso strumento collegato a un’API cloud offre capacità all’avanguardia mantenendo i tuoi dati sotto il tuo controllo. Local-first è l’architettura; un modello locale è uno dei motori che puoi inserirvi.

Come capire se uno strumento di IA è davvero local-first

L’etichetta viene usata con una certa libertà, quindi ecco un breve elenco di domande da applicare a qualsiasi strumento che dichiari di esserlo:

• Dove risiedono i dati dello spazio di lavoro per impostazione predefinita? Local-first significa che il dispositivo è la fonte autorevole predefinita.
• Quali percorsi di rete esistono? Un prodotto affidabile distingue le chiamate BYO dirette dal traffico dei modelli gestiti, della sincronizzazione, dei connettori e delle analisi.
• La sincronizzazione richiede un’attivazione esplicita? I dati local-first restano locali finché non abiliti deliberatamente la sincronizzazione.
• Posso verificare le affermazioni? I client open source permettono di esaminare il codice e il comportamento di rete.
• Quale modalità di accesso ai modelli voglio? BYO offre fatturazione e traffico diretti con il fornitore; i modelli gestiti sostituiscono questo percorso con la comodità del servizio e i crediti Orkas.

Conclusione

Local-first è una scelta sulle impostazioni predefinite: i dati dello spazio di lavoro e il controllo partono dal tuo computer, mentre ogni funzionalità di rete facoltativa segue un percorso dichiarato. In Orkas, i modelli ufficiali gestiti usano i servizi di Orkas e le chiamate al tuo fornitore vengono inviate direttamente a quel fornitore.

Se vuoi vedere esattamente come tutto questo viene implementato — il ciclo di vita delle chiavi, la cifratura, l’elenco preciso di ciò che resta e di ciò che esce — leggi la pagina Sicurezza e fiducia; poiché il client è open source, non devi fidarti sulla parola. E se vuoi conoscere l’ingegneria alla base dell’agente stesso, scopri come viene costruito un singolo agente per funzionare in modo affidabile sul tuo computer e come un agente principale coordina un gruppo di sottoagenti.