Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
Percorsi di lettura
Parti da qui
Il percorso in ordine per chi si avvicina all'IA locale: dai concetti base all'installazione e al primo modello.
Ottimizza le prestazioni
Scegliere l'hardware giusto e strappare il massimo da quello che hai già: CPU o GPU, Mac, Raspberry Pi e serving veloce.
Dati e privacy
Cosa parte davvero in rete con l'IA locale: i dati, la sicurezza, la conformità e il controllo che resta nella tua mano.
Scegliere hardware e modello
Come scegliere l'hardware giusto e il modello adatto al tuo uso: VRAM, quantizzazione, GPU o CPU e velocità di risposta.
7 articoli
Agenti on-device per il telefono: cosa portano davvero i mobile agent open (dopo OpenMobile-2)
OpenMobile-2 apre ambienti e ricette di training per agenti mobili, e LFM3-1.7B mostra che un agente da 1,7GB gira già sul telefono: numeri, requisiti minimi e limiti onesti.
Text-to-SQL locale: interrogare il database aziendale senza spedire i dati in cloud
Modello in locale, schema al modello, esecuzione sul tuo database: il text-to-SQL in casa, numeri dal benchmark ARCS e dove si rompe davvero.
MOSS-Image: il ripack ComfyUI di OpenMOSS-Team, workflow e requisiti reali
MOSS-Image: il ripack ComfyUI di OpenMOSS-Team, pronto in due cartelle. VRAM reale calcolata per combinazione di pesi, da ~11GB a ~31GB, e i quattro workflow inclusi.
Immagini in locale: ComfyUI 0.40 e comfy_attention - nuovo per tutti i modelli
ComfyUI 0.40 estende comfy_attention a tutti i modelli con kernel selezionabili per modello e via LoRA, attiva di default il sistema di asset con API locale e standardizza l'output 3D; la tabella VRAM resta il riferimento per la scelta.
Agenti ML che girano in locale: MLExpert ed EpochGo su Ollama, costi API zero
MLExpert alza l'asticella a 35B e 72,7% di medaglie; EpochGo porta tre agenti AutoML su un 16 GB, zero API: cosa funziona oggi, i conti e i limiti.
Modelli di decisione in locale: JEV-35B e il System 1 da 3B attivi
Non serve un LLM grande per decidere. JEV-35B (35B, 3B attivi) in NVFP4 su una GPU da 32 GB e ej (11,4 MB) su CPU mostrano come fare routing, classificazione e controllo qualità senza generare un solo token.
Costi: locale vs API, fatto coi numeri
Quanto costa davvero il locale rispetto a una API cloud? Prezzi per token verificati, ammortamento GPU, elettricità e il punto di pareggio, calcolato con i numeri.