Blog
Articoli, guide e approfondimenti sull'intelligenza artificiale locale
Percorsi di lettura
Parti da qui
Il percorso in ordine per chi si avvicina all'IA locale: dai concetti base all'installazione e al primo modello.
Ottimizza le prestazioni
Scegliere l'hardware giusto e strappare il massimo da quello che hai già: CPU o GPU, Mac, Raspberry Pi e serving veloce.
Dati e privacy
Cosa parte davvero in rete con l'IA locale: i dati, la sicurezza, la conformità e il controllo che resta nella tua mano.
Scegliere hardware e modello
Come scegliere l'hardware giusto e il modello adatto al tuo uso: VRAM, quantizzazione, GPU o CPU e velocità di risposta.
6 articoli
Da dove imparano i modelli locali: i pesi aperti spiegati senza fuffa
Il modello non si aggancia a internet per le capacità: le ha assorbite una volta al pre-training e le esegue sul tuo hardware. Pesi aperti non è dati aperti, e i modelli vengono da molti lab, non da uno solo.
Decodifica speculativa e MTP: velocità gratis
La decodifica speculativa rende l'IA locale più veloce senza cambiare la qualità dell'output: un modello bozza i token, il modello grande li verifica. Ecco come funziona il draft-verify, le teste MTP nei modelli Qwen, EAGLE su Mistral Medium 3.5 e come abilitare tutto in tre comandi.
KV cache: perché la RAM serve più del solo modello
Cos'è la KV cache, la formula per calcolarla con i numeri di Llama 3.1 8B e Qwen3 8B, e le tre leve per gestirla: contesto, quantizzazione e flash attention.
RAG: fai domande ai tuoi documenti
RAG, Retrieval Augmented Generation, è il modo più semplice per far rispondere un modello locale a domande sui tuoi documenti: embedding, database vettoriale e ciclo di recupero.
Cos'è l'IA locale e perché ti serve
Cos'è l'IA locale e in che cosa si distingue dal cloud: vantaggi concreti (funziona offline, privacy, costi prevedibili, controllo completo), limiti onesti e come iniziare in cinque minuti con Ollama.
Come Scegliere il Tuo Primo Modello IA Locale
I tre criteri per scegliere il primo modello locale: caso d'uso, memoria (con la formula esatta) e contesto, coi modelli consigliati per 8, 16 e 24 GB.