| |
 |
iaLocale
|
Settimana 7
|
|
|
Ecco la settimana di iaLocale: le notizie selezionate, gli articoli pubblicati e le nuove parole del glossario.
|
|
|
|
|
|
In evidenza
SynthAPI: ambienti sintetici e scaling laws per allenare agenti tool-use
Un agente tool use impara a usare i tool in due modi: lo glielo insegna il training, o lo impara al volo nel contesto. Il primo modo, però, richiede un ambiente dove esercitarsi: tool che rispondono, errori che tornano, task che si ripetono. L'ambiente più comodo per esercitarsi è il tuo server locale, ma i tool reali — le API vere con cui l'agente deve fare i conti in produzione — costano, mutano e a volte non vanno toccati. Il paper SynthAPI, pubblicato su arXiv, parte da qui: costruire ambienti sintetici controllati in cui allenare agenti che usano i tool, senza toccare le API reali. Il problema: allenare un agente serve ripetizione Un modello che deve fare tool calling non impara…
Leggi l'articolo →
|
|
|
Cosmos3-H-Dreams: la simulazione chirurgica in tempo reale di NVIDIA, e la robotica in locale
Un modello di mondo da 15B che genera in tempo reale il video di un intervento robotico su una singola GPU: cosa cambia per la robotica in locale.
| |
Cosmos3-Nano-Sim-Auto: il world model di NVIDIA da 16B che simula la guida in tempo reale, in locale
Un world model da 16B che genera fino a 11 telecamere e una nuvola LiDAR sincronizzate: cosa produce, come chiude il loop, e cosa significa davvero girarlo in locale.
| |
Yzma: embedding fino a 2,6x più veloci di Ollama, il confronto
Yzma chiama llama.cpp dentro al processo: niente server, niente round trip. Su embedding è 2,6x più rapido di Ollama — con i numeri, il calcolo e il setup.
|
|
| |
|
Le 5 notizie più importanti |
|
|
1Flide: il motore di inferenza open source per i modelli di decisione, fino a 9,5x più veloce
OmniJev pubblica Flide, un motore di inferenza open source per i modelli di decisione tipo Jev. La tecnica è il forking esatto dello stato, che fa condividere i calcoli tra più domande preservando la semantica delle decisioni: i test dichiarano fino a 9,5x rispetto a vLLM e SGLang, con 30+ modelli di decisione open source supportati (Decision Index 0.4.1).
| |
2AgentBaton: NVIDIA passa i task dal modello potente a quello economico, -66% sui costi
La tecnica AgentBaton (NVIDIA) usa un rilevatore leggero per passare i task da un modello potente a uno economico nei task agentici lunghi. Risparmi medi del 65,9% sui costi API e guadagni di accuratezza fino a 8,8 punti percentuali.
| |
3llama.cpp v0.9.0: quantizzazione FP8 OCP, KV unificato per multi-sequenza e TTS Chatterbox
Il motore di inferenza locale aggiunge la quantizzazione OCP FP8 E4M3 (modalità saturante) e l'operatore flash_attn_ext_rows che rende il KV cache unificato efficiente per l'inferenza multi-sequenza. Nuove architetture (Clover-35B-A3B-Preview, Limite 1B, Metis-1.6 e Mistral Large 4), TTS Chatterbox, Nemotron 3.5 Transcribe in 40 lingue e prefill più veloce per gemma4 E2B/E4B; ggml passa a v0.29.0 con parallelismo di tensori multi-nodo NCCL.
| |
4NVIDIA rilascia Metatron-v1: una policy humanoidica che gira nel browser, senza server
Metatron-v1 è la policy di controllo di NVIDIA per il robot umanoide Unitree G1 (29 giunti), pubblicata in open con licenza NVIDIA Open Model License. Il punto di partenza: gira dentro il browser, su ONNX Runtime Web + WebGPU, con la simulazione MuJoCo compilata in WASM. Il modello ONNX pesa 403 MB, il checkpoint PyTorch nativo 459,455,983 byte. Nessun server, nessuna GPU di data center: l'inferenza avviene sul terminale del visitatore.
| |
5Graph-MIND (ora turnbook): memoria locale per agenti coding senza una sola chiamata al modello
Graph-MIND, ribattezzato turnbook, è una memoria di lungo periodo in locale per gli agenti di codifica: salva e recupera senza una sola chiamata al modello, con ricerca parola per parola. Segnala 91,8% su LongMemEval partendo da 3,1k token per query, ed è condiviso tra Claude Code, Codex, Cursor, Copilot CLI, Gemini CLI e OpenCode. Un'alternativa concreta alle memorie che delegano il recupero al modello.
|
|
Leggi tutte le notizie →
|
|
|
|
|
|
|
L’intelligenza artificiale locale, in italiano. · ialocale.ch
Ricevi questa email in italiano perché hai scelto l’italiano per la newsletter. Puoi cambiare lingua o disiscriverti a ogni momento dal pannello della tua iscrizione.
Ricevi questa email perché ti sei iscritto alla newsletter di iaLocale.
|
|