Magnitude: un motore di inferenza open source che si ottimizza da solo
Strumenti e rilasciArticoli correlati
Intel e AMD collaborano su PyTorch/oneDNN: cosa cambia per l'IA locale sulle CPU
AMD unifica ZenDNN in oneDNN, Intel unisce le sue estensioni ACE: un solo stack open source per l'accelerazione x86 in PyTorch, già di default. Cosa cambia se fai girare i modelli in locale su CPU.
GPU o CPU: quando la CPU basta
Serve davvero una GPU per l'IA locale? Per molti usi no: come funzionano prefill e decode, cosa conta (la banda di memoria), i numeri reali su un notebook comune, i casi in cui la CPU basta e quando serve la VRAM — con i comandi per misurarlo sul tuo hardware.
ML Drift: il motore GPU on-device open source di Google, e quando batte i generalisti
Il motore che fa girare i modelli dentro Chrome e YouTube, ora è open source: architettura, numeri di benchmark e il confronto onesto con Ollama e llama.cpp.
Ricevi il prossimo punto sull'IA locale
Ogni settimana, la selezione del meglio di iaLocale: articoli, notizie e risorse sull'IA locale, e altro ancora.
Dopo l'iscrizione ricevi una email di conferma (double opt-in). Senza conferma non inviamo nulla. Nessuno spam, ti promettiamo.