Vai al contenuto principale
Torna alle risorse
Inferenza🚀

Tokspur

Pubblicato il 10 nov 2026

Motore di inferenza open source per Apple Silicon basato su Metal: dichiara una decodifica fino a 3 volte più veloce dei motori classici su MacBook e Mac Studio. Progetto giovane, senza benchmark indipendenti al momento.

Caratteristiche

  • Apple Silicon (Metal)
  • Open source
  • Claim: ~3x decode vs motori classici

Tag

Link Utili

Scopri Tokspur

Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Tokspur.

Visita il sito

Risorse Correlate — Inferenza

Inferenza⚡
llama.cpp
Pubblicato il 15 ott 2022

Implementazione C++ di LLM per inferenza efficiente su CPU e GPU consumer.

LLMC++LocalEfficient
Inferenza🦙
Ollama
Pubblicato il 27 lug 2023v0.35.0

Strumento open source per eseguire LLM localmente con semplicità.

LLMLocalOpen SourceCLI
Inferenza🗣️
Piper TTS
Pubblicato il 1 apr 2022Piper

Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.

AudioTTSOpen SourceLocale