Risorse

Strumenti, framework e modelli per l'IA locale

Tutti Organizzazioni Hardware Software Modelli Inferenza Framework

Ordina per:Nome (A-Z)Nome (Z-A)Categoria Più recenti Più vecchie Prezzo (crescente)Prezzo (decrescente)VRAM (da più alta)Parametri (da più alti)

3 risorse trovate per "ML"

Inferenza⚡

ML Drift

Motore di inferenza GPU on-device open source (Apache 2.0) di Google, successore del delegate GPU di TensorFlow Lite: tensor virtualization, KV cache stage-aware per prefill e decode, FP16/INT8/INT4. Backend OpenCL (Android), Metal (Apple), WebGPU via Dawn (browser), OpenGL ES 3.1+. Si integra con LiteRT; in produzione su Chrome, YouTube, Photos e Meet.

IA localeOn-deviceGPUOpen SourceGoogle

Scopri di più

ConfrontaSito

Inferenza🔗

Replicate

Pubblicato il 1 giu 2022

Piattaforma API per eseguire modelli ML senza gestire infrastruttura.

APICloudMLServerless

Scopri di più

ConfrontaSito

Inferenza🎙️

whisper.cpp

Pubblicato il 1 mar 2023whisper.cpp

Il port C/C++ ad alte prestazioni di Whisper: trascrizione vocale in locale ottimizzata per CPU e Apple Silicon, senza dipendenze da Python. Quantizzazione GGML (Q4_0–Q8_0) con riduzione fino al 65% a disco, streaming via whisper-stream, accelerazione Metal/Vulkan. MIT.

AudioTrascrizioneOpen SourceLocale

Scopri di più

ConfrontaSito