Motore di inferenza open source per i modelli di decisione (famiglia Jev). La tecnica è il forking esatto dello stato: più domande condividono i calcoli preservando la semantica esatta delle decisioni. I test degli autori dichiarano fino a 9,5x di velocità rispetto a vLLM e SGLang; supporta 30+ modelli di decisione open source (Decision Index 0.4.1).
Risorse
Strumenti, framework e modelli per l'IA locale
7 risorse trovate per "Open source"

