Strumenti, framework e modelli per l'IA locale
2 risorse trovate per "Gateway"
Gateway cloud per l'inferenza LLM: un unico endpoint API per centinaia di modelli (inclusi i MoE open-weight) con prezzi per token e routing automatico tra provider. Per Ling 3.1 Flash: 0,075 $/M input, 0,225 $/M output.
Gateway LLM locale in Rust (MIT) che protegge i segreti degli agenti: redaction deterministica in mock realistici prima del provider, restore nella risposta, quattro strategie per secret (redact/restore, reject, placeholder, monitor), redaction completa su OpenAI/Anthropic/Responses.
