Vai al contenuto principale
← Torna al glossario

Distillazione di modelli

Tecniche

Tecnica per trasferire le capacità di un modello grande (l'insegnante) a uno piccolo (lo studente), che imita il comportamento dell'insegnante invece di ripeterne l'addestramento. Il risultato è un modello più piccolo e veloce, con un piccolo calo di qualità: in un caso estremo, distillare un generatore di video bidirezionale a 35 passi in uno studente causale a 4 passi è ciò che permette a Cosmos3-H-Dreams di girare in tempo reale.

Questo termine in altre lingue