↓ Salta al contenuto principale

Jev

system-one-router: lasciare che un modello "System One" scelga l'LLM giusto per ogni prompt

·4435 parole·21 minuti· loading · loading
Il mio primo router di modelli lasciava a un LLM il compito di leggere un file di prompt e scegliere un agente. Questo fa quattro domande tipizzate a un modello decisionale “System One”, calcola il punteggio dei modelli con semplice aritmetica, e pubblica un benchmark per dimostrare che funziona (e per mostrare dove non funziona).