Share your thoughts, 1 month free Claude Pro on usSee more

LLM Routing on Cold-start

0.0226Cost (Cost-first)

Smallest LLM

Updated 5d ago

Evaluation Results

Method	Links
Smallest LLM 2026.04		0.0226	0.3342	0.0488	0.0226	0.3342	0.1558	0.0226	0.3342	0.2629	0.4675
Adaptive LLM 2026.04		0.0226	0.3342	0.0488	0.0637	0.5024	0.2194	0.3082	0.5158	0.351	0.6191
Smallest LLM 2026.04		0.023	0.2004	0.0217	0.023	0.2004	0.0887	0.023	0.2004	0.1557	0.2661
Adaptive LLM 2026.04		0.023	0.2004	0.0217	0.0641	0.426	0.1809	0.3098	0.4383	0.2887	0.4913
MetricRouter 2026.04		0.0325	0.1916	0.0123	0.0446	0.2027	0.0703	0.1012	0.2118	0.1492	0.2319
TRouter 2026.04		0.0327	0.3068	0.0352	0.0526	0.4144	0.1809	0.0701	0.4201	0.3221	0.5382
RouterDC 2026.04		0.0391	0.2548	0.0197	0.0599	0.358	0.149	0.065	0.3899	0.2989	0.4676
Prompt LLM 2026.04		0.0394	0.4053	0.0495	0.1088	0.4853	0.1883	0.3082	0.5158	0.351	0.5888
Prompt LLM 2026.04		0.0427	0.2131	0.0085	0.1128	0.3996	0.1434	0.3098	0.4383	0.2887	0.4406
TRouter 2026.04		0.0617	0.4992	0.0505	0.0637	0.503	0.2196	0.074	0.4997	0.385	0.6551
MetricRouter 2026.04		0.062	0.4967	0.0498	0.124	0.5397	0.2078	0.1833	0.5493	0.183	0.4406
TRouter 2026.04		0.0621	0.4257	0.0355	0.0641	0.4262	0.1811	0.1721	0.4315	0.3108	0.5274
RouterDC 2026.04		0.0713	0.5573	0.0544	0.0914	0.5231	0.2159	0.1148	0.5297	0.2074	0.4777
Largest LLM 2026.04		0.3082	0.5158	0.1434	0.3082	0.5158	0.1038	0.3082	0.5158	0.351	0.3113
Largest LLM 2026.04		0.3098	0.4383	-0.1601	0.3098	0.4383	0.0643	0.3098	0.4383	0.2887	0.1928