Share your thoughts, 1 month free Claude Pro on usSee more
WorkDL logo mark

LLM Prefill throughput on LLM Prompt Length 2048 (pp2048)

4,447Prefill Throughput (tok/s)

MLX

402.441,452.472,502.53,552.53Jul 1, 2026
Updated 24d ago

Evaluation Results

MethodLinks
2026.07
4,447
2026.07
4,439
2026.07
4,075
2026.07
4,045
2026.07
3,680
2026.07
3,680
2026.07
3,648
2026.07
3,648
2026.07
2,783
2026.07
2,714
2026.07
2,520
2026.07
2,489
2026.07
2,453
2026.07
2,453
2026.07
2,418
2026.07
2,418
2026.07
1,209
2026.07
1,169
2026.07
1,153
2026.07
971
2026.07
934
2026.07
900
2026.07
864
2026.07
840
2026.07
835
2026.07
835
2026.07
792
2026.07
792
2026.07
721
2026.07
721
2026.07
720
2026.07
644
2026.07
626
2026.07
626
2026.07
601
2026.07
558