Our new X account is live! Follow @wizwand_team for updates
WorkDL logo mark

Attention Operator Latency on LLaMA-2 Chat 7B

0.075Attention Latency (ms)

CPE-16

-0.05120.800651.65252.50435Feb 9, 2026
Updated 4d ago

Evaluation Results

MethodLinks
2026.02
0.075
2026.02
0.078
2026.02
0.081
2026.02
0.083
2026.02
0.088
2026.02
0.089
2026.02
0.089
2026.02
0.09
2026.02
0.092
2026.02
0.093
2026.02
0.093
2026.02
0.095
2026.02
0.106
2026.02
0.11
2026.02
0.113
2026.02
0.116
2026.02
0.12
2026.02
0.12
2026.02
0.124
2026.02
0.141
2026.02
0.144
2026.02
0.147
2026.02
0.16
2026.02
0.165
2026.02
0.178
2026.02
0.19
2026.02
0.196
2026.02
0.2
2026.02
0.214
2026.02
0.23
2026.02
0.23
2026.02
0.233
2026.02
0.241
2026.02
0.28
2026.02
0.422
2026.02
0.44
2026.02
0.46
2026.02
0.469
2026.02
0.47
2026.02
0.501
2026.02
0.506
2026.02
0.53
2026.02
0.534
2026.02
0.57
2026.02
0.733
2026.02
0.77
2026.02
0.821
2026.02
0.83
2026.02
0.85
2026.02
0.85
2026.02
0.869
2026.02
0.904
2026.02
0.953
2026.02
0.99
2026.02
1.041
2026.02
1.35
2026.02
1.63
2026.02
1.63
2026.02
2.21
2026.02
3.23