Reasoning on Big-Bench Hard (test)
59.5Accuracy
DeepSeekMath-Base
Updated 3d ago
Evaluation Results
| Method | Links | ||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
2024.02 | 59.5 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.02 | 55.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.02 | 55.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 54.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 51 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 50.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 45.6 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 44.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 43.8 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 43.4 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 43.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.02 | 42.9 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 42.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 42.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 42.6 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 41.5 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 41.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 40.4 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 40.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 40.1 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 39.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 39.1 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 38 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 36.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 35.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 35 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 34.6 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.02 | 31.38 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.02 | 30.84 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.02 | 30.59 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 30.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 29.4 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.02 | 29.35 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.02 | 28.8 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 28.4 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 28.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.02 | 27.89 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 26.9 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 26.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.05 | 12.8 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.03 | - | 54 | 2.19 | 14 | 19.5 | 6.5 | 29.5 | 16.5 | 53 | 12 | 5.5 | 44 | 40.5 | 53.5 | 84.5 | 87.5 | 26.04 | 21 | 18.5 | 12.5 | 24.22 | 51.52 | 57 | 67.5 | 47.5 | 80.5 | 93.5 | 44.5 | 39.52 | - | - | - | - | - | |
2025.03 | - | 67.5 | 0 | 3 | 22.5 | 0 | 0 | 24.5 | 3.5 | 3.5 | 3 | 20.5 | 0 | 52 | 38.5 | 27.5 | 8.33 | 6.5 | 65.5 | 6.5 | 0 | 0 | 6 | 18 | 19.5 | 80.5 | 42 | 41 | 20.73 | - | - | - | - | - | |
2025.03 | - | 72.83 | 37.71 | 13.67 | 32.17 | 6.67 | 42.5 | 29.83 | 54.83 | 12.33 | 6.83 | 58.17 | 48.67 | 50.33 | 79.67 | 85.5 | 25 | 50.17 | 51 | 31.67 | 45.83 | 62.63 | 63.67 | 67.67 | 53.33 | 81 | 96.33 | 46.83 | 48.4 | - | - | - | - | - | |
2025.03 | - | 84.33 | 40.88 | 14.5 | 37 | 6.5 | 45.17 | 37.33 | 61.67 | 20 | 7.83 | 64 | 49.67 | 49.83 | 80.17 | 82.67 | 29.86 | 47.5 | 63.17 | 49 | 52.6 | 62.63 | 59.33 | 67.83 | 51.5 | 81.67 | 95.83 | 43.67 | 51.34 | - | - | - | - | - | |
2025.03 | - | 83 | 44.53 | 21.17 | 42.67 | 5.83 | 43.83 | 33 | 57.67 | 24.67 | 12.17 | 59.67 | 53.5 | 46.83 | 83.83 | 86.67 | 30.9 | 47 | 67.33 | 48.17 | 64.84 | 65.15 | 61.83 | 68.67 | 52 | 80.67 | 96.33 | 46 | 52.89 | - | - | - | - | - | |
2025.03 | - | 85.67 | 44.53 | 16 | 49.67 | 6.5 | 44.5 | 32.67 | 63.67 | 25.83 | 11.33 | 66.67 | 52.5 | 50.17 | 82.33 | 84.33 | 32.29 | 52.33 | 66.83 | 52.67 | 60.16 | 61.95 | 61.33 | 67.33 | 50.33 | 82.33 | 96 | 44.17 | 53.48 | - | - | - | - | - | |
2025.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 79.17 | - | - | - | - | - | |
2025.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 79.43 | - | - | - | - | - | |
2023.08 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 33.05 | - | - | - | - | - | |
2023.08 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 33.02 | - | - | - | - | - | |
2023.08 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 33.48 | - | - | - | - | - | |
2023.08 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 33.47 | - | - | - | - | - | |
2023.05 | - | 83.2 | 61 | 53.6 | 60.8 | 28.4 | - | 37.6 | 70.8 | - | - | - | 87.2 | 1.6 | 62.4 | 51.2 | 44.5 | 38 | 76 | 48.8 | 78.1 | 80.4 | 39.6 | - | - | - | 51.2 | 32 | 52.3 | 53.6 | 42.7 | 19.6 | - | - | |
2023.05 | - | 80 | 59.4 | 79.2 | 67.6 | 28 | - | 43.6 | 90.4 | - | - | - | 92 | 19.6 | 79.6 | 83.2 | 65.1 | 74.4 | 61.6 | 54 | 61.8 | 98 | 78.8 | - | - | - | 100 | 21.6 | 65.2 | 51.2 | 56.9 | 52.9 | - | - | |
2023.05 | - | 89.6 | 62 | 74 | 78.8 | 35.2 | - | 51.2 | 84.8 | - | - | - | 93.6 | 0.8 | 68.8 | 56 | 65.8 | 61.2 | 90 | 66 | 78.7 | 90.8 | 96.4 | - | - | - | 55.2 | 58 | 65.7 | 64.8 | 64.5 | 25.3 | - | - | |
2023.05 | - | 86.8 | 58.8 | 91.2 | 77.6 | 63.6 | - | 34.8 | 82.4 | - | - | - | 94.4 | 75.6 | 91.2 | 91.6 | 84.9 | 91.2 | 83.6 | 61.6 | 84.8 | 98 | 100 | - | - | - | 100 | 39.6 | 78.1 | 57.2 | 69.1 | 79.3 | - | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 54.27 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 70.11 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 69.54 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 70.02 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 54.02 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 61.6 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 60.35 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 61.94 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 70.07 | - | |
2024.03 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 32.32 | - | |
2024.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 39.38 | - | - | - | - | - | |
2024.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 40.77 | - | - | - | - | - | |
2024.06 | - | 83.64 | 54.29 | 74.21 | 53.3 | - | 57.6 | - | - | - | - | - | 58.04 | - | 60.95 | - | - | - | - | 42.59 | 67 | - | - | - | - | - | - | - | - | - | 29.53 | - | - | - | |
2024.06 | - | 78.74 | 57.24 | 52.59 | 57.43 | - | 53.14 | - | - | - | - | - | 77.81 | - | 51.74 | - | - | - | - | 50.61 | 67.88 | - | - | - | - | - | - | - | - | - | 38.97 | - | - | - | |
2024.06 | - | 92.37 | 59.37 | 81.96 | 67.05 | - | 57.9 | - | - | - | - | - | 71.8 | - | 77.16 | - | - | - | - | 50.77 | 74.3 | - | - | - | - | - | - | - | - | - | 39.62 | - | - | - | |
2026.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 65.9 | |
2026.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 66.5 | |
2026.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 75.2 | |
2026.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 44.7 | |
2026.02 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 28.2 |