Reasoning Evaluation on BIG-Bench Hard (test)
79.4Average Accuracy
DeBoP
Updated 4d ago
Evaluation Results
| Method | Links | ||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
2025.06 | 79.4 | - | - | - | - | - | 70 | - | 82 | - | - | - | - | 84 | - | - | - | - | 74 | - | - | - | 83 | - | - | 76 | - | - | - | - | - | - | - | 87 | |
2024.09 | 78.4 | - | - | - | - | - | - | - | - | - | - | - | 79.4 | - | - | - | - | - | - | - | 81.9 | - | - | - | - | - | 70.8 | - | - | - | - | 81.3 | - | - | |
2024.09 | 77.4 | - | - | - | - | - | - | - | - | - | - | - | 85.3 | - | - | - | - | - | - | - | 69.2 | - | - | - | - | - | 83.9 | - | - | - | - | 71.1 | - | - | |
2025.06 | 76.3 | - | - | - | - | - | 63 | - | 86 | - | - | - | - | 85 | - | - | - | - | 74 | - | - | - | 79 | - | - | 67 | - | - | - | - | - | - | - | 80 | |
2024.09 | 70.3 | - | - | - | - | - | - | - | - | - | - | - | 90 | - | - | - | - | - | - | - | 68 | - | - | - | - | - | 71.6 | - | - | - | - | 51.6 | - | - | |
2025.06 | 69.7 | - | - | - | - | - | 63 | - | 95 | - | - | - | - | 59 | - | - | - | - | 66 | - | - | - | 62 | - | - | 68 | - | - | - | - | - | - | - | 75 | |
2024.09 | 69.3 | - | - | - | - | - | - | - | - | - | - | - | 83.2 | - | - | - | - | - | - | - | 62.4 | - | - | - | - | - | 80.4 | - | - | - | - | 51.2 | - | - | |
2025.06 | 66.1 | - | - | - | - | - | 56 | - | 59 | - | - | - | - | 74 | - | - | - | - | 59 | - | - | - | 67 | - | - | 74 | - | - | - | - | - | - | - | 74 | |
2024.09 | 65.8 | - | - | - | - | - | - | - | - | - | - | - | 88.4 | - | - | - | - | - | - | - | 50.4 | - | - | - | - | - | 72.8 | - | - | - | - | 51.6 | - | - | |
2023.11 | 63.5 | - | - | - | 63.7 | 58.7 | 68 | 73.1 | 85.5 | 20.9 | 83.5 | 54.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2024.09 | 63.2 | - | - | - | - | - | - | - | - | - | - | - | 72 | - | - | - | - | - | - | - | 55.4 | - | - | - | - | - | 72.3 | - | - | - | - | 53.2 | - | - | |
2024.09 | 63.1 | - | - | - | - | - | - | - | - | - | - | - | 68.5 | - | - | - | - | - | - | - | 56 | - | - | - | - | - | 68.1 | - | - | - | - | 59.6 | - | - | |
2023.11 | 63.09 | - | - | - | 56.32 | - | 50 | 52 | 90 | 8 | 58 | - | 92 | 76 | 40 | 60 | 42 | 66 | 70 | 78 | 84 | 74 | 73.91 | 72 | 36 | 73.08 | 64 | 82 | 64 | 66 | 64 | 46 | 66 | - | |
2023.11 | 62.23 | - | - | - | 58.62 | - | 60 | 42 | 92 | 4 | 74 | - | 94 | 72 | 48 | 58 | 40 | 70 | 68 | 74 | 74 | 66 | 71.74 | 70 | 34 | 67.95 | 70 | 72 | 60 | 66 | 62 | 44 | 68 | - | |
2023.11 | 59.3 | - | - | - | 59.6 | 53.6 | 63.4 | 68.8 | 79.3 | 17.3 | 81.1 | 51.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | 58.7 | - | - | - | 58.2 | 55.7 | 61.8 | 62.4 | 79.6 | 20.4 | 81.5 | 50.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | 58.36 | - | - | - | 49.43 | - | 38 | 50 | 92 | 6 | 60 | - | 86 | 72 | 44 | 44 | 38 | 82 | 66 | 74 | 56 | 70 | 76.09 | 64 | 42 | 60.26 | 66 | 52 | 58 | 58 | 66 | 46 | 60 | - | |
2025.06 | 58.1 | - | - | - | - | - | 49 | - | 71 | - | - | - | - | 47 | - | - | - | - | 51 | - | - | - | 69 | - | - | 56 | - | - | - | - | - | - | - | 66 | |
2023.11 | 57.6 | - | - | - | 59.2 | 56.5 | 61 | 64.5 | 76.3 | 16.4 | 78.9 | 48.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | 57.17 | - | - | - | 48.28 | - | 46 | 52 | 86 | 12 | 74 | - | 88 | 74 | 36 | 56 | 40 | 66 | 54 | 74 | 58 | 64 | 69.57 | 66 | 40 | 53.85 | 64 | 54 | 56 | 64 | 66 | 30 | 52 | - | |
2025.06 | 57.1 | - | - | - | - | - | 63 | - | 78 | - | - | - | - | 41 | - | - | - | - | 60 | - | - | - | 32 | - | - | 69 | - | - | - | - | - | - | - | 57 | |
2025.06 | 56.9 | - | - | - | - | - | 57 | - | 63 | - | - | - | - | 50 | - | - | - | - | 50 | - | - | - | 72 | - | - | 53 | - | - | - | - | - | - | - | 53 | |
2023.11 | 55.3 | - | - | - | 58.9 | 54.4 | 58 | 60 | 74.4 | 16 | 82 | 38.8 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2025.06 | 51.9 | - | - | - | - | - | 42 | - | 76 | - | - | - | - | 32 | - | - | - | - | 61 | - | - | - | 52 | - | - | 49 | - | - | - | - | - | - | - | 51 | |
2024.09 | 50 | - | - | - | - | - | - | - | - | - | - | - | 50 | - | - | - | - | - | - | - | 50 | - | - | - | - | - | 50 | - | - | - | - | 50 | - | - | |
2025.06 | 49.4 | - | - | - | - | - | 30 | - | 70 | - | - | - | - | 42 | - | - | - | - | 52 | - | - | - | 44 | - | - | 55 | - | - | - | - | - | - | - | 45 | |
2025.06 | 48.7 | - | - | - | - | - | 43 | - | 53 | - | - | - | - | 46 | - | - | - | - | 42 | - | - | - | 43 | - | - | 60 | - | - | - | - | - | - | - | 44 | |
2025.06 | 38.6 | - | - | - | - | - | 53 | - | 49 | - | - | - | - | 28 | - | - | - | - | 22 | - | - | - | 27 | - | - | 51 | - | - | - | - | - | - | - | 38 | |
2023.11 | - | 62 | 62.1 | 91.6 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | - | 64.6 | 65.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | - | 67.8 | 68 | 98.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | - | 72.8 | 73.1 | 98.8 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | - | 70.4 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | - | 73.4 | 75.2 | 98.2 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.11 | - | 76.7 | 77.6 | 98.6 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - |