Language Modeling on The Pile (test)
9.213PPL (The Pile Test)
GPT-Neo 1.3B
Updated 1d ago
Evaluation Results
| Method | Links | |||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
2023.05 | 9.213 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 9.49 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 9.758 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 9.98 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 10.267 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.05 | 10.27 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 10.28 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 10.38 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.05 | 10.51 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 10.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 10.775 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 10.91 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 11.12 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 11.13 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 11.56 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 11.6 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 11.66 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 12 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 12.18 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 12.61 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 14.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 15.07 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 15.71 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.02 | 15.79 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 16.601 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 17.155 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 17.499 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2023.05 | 19.691 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.04 | 24.33 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.9 | - | - | |
2026.04 | 26.58 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 2.2 | - | - | |
2026.04 | 26.71 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7 | - | - | |
2026.04 | 27.81 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 9.8 | - | - | |
2026.04 | 28.37 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 4.9 | - | - | |
2026.04 | 28.4 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.9 | - | - | |
2026.04 | 28.71 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 1.9 | - | - | |
2026.04 | 28.73 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7 | - | - | |
2026.04 | 29.95 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.5 | - | - | |
2026.04 | 30.24 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 1 | - | - | |
2023.05 | 30.323 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | |
2026.04 | 31.74 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 4.4 | - | - | |
2026.04 | 32.1 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.5 | - | - | |
2026.04 | 32.85 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 1.5 | - | - | |
2026.04 | 34.3 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.9 | - | - | |
2026.04 | 37.35 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 2.1 | - | - | |
2026.04 | 39.54 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 3.6 | - | - | |
2026.04 | 44.84 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 2.1 | - | - | |
2026.04 | 52.83 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 1.2 | - | - | |
2026.04 | 98.84 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0 | - | - | |
2026.04 | 116 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 1 | - | - | |
2026.04 | 117.8 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0 | - | - | |
2026.04 | 179 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 2.2 | - | - | |
2026.04 | 192.7 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0 | - | - | |
2026.04 | 216 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 4.9 | - | - | |
2022.10 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.65 | - | - | - | |
2022.10 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.742 | - | - | - | |
2022.10 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.634 | - | - | - | |
2021.12 | - | 1.14 | 1.09 | 0.899 | 0.677 | 0.89 | 0.712 | 0.741 | 0.691 | 0.695 | 0.656 | 0.662 | 0.641 | 0.59 | 0.577 | 0.546 | 0.525 | 0.513 | 0.377 | - | - | - | - | |
2021.12 | - | 1.04 | 0.857 | 0.879 | - | 0.869 | 0.835 | - | 0.669 | 0.741 | 0.89 | 0.68 | 0.655 | 0.59 | 0.587 | 0.537 | 0.579 | 0.514 | 0.358 | - | - | - | - | |
2021.12 | - | 1.37 | 0.946 | 0.932 | 0.624 | 0.975 | 0.802 | 0.779 | 0.698 | 0.723 | 1.16 | 0.838 | 0.773 | 0.612 | 0.625 | 0.566 | 0.69 | 0.612 | 0.645 | - | - | - | - | |
2026.05 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7842 | - | |
2026.05 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7831 | - | |
2026.05 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7448 | 3.83 | |
2026.05 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7763 | - | |
2026.05 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7656 | - | |
2026.05 | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | - | 0.7312 | 3.44 |