W ciągu ostatnich 6 miesięcy NanoGPT Speedrun do 3.28 straty na FineWeb spadł o 33% do 2 minut. Niedawno część tych zmian została masowo skopiowana i wklejona do większej skali toru z stratą 2.92. Zaskakująco, nieprzetworzony bieg yolo pobił rekord straty 2.92 o 25%.