Trend Olan Konular
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico+%1,98
USELESS
USELESS-%12,14
IKUN
IKUN-%12,45
gib
gib-%3,33
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk-%0,17
ALON
ALON+%6,09
LAUNCHCOIN
LAUNCHCOIN-%15,32
GOONC
GOONC+%8,52
KLED
KLED-%21,11
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP-%0,18
Boopa
Boopa-%6,07
PORK
PORK-%3,82
header
Larry Dial
AWS'de Veri Mühendisi. & Yapay zeka araştırması.
Larry Dial
Larry Dial12 Oca 10:52
Github'da @.andrewbriand ve @.jrauvola'dan 106.9 (-2.3s) frekansında yeni NanoGPT Speedrun WR var. Torch derleyicinin Relu(x)^2 aktivasyonu için verimsiz ayrı bir çekirdek çalıştırdığını gözlemlediler ve aktivasyonu önceki lineer operasyona entegre etmek için bir triton çekirdeği eklediler.
23
Larry Dial
Larry Dial8 Oca 02:06
Yeni NanoGPT Speedrun WR 109.2 (-3.5s) ile Çift Kafa Dikkati adlı başka bir yeni(?) attn yükseltmesi var. Sorgular, komşu baştaki anahtarlara odaklanabilir ve her Q'nun hedef konum başına 1 yerine 2 değer almasını sağlar. Sıfır parametre için %3 etki!
65
Larry Dial
Larry Dial6 Oca 03:38
Yeni NanoGPT Speedrun WR 112.7 (-1.0s) hızında, bfloat16 ağırlıkları ve optimizer ile aralı iletişimde ekstra 16 bit ile sunuluyor. @YouJiacheng ve @ChrisJMcCormick'dan ilham aldım. Ayrıca, Muon'un yarısı kadar adım atan Adam opt'un beta1=0.5 lm_head vardır.
74