Si estuviera comenzando un doctorado hoy, probablemente querría trabajar en leyes de escala para RL en el pequeño régimen de modelos entre no LLM y LLM. se siente poco explorado

la gente ha aceptado este conocimiento popular de que LLM RL solo comienza a funcionar una vez que la enorme cosa preentrenada en Internet es lo suficientemente grande. ¿Por qué? ¿Cómo podemos predecir + mejorar la eficiencia de la muestra del aprendizaje en función de los parámetros, la complejidad de la tarea y la cantidad de entrenamiento previo?

@yacineMTB como obviamente debería si lo haces bien, pero ¿cuánto ¿Puedes entrenar un montón de modelos en diferentes juegos para que converjan, luego destilarlos todos en un solo modelo y mejorar tanto la eficiencia de la muestra como la generalización?

@yacineMTB tenemos grandes modelos de chungus todo y modelos de solo jugar al ajedrez y no mucho en el medio