Laboratorio
Temperatura y sampling
Un LLM no «decide» el siguiente token: lo muestrea de una distribución de probabilidad. La temperatura aplana o afila esa distribución; top-k y top-p la recortan. Mueve los sliders y muestrea para verlo.
100% en tu navegador: nada de lo que escribas sale de tu dispositivo.
«El futuro de la inteligencia artificial es ____»
Qué estás viendo
Las barras son la probabilidad de cada candidato a siguiente token (distribución sintética pero realista, calculada con softmax). Con temperatura baja casi toda la probabilidad cae en «prometedor»; con temperatura alta los tokens raros ganan opciones. Top-k y top-p eliminan la cola de la distribución antes de muestrear: las barras apagadas quedan descartadas. Pulsa «Muestrear» varias veces con configuraciones distintas y compara la variedad de resultados.