Temperature en IA: qué es y cómo elegirla

Temperature es un parámetro de generación que modifica cómo el modelo elige el próximo token entre las opciones con mayor probabilidad. Un valor bajo tiende a concentrar las respuestas en alternativas previsibles; un valor más alto permite explorar opciones menos probables. Google y Hugging Face documentan el parámetro dentro de la configuración de generación de sus modelos.

También puede servirte: Function calling: qué es y cómo usa herramientas una IA

No es un control de inteligencia ni una perilla de verdad. Cambiarlo no agrega información al modelo ni corrige una instrucción ambigua. Sólo modifica el muestreo de la respuesta, y el rango válido depende de la API y del modelo. Por eso hay que consultar la documentación exacta antes de copiar un valor de un proveedor a otro.

Con temperature baja, una clasificación, extracción o transformación con formato fijo suele ser más estable entre solicitudes equivalentes. Eso no significa que sea determinista: el proveedor puede aplicar otras reglas de muestreo y el modelo puede producir variaciones. Una salida estable también depende del prompt, el contexto y la semilla cuando la API la expone.

Con temperature alta, una tarea abierta puede ofrecer formulaciones más variadas, pero aumenta el riesgo de desviarse del formato, repetir ideas o introducir detalles que no estaban en el contexto. La variación puede ser útil para idear alternativas; conviene reducirla cuando la respuesta alimenta un proceso que espera campos o decisiones concretas.

Empezá por el objetivo de la salida. Para extracción, clasificación, JSON o llamadas a herramientas, probá un valor bajo y fijá un esquema que rechace respuestas inválidas. Para una lluvia de ideas o varias versiones de un texto, podés comparar un valor más alto, siempre con una revisión humana o un filtro que descarte resultados fuera de tema.

No elijas el número por intuición. Armá un conjunto pequeño de entradas representativas, ejecutalo con la misma configuración y medí formato válido, cobertura de requisitos y cambios entre respuestas. Guardá el modelo, la versión de la API y el valor usado; un ajuste que funciona en un proveedor puede comportarse distinto en otro.

Temperature no reemplaza una instrucción clara, ejemplos, recuperación de fuentes ni validación. Subirla para “hacer al modelo más creativo” no garantiza ideas útiles, y bajarla no impide errores fácticos. Si la tarea requiere datos actuales, hay que aportar una fuente o usar una herramienta que los consulte.

También es un error combinar valores extremos con top-p, top-k u otros filtros sin medir el efecto conjunto. Algunas APIs recomiendan cambiar un solo control a la vez. Documentá la configuración y observá costo, latencia, tasa de reintentos y revisión manual para decidir si la variación realmente mejora el flujo.