Cuando una inteligencia artificial responde una pregunta, ¿cómo decide exactamente qué palabra escribir después? ¿Y por qué dos respuestas a la misma pregunta pueden ser completamente distintas aunque uses el mismo modelo?
La respuesta está en dos parámetros que casi todos los modelos de lenguaje ofrecen: Temperatura y Top P. Ambos controlan la creatividad del modelo, pero lo hacen de maneras diferentes. Entender esta diferencia te permitirá obtener respuestas mucho más predecibles o mucho más creativas, según lo que necesites.
¿Qué son la Temperatura y el Top P?
Cada vez que un modelo genera una palabra, no elige una única opción desde el principio. Primero calcula miles de posibles palabras y asigna una probabilidad a cada una.
Imagina que después de escribir:
"El cielo es..."
el modelo calcula algo como:
- azul → 82%
- gris → 10%
- despejado → 5%
- infinito → 2%
- delicioso → 1%
Aquí es donde entran la Temperatura y el Top P. Ambos modifican la forma en que el modelo elige la siguiente palabra, pero no lo hacen igual.
Una analogía: elegir una carta de una baraja
Imagina que tienes una baraja ordenada desde la mejor carta hasta la peor. La Temperatura decide qué tan dispuesto estás a elegir cartas raras.
- Con temperatura baja casi siempre eliges la mejor carta.
- Con temperatura alta te animas a probar cartas menos probables.
Top P, en cambio, decide cuántas cartas hay disponibles para elegir. Puede decir:
"Solo puedes escoger entre las cartas que juntas representan el 90% de las mejores opciones."
Todo lo demás desaparece de la mesa. Mientras la temperatura modifica las probabilidades, el Top P modifica el conjunto de opciones disponibles.
¿Cómo funciona realmente?
Supongamos que el modelo calcula estas probabilidades:
| Palabra | Probabilidad |
|---|---|
| Azul | 60% |
| Gris | 20% |
| Blanco | 10% |
| Celeste | 5% |
| Rojo | 3% |
| Verde | 2% |
Temperatura
La temperatura redistribuye estas probabilidades. Con una temperatura muy baja (por ejemplo 0.2):
- Azul puede subir hasta cerca del 90%.
- Las demás opciones prácticamente desaparecen.
El modelo será muy consistente y repetirá respuestas similares. Con una temperatura alta (por ejemplo 1.5):
- Azul pierde ventaja.
- Gris, Blanco, Celeste e incluso Rojo tienen muchas más posibilidades.
El resultado será mucho más variado y creativo. En pocas palabras:
- Temperatura baja = respuestas más predecibles.
- Temperatura alta = respuestas más originales.
Top P
Top P funciona diferente. No cambia las probabilidades primero. En cambio, empieza desde la palabra más probable y va sumando probabilidades hasta alcanzar un límite. Si usamos un Top P de 0.9, el modelo toma:
- Azul (60%)
- Gris (20%)
- Blanco (10%)
Ya suma el 90%.
Las demás opciones quedan descartadas. El modelo únicamente elegirá entre esas tres. Si el Top P fuera 0.5, solamente quedaría:
- Azul.
En ese caso prácticamente no existe creatividad.
¿Cuál debería modificar?
En la mayoría de los casos, no conviene cambiar ambos al mismo tiempo. Si aumentas la temperatura y además aumentas el Top P, ambos parámetros empiezan a influir sobre la aleatoriedad, haciendo más difícil predecir el comportamiento del modelo.
Por esa razón, muchos proveedores de modelos recomiendan ajustar solo uno y dejar el otro con su valor predeterminado.
Como regla general:
- Usa Temperatura cuando quieras controlar el nivel de creatividad de manera sencilla.
- Usa Top P cuando quieras limitar cuidadosamente las opciones entre las que el modelo puede escoger.
Ejemplo 1: Generar código
Le pides a la IA:
"Escribe una función en Python para ordenar una lista."
Con una temperatura de 0.1, probablemente siempre obtendrás una implementación muy parecida. Esto es ideal porque en programación normalmente buscamos respuestas consistentes y correctas.
Ejemplo 2: Escribir una historia
Ahora le dices:
"Inventa el inicio de una novela de ciencia ficción."
Con una temperatura de 1.2, cada ejecución puede producir personajes, escenarios y giros completamente diferentes. Aquí la creatividad sí aporta valor.
Errores comunes
Muchas personas creen que Temperatura y Top P hacen exactamente lo mismo. No es cierto.
- La Temperatura modifica cómo se distribuyen las probabilidades.
- El Top P limita el conjunto de palabras entre las que el modelo puede elegir.
Aunque ambos afectan la creatividad, utilizan mecanismos distintos.
Idea clave
La temperatura decide qué tan atrevida será la elección; el Top P decide entre cuántas opciones puede elegir el modelo. Entender esta diferencia te permite controlar si una IA será más precisa o más creativa.
