Cadena de pensamiento · CoT
Chain of Thought
¿Qué es la cadena de pensamiento?
- Hacer que piense «el proceso de resolución paso a paso»
- Mayor precisión en razonamiento complejo ↑
- Inducido mediante prompt
CoT cambia algo más que la tasa de acierto. Una respuesta que llegaba como un solo bloque se divide en varias líneas verificables, y así el responsable puede decir no solo «esta respuesta está mal», sino «el tipo de cambio del tercer paso está mal». En lugar de descartar todo el resultado y pedirlo de nuevo, se corrige únicamente el paso desviado. Cuando el control de calidad se aplica al proceso y no solo al resultado, la gestión de calidad en el trabajo se vuelve posible.
Hay dos formas principales de usarla. Una es el método zero-shot, que consiste en agregar al final de la instrucción una sola línea como «Resuélvelo paso a paso». La otra es el método few-shot, en el que se muestran de antemano dos o tres ejemplos con su proceso de resolución. Si su empresa tiene un orden de cálculo o de aplicación de normas ya definido, la segunda opción es mucho más estable. También se usa la autoconsistencia (self-consistency), que consiste en resolver el mismo problema tres o cuatro veces y elegir la respuesta final por mayoría. Sin embargo, los modelos recientes especializados en razonamiento ya siguen pasos internamente, por lo que agregar «piénsalo con calma» aporta poco y solo multiplica los tokens de respuesta, lo que puede elevar el costo y la latencia.
El efecto tampoco es uniforme en todas las tareas. La diferencia es clara en trabajos que implican combinar condiciones o aplicar normas en orden; en cambio, en tareas como traducir o pulir un texto, que no tienen pasos intermedios, solo aumenta la extensión. La pregunta clave es si la tarea puede dividirse en pasos. Además, pedir que se muestren los pasos y fijar el formato de salida en tabla son cosas distintas: lo segundo solo exige una presentación ordenada, mientras que CoT consiste en indicar el orden del razonamiento.
El malentendido más común es creer que el procedimiento que aparece en pantalla es la verdadera base de la respuesta de la IA. El modelo puede escribir primero un procedimiento plausible y luego justificar con él una respuesta equivocada. Cuanto más fluido es el procedimiento, más se relaja el revisor: una cotización con un solo número mal cargado pasa la aprobación solo porque el razonamiento parece lógico. Por eso es indispensable un paso que contraste los números intermedios con la lista de precios y los registros, y, en documentos que se entregan al cliente, es más prudente no adjuntar tal cual el procedimiento de razonamiento.
John KimAutor de «Diseño de marketing B2B» y CEO de Nanum Consultoría
Ara LimEspecialista en liderazgo global, IA y comunicación empresarialEn 2022, un equipo de investigación de Google, encabezado por Jason Wei, presentó el artículo «Chain-of-Thought Prompting Elicits Reasoning in Large Language Models». En él demostró que, si se hace que el modelo genere pasos intermedios de razonamiento, mejora de forma notable su desempeño en razonamiento, sobre todo en los modelos grandes.
Veamos un caso hipotético. La empresa A, un distribuidor de componentes industriales con 180 colaboradores y ventas anuales en el rango de KRW 90,000,000,000, (≈ US$67,362,200) calcula cada cotización superponiendo descuentos por rango de cantidad, tipo de cambio y flete marítimo. Cuando el equipo de soporte de ventas ingresó las condiciones en el chatbot de IA interno, la respuesta llegó en un segundo, pero al revisar por muestreo 40 casos del mes pasado, en 9 el monto final era incorrecto. Como las cotizaciones se devolvían una y otra vez, el líder del equipo abrió una mejora de tres semanas.
- El jefe de sección Kim, del equipo de apoyo a ventas, agregó al final de su prompt original la línea «aplicar el descuento → convertir con el tipo de cambio → sumar el flete; anotar el monto de cada paso y al final el total» y volvió a ejecutarlo.
- Cuando la IA entregó, uno tras otro, los precios unitarios, las tasas de descuento por tramo y los valores de tipo de cambio aplicados, el revisor dejó de mirar solo el total y empezó a verificar desde la tercera línea, donde figuraba la fecha de referencia del tipo de cambio.
- Al cabo de tres días se encontró la causa. 7 de los 9 casos erróneos eran errores de doble descuento, por lo que el líder fijó en el prompt la frase «El descuento se aplica una sola vez».
- En las compras recurrentes simples, con una tabla de precios sin cambios, decidimos no usar CoT. Durante las primeras dos semanas, los tokens de respuesta por caso se multiplicaron por 3 o 4 y el costo mensual de la API subió más de 40%.
- Tres semanas después, al revisar 40 casos con el mismo método, los errores bajaron de 9 a 2, las recotizaciones pasaron de 11 a 3 por semana y el tiempo de revisión por caso bajó de un promedio de 6 minutos a poco más de 2.