Verificación de la cadena de pensamiento: más allá de una simple indicación

Los límites de la cadena de pensamiento ingenua

La estimulación de la cadena de pensamiento fue un gran avance para el razonamiento de modelos, pero en entornos de producción no es suficiente. Los modelos pueden producir cadenas de razonamiento fluidas pero incorrectas, y sin verificación externa no hay manera de detectar estos fallos antes de que se propaguen.

La autocrítica como primer paso

Agregamos un paso de autocrítica en el que el modelo revisa su propia cadena de razonamiento frente a un conjunto de invariantes de dominio específico. Esto detecta errores lógicos e inconsistencias obvios sin requerir una llamada a una herramienta externa.

Cadenas de verificación externas

Para decisiones de alto riesgo, la autocrítica no es suficiente. Dirigimos el resultado del razonamiento a través de funciones de verificación deterministas que verifican los límites numéricos, la conformidad del esquema y el cumplimiento de las reglas comerciales. Solo se devuelven al usuario los resultados que pasan todas las etapas de verificación.