Le preguntas a una IA si tu idea es buena y te dice que es buenísima. Le preguntas si es mala y te dice que también. No es casualidad: está entrenada para eso.
Un estudio de Stanford probó once modelos y encontró que afirman las acciones del usuario un 50% más que una persona. Lo peor no es eso. Lo peor es que la gente calificó esas respuestas complacientes como de mayor calidad, y confió más en el modelo que se las dio.
La salida no es cambiar de modelo. Es dejar de preguntarle a uno solo.
Andrej Karpathy publicó una idea simple: en vez de fiarte de una IA, montas un consejo de varias que se revisan entre ellas. Su versión original (karpathy/llm-council) es una app que corre en tu computador, manda tu pregunta a varios modelos, los hace revisarse sin saber quién escribió qué, y al final un modelo presidente sintetiza todo.
Esa parte del anonimato es la clave. Si los modelos saben de quién es cada respuesta, se hacen favores.
Después alguien lo convirtió en una skill con cinco roles fijos, que es la versión que te sirve a ti porque no hay que montar nada: se instala y se llama.
Cada uno mira tu idea desde un ángulo distinto. Ninguno está ahí para felicitarte.
Los nombres van traducidos, pero dentro de la herramienta aparecen en inglés. Te dejo los dos para que los reconozcas cuando los veas en pantalla.
Da por hecho que tu idea tiene una falla y la busca hasta encontrarla. No pregunta si hay un problema: pregunta dónde está.
No mira tu solución. Mira tu problema. Te pregunta si de verdad estás resolviendo el correcto, que es la pregunta que casi nadie se hace a tiempo.
El único que no ataca. Busca lo que podría salir mucho mejor de lo que estás pensando. Sirve cuando te estás quedando corto sin darte cuenta.
No sabe nada de tu sector, y ese es el punto. Hace las preguntas obvias que tú dejaste de hacerte hace años.