¿Se puede confiar en la IA para tomar decisiones? Cuándo sí y cuándo no
«¿Me fío de lo que me ha dicho la IA?» Es una buena pregunta y casi nunca recibe una respuesta honesta. Los entusiastas dicen que sí a todo; los escépticos dicen que no a todo. Ninguna de las dos posturas te sirve cuando tienes una decisión encima de la mesa esta tarde.
La respuesta útil es que depende del tipo de decisión, y la línea se puede trazar con bastante claridad.
Tres tipos de decisión
Donde la IA es sencillamente buena. Decisiones con información pública, sin datos tuyos que sean determinantes y donde el coste de equivocarse es bajo o reversible. Qué llevar a un viaje, cómo estructurar una carta difícil, qué preguntas hacer en una entrevista, cómo funciona algo que no entiendes. Aquí no necesitas prudencias: úsala.
Donde ayuda, pero no decide. Decisiones importantes, con matices, donde faltan datos que solo tienes tú: cambiar de trabajo, aceptar una oferta, un gasto grande, una conversación difícil. Aquí la IA es muy útil para ordenar el problema —qué variables hay en juego, qué te estás olvidando, qué preguntas deberías estar haciéndote— pero la decisión final tiene una parte que no le puedes delegar, porque depende de cosas que no le has contado y probablemente no sabrías ni cómo contarle.
Donde no deberías usarla. Salud. Crisis personales. Cualquier cosa con consecuencias legales vinculantes o dinero de tu patrimonio a título personal. No porque la IA diga tonterías, sino porque el coste de un error no es recuperable y porque en esos casos hay profesionales cuya función es exactamente esa, incluyendo responder de lo que te dicen.
Esto último no es una fórmula para cubrirnos las espaldas: es la política de The Judge. Ante una consulta de salud no arbitramos, derivamos. Preferimos no responder a responder algo que suene bien.
Las tres cosas que fallan
Si te quedas con tres ideas sobre por qué desconfiar, que sean estas.
Una IA nunca dice que no sabe. Genera la respuesta más probable, no la más verdadera. La mayor parte del tiempo coinciden. Cuando no coinciden, no hay ninguna señal visible que las distinga: el mismo tono seguro sirve para lo que domina y para lo que está rellenando.
La misma pregunta da respuestas distintas. Cambia el orden de las frases, pregúntalo mañana, o pregúntaselo a otra IA, y puedes recibir un consejo diferente. Si tu decisión depende de cuál te tocó, no estabas decidiendo con información: estabas decidiendo a suertes.
Te va a dar la razón. Es lo más difícil de detectar porque sienta bien. Si formulas la pregunta dejando ver lo que quieres oír —y casi siempre se nota—, la respuesta va a tender hacia ahí. Una IA no tiene ningún incentivo para llevarte la contraria.
Cómo usarla sin que te la juegue
Cuatro hábitos que cambian el resultado más que cualquier truco de redacción:
Pregunta en contra de ti mismo. En vez de «¿es buena idea aceptar esta oferta?», prueba con «¿qué razones hay para rechazar esta oferta?». Vas a leer cosas que la otra formulación nunca te habría enseñado.
Separa el dato de la opinión. Los datos —cifras, fechas, normativa— se verifican en una fuente, no se discuten con la IA. El razonamiento sí puedes evaluarlo tú leyéndolo.
Contrasta cuando importe. Pregunta a dos IAs distintas. Si coinciden, tienes una razón real para confiar. Si discrepan, acabas de encontrar el punto exacto donde pensarlo dos veces.
Fíjate en si matiza. Una respuesta experta de verdad casi siempre incluye un «depende de…». Una respuesta rotunda a una pregunta que no es rotunda es una señal de aviso, no de solvencia.
Confianza no es un sí o un no
La palabra «confiar» hace daño aquí, porque suena a interruptor: o te fías o no te fías. En la práctica la confianza tiene grados, y lo honesto es decir de cuánto estamos hablando.
Por eso cada veredicto de The Judge viene con un nivel de confianza explícito. Un 91% y un 68% se leen distinto y se actúan distinto: con un 68 la respuesta sigue siendo útil, pero te está diciendo que la mires con lupa y que la última palabra es tuya.
Y por eso también avisamos cuando el jurado no se pone de acuerdo. Es la información que un sistema que solo quisiera parecer competente te ocultaría.
Lo que sí resuelve un jurado
Ninguna herramienta va a quitarte la incertidumbre cuando el asunto es genuinamente incierto. Prometerlo sería mentir.
Lo que sí se puede quitar es la arbitrariedad: que tu respuesta dependa de qué IA te atendió, de cómo formulaste la frase o del día que era. Ahí sí hay una diferencia real entre preguntar a una y convocar a un jurado con un juez que aplica siempre la misma vara.
Una opinión suelta y una opinión respaldada por varias no valen lo mismo, aunque digan lo mismo.
Mira cómo funciona o pruébalo con la decisión que tengas ahora encima de la mesa.