Oráculo o herramienta
En este artículo
Hace poco una amiga me pidió consejo. Le gusta mucho la inteligencia artificial y la usa a menudo, sobre todo para dibujar y escribir. Esta vez quería que ChatGPT le hiciera un plan de dieta. Ya tenía una idea intuitiva de lo que buscaba y dudaba entre dos opciones: paleo o cetogénica.
ChatGPT le dio la respuesta de siempre: si vas al gimnasio, necesitas hidratos de carbono. Con su explicación, sus mecanismos y hasta alguna referencia a la evidencia. Puede que tenga razón. Pero que una respuesta venga bien argumentada no la convierte en correcta, ni en la única opción.
Hablando con ella vi algo que me parece más útil que la dieta. Los muros con los que choca no son límites de la IA. Son límites suyos, y chocar con ellos sirve precisamente para eso: para ver dónde están. Lo que le pasa a ella le pasa a la mayoría de la gente que usa la IA de forma ocasional. En una empresa, esos usuarios son casi todos.
La primera respuesta es la convencional
Un modelo de lenguaje tiende a darte lo más repetido. Aprendió de lo que se ha escrito, y lo que más se ha escrito sobre nutrición es la recomendación mayoritaria. Cuando una pregunta tiene un consenso amplio y sólido, eso está bien. Pero para una decisión personal en la que hay varias opciones defendibles, la respuesta por defecto es un punto de partida, no un veredicto.
Hay un detalle que casi nadie fuera del sector conoce, y explica buena parte del problema. El modelo responde primero con lo que tiene más a mano: lo que aprendió durante su entrenamiento, o el documento que le hayas pasado. Puede buscar en internet, leer estudios y contrastar fuentes, pero a menudo solo lo hace si se lo pides. La primera respuesta suele ser la más repetida, no la mejor fundada.
Y se nota más en las versiones gratuitas. La herramienta de pago es mejor que la gratuita, y en esto se ve: las respuestas genéricas, que no se ajustan a lo que pides, las veo mucho más en la versión gratuita, y mi amiga también. En la de pago pasa bastante menos.
No te falta conocimiento, te falta criterio
Lo primero que me dijo mi amiga fue que ella no sabe de nutrición. Ni de bioquímica, ni de cómo responde el músculo al entrenamiento. Mi respuesta fue que no lo necesita. Si para usar la IA tuvieras que saber ya la respuesta, no te serviría de nada.
Lo que sí necesitas es un método. ¿Con qué criterio decides si aceptas algo? ¿Qué te basta para darlo por cierto? Esa pregunta va antes que cualquier dato.
Yo tengo uno para los ensayos (escribí sobre ello aquí) y otro para investigar sobre la Biblia y sobre ontología (lo tengo en un repositorio público). En los dos casos choco con lo mismo: la IA mezcla tipos de conocimiento. No distingue bien un dato histórico de una interpretación teológica, ni qué evidencia vale para cada uno. Eso se lo tengo que decir yo, o discutirlo con ella la primera vez.
Ese método tiene nombre: epistemología, la parte de la filosofía que estudia cómo sabemos lo que sabemos. No hace falta estudiarla. Basta con unas nociones, aunque sean intuitivas, y la principal es que no todo conocimiento se apoya en la misma clase de evidencia:
- Formal. La lógica y las matemáticas. Se apoya en la demostración. Un argumento válido no te da la verdad por sí solo: te garantiza que, si las premisas son ciertas, la conclusión también lo es.
- Experimental. Lo que se puede reproducir en condiciones controladas y acotadas. Se apoya en experimentos que otros pueden repetir.
- Observacional. Los sistemas abiertos, que no se pueden aislar ni repetir: una sociedad, una economía, la salud de una población a lo largo de décadas. Se observan, se comparan grupos y se miden correlaciones, pero no se controla todo lo que influye.
- Histórico. Lo que ya ocurrió y no se puede repetir. Se apoya en evidencia de tipo forense: restos, documentos, testimonios y la convergencia de varias huellas independientes.
- Personal. Lo que depende de ti: tus objetivos, tus valores y tu propia experiencia, es decir, si te funciona y si puedes mantenerlo. La evidencia general informa, pero la tuya también cuenta.
La IA tiende a mezclar estas categorías. Presenta una correlación observada como si fuera un resultado experimental, o descarta un hecho histórico bien documentado porque no se puede reproducir en un laboratorio. Con esto claro, cuatro preguntas cubren casi todo:
- ¿De qué tipo es esta afirmación?
- ¿Qué evidencia vale para ese tipo, y cuál me está dando?
- ¿En qué se basa esta respuesta en concreto? No en general: esta.
- ¿Qué alternativas serias hay y en qué se diferencian?
La nutrición muestra bien por qué importa. Es, sobre todo, conocimiento observacional: lo que pasa con una dieta a lo largo de años sale de seguir a poblaciones, no de un laboratorio. Los mecanismos, en cambio, sí se estudian con experimentos: qué hace una hormona, cómo se usa un nutriente. Y cada parte necesita a la otra. Un mecanismo demostrado no te dice cuánto pesa en la vida real hasta que la observación lo corrobora, porque otros mecanismos pueden anularlo. Y una correlación observada sin un mecanismo que la explique puede estar mezclada con otras causas.
Hay además una evidencia histórica que se suele descartar: cómo se ha alimentado el ser humano a lo largo de su historia y cómo ha evolucionado con esa alimentación. No zanja nada por sí sola, pero yo la uso para desempatar cuando no hay consenso: ante la duda, qué comerías en tu estado natural. Sobre cómo evaluar el conocimiento sin esperar al consenso escribí un libro, Science Catch-Up.
Elegir entre paleo y cetogénica es, al final, una decisión personal. Ningún oráculo puede contestarla por ti. Lo que la IA sí puede hacer es reunir la evidencia sobre cada opción, decirte de qué tipo es y dónde no hay acuerdo. La decisión la tomas tú, con tus objetivos delante, y la pone a prueba tu propia experiencia: si te sienta bien y si eres capaz de mantenerla.
Oráculo o herramienta
La segunda limitación que vi es la que da título a este artículo. Mi amiga usa la IA como un oráculo: pregunta, recibe una respuesta y la acepta o la rechaza entera. Usarla como herramienta es otra cosa: pedirle que justifique lo que dice, que te dé la fuente, que busque alternativas y las compare.
La diferencia se ve mejor con la misma petición hecha de las dos formas. Como oráculo:
Hazme una dieta para ir al gimnasio.
Como herramienta:
Estoy dudando entre una dieta cetogénica y una paleo. Entreno fuerza tres días a la semana y quiero perder grasa sin perder músculo. Busca revisiones y estudios recientes sobre cada una para este objetivo. En cada afirmación, dime qué tipo de evidencia hay detrás (ensayo clínico, estudio observacional u opinión de expertos) y señala dónde no hay acuerdo. Después compáralas y, con la que mejor encaje, hazme un plan de dos semanas.
La segunda no exige saber nutrición. Exige saber qué quieres y qué aceptas como prueba.
Si sabes algo o sospechas de algo, díselo: «he leído que la cetogénica empeora el rendimiento en series largas, ¿es cierto? Búscalo». A mí me ha pasado muchas veces saber algo que la IA no me había dicho; en cuanto le pido que lo busque, lo encuentra. Pero aunque no sepas nada, siempre puedes pedirle que justifique lo que dice. Eso ya cambia la conversación.
Tampoco esperes la respuesta ideal a la primera. Usarla como herramienta es iterar: a menudo hay que investigar más, completar alguna parte o incluso replantearte tu propio criterio o tus objetivos para aclararte. El método no te da la respuesta de golpe. Te dice cómo seguir en cada vuelta.
Discutir una sola vez
El problema de todo lo anterior es que cansa. Si cada conversación empieza discutiendo con el modelo sobre qué evidencia aceptas, acabas volviendo al oráculo.
No hace falta. Las propias plataformas te dejan fijar las instrucciones para que no tengas que repetirlas: la memoria de ChatGPT, Claude o Gemini, los proyectos con instrucciones propias, o un asistente personalizado (un GPT, un Gem). No requiere saber nada de ingeniería; está en la configuración de la aplicación que ya usas. Discutes una vez, escribes lo que aprendiste y ya está.
Unas instrucciones así bastan para empezar:
Cuando te pregunte sobre salud, nutrición o cualquier tema donde haya debate, no me des solo la recomendación mayoritaria. Dime qué tipo de evidencia hay detrás de cada afirmación, distingue el consenso de las opiniones, presenta las alternativas serias y busca fuentes antes de responder si el tema lo merece. Si no hay acuerdo, dilo.
Mi impresión, y no solo la mía, es que Gemini y Claude se adaptan algo mejor a lo que les pides, y ChatGPT es un poco más pelotudo. Pero todos lo necesitan. Con Gemini me pasó que, hasta que no activé la memoria, no se acordaba de ciertas cosas y tendía a usar las definiciones populares en lugar de las rigurosas. Una vez escrito, se acabó.
Lo que enseña el muro
Si algo bueno tiene chocar con estos muros es que te enseñan dónde está tu propio límite. A mí la conversación con mi amiga me enseñó dónde estaba el suyo, y no era el que ella creía. No le faltaba saber nutrición. Le faltaba decidir qué iba a aceptar como respuesta, y pedírselo a la herramienta.
Eso se aprende, y tarda poco. Y si trabajas con IA a diario, tienes la oportunidad, y yo diría que algo de responsabilidad, de enseñarlo en tu entorno, en casa o en el trabajo. La pregunta difícil nunca fue cuánto delegas en el modelo. Es si sigues sabiendo distinguir cuándo la respuesta está mal. Para eso no hace falta saber de todo. Hace falta un criterio, escrito en algún sitio.