IA, conocimiento y criterio

En marzo de 2023, los abogados de un pasajero que había demandado a Avianca presentaron ante un tribunal federal de Nueva York un escrito apoyado en varias sentencias. Varias de ellas no existían.

Las había generado ChatGPT. El problema no fue solo el error, sino la falta de verificación. Ahí aparece la pregunta de este artículo: si una máquina puede producir respuestas convincentes en segundos, ¿qué hace falta para convertirlas en conocimiento fiable?

1. Responder no es saber

Uno de los abogados buscó una de esas sentencias y no la encontró. Aun así, no lo advirtió al tribunal. Cuando preguntó al propio ChatGPT si los casos eran reales, el sistema respondió que sí y que podían consultarse en las grandes bases de datos jurídicas. Su compañero, el abogado que firmaba el escrito, no había leído ninguna de las resoluciones citadas.

Al imponer las sanciones, en junio de 2023, el juez dejó un matiz que suele olvidarse: usar como ayuda una herramienta de inteligencia artificial fiable no tiene nada de impropio. Lo sancionable era otra cosa. Quien firma ante un tribunal responde de la exactitud de lo que presenta, y aquellos abogados siguieron defendiendo sentencias inexistentes cuando ya había señales claras de que no lo eran.

Durante mucho tiempo, obtener una buena respuesta exigía encontrar información, leerla, compararla y elaborar una explicación. La IA generativa comprime buena parte de ese proceso: un resumen, una comparación o una propuesta técnica llegan en segundos.

Eso cambia radicalmente lo que cuesta producir una respuesta. No cambia lo que la hace fiable.

El perfil de IA generativa del Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) llama confabulación a uno de los riesgos característicos de estos sistemas: generar contenido erróneo o falso y presentarlo con seguridad. Y añade un agravante: la respuesta puede venir acompañada de razonamientos o citas que parecen justificarla y que llevan a confiar en ella más de lo debido. Es exactamente lo que ocurrió en Nueva York.

El experimento de Fabrizio Dell’Acqua y sus colaboradores con 758 consultores de Boston Consulting Group permite medir el problema. Los investigadores diseñaron una tarea de análisis empresarial que quedaba, a propósito, fuera de lo que GPT-4 resolvía bien: para acertar había que cruzar los datos de una hoja de cálculo con detalles sutiles de unas entrevistas. Sin IA, acertó el 84,5 % de los consultores. Con IA, el acierto bajó al 60 % o al 70,6 %, según el grupo: una caída media de 19 puntos.

Lo más inquietante vino después. Unos evaluadores que no conocían la solución correcta puntuaron la claridad y la capacidad de persuasión de cada recomendación. Las elaboradas con IA resultaron más coherentes y convincentes, también cuando estaban equivocadas.

La forma de una respuesta y la solidez de su fundamento pueden separarse. Antes, una explicación torpe solía delatar un razonamiento débil. Ahora una respuesta impecablemente escrita puede descansar sobre un análisis erróneo. La fluidez, por sí sola, no es un indicio de fiabilidad.

En Cómo se construye y circula el conocimiento vimos que casi todo lo que sabemos descansa en otros, y que confiar con fundamento exige buenas razones: revisión por pares, replicación, trazabilidad. La IA no elimina esa necesidad; la hace más visible. Producir una respuesta y justificar que merece confianza son dos trabajos distintos.

2. Lo que la IA sí puede ampliar

Sería un error sacar de todo esto una conclusión defensiva: si la IA puede equivocarse, mejor no delegarle nada.

El mismo experimento lo desmiente. En las dieciocho tareas que sí quedaban al alcance de GPT-4 —proponer ideas para un producto, segmentar un mercado, redactar un comunicado—, los consultores que usaron IA completaron un 12,2 % más de tareas, las terminaron un 25,1 % más rápido y entregaron trabajos de mayor calidad. Los autores llaman a ese contorno frontera tecnológica irregular: tareas que parecen igual de difíciles pueden caer a uno u otro lado, y quien trabaja con la herramienta no siempre sabe de antemano por dónde pasa la línea.

Descargar trabajo mental en algo externo tampoco es una novedad. La psicología cognitiva lo llama descarga cognitiva: anotamos una reunión en el calendario del móvil, usamos la calculadora o dejamos que el GPS recuerde la ruta. La revisión de Evan Risko y Sam Gilbert recoge mejoras de rendimiento gracias a esa descarga en percepción, memoria, aritmética o razonamiento espacial. El problema no es delegar, sino delegar mal.

La IA lleva esa posibilidad mucho más lejos. Sirve para explorar un tema, condensar documentación, plantear alternativas o dar una primera forma a un problema. Su valor no siempre está en la respuesta final, sino en ampliar el terreno que somos capaces de recorrer.

Pero, como vimos en La era del conocimiento, disponer de información no equivale a comprenderla. El significado de una respuesta depende del contexto en que se usa, de lo que ya sabe quien la interpreta y de lo que ocurre si se actúa sobre ella. No hace falta trazar una frontera rígida entre lo que sabe la máquina y lo que sabe la persona. Basta con aceptar algo más práctico: no todo lo que importa para una decisión está en la respuesta.

A veces faltará contexto local; otras, experiencia, o una restricción que nadie escribió. Y casi siempre faltará algo más difícil de delegar: decidir qué consecuencias estamos dispuestos a asumir si la respuesta resulta equivocada.

3. El cuello de botella cambia: de encontrar a evaluar

Cuando encontrar información y redactar una respuesta llevaba tiempo, el esfuerzo intelectual se concentraba ahí. Si una herramienta hace parte de ese trabajo en segundos, el esfuerzo no desaparece: se desplaza.

Hao-Ping Lee y sus colaboradores lo documentaron en un estudio presentado en la conferencia CHI 2025. Preguntaron a 319 personas que usaban IA generativa en su trabajo al menos una vez por semana por 936 situaciones reales. Es una encuesta: recoge lo que los participantes perciben, no mide su pensamiento crítico ni demuestra causas. Aun así, el patrón es nítido. Cuanta más confianza tenían en que la IA resolvería la tarea, menos pensamiento crítico declaraban. Cuanta más confianza tenían en su propia capacidad para hacerla y evaluarla, más.

El estudio describe además cómo cambia el tipo de esfuerzo. Recordar y comprender pasa de reunir información a verificarla. Aplicar pasa de resolver a integrar la respuesta en el propio trabajo. Analizar, sintetizar y evaluar pasa de ejecutar a supervisar. No pensamos necesariamente menos: pensamos en otro sitio.

Eso obliga a precisar qué significa evaluar una respuesta.

Cuatro preguntas antes de dar una respuesta por buena

¿Hay una fuente verificable? Una afirmación que remite a una fuente identificable puede evaluarse; una que solo afirma, apenas. Pero la cita no basta por sí sola: en Nueva York, las referencias tenían toda la apariencia jurídica y no existían.

¿Puede contrastarse de forma independiente? Preguntar al mismo sistema si su respuesta era correcta no es una comprobación. La verificación gana fuerza cuando cambia la fuente, el método o el punto de vista: el documento original para una afirmación documental, los datos de partida para una cifra, la documentación del fabricante, la normativa o una medición para una recomendación técnica.

¿Qué grado de incertidumbre hay? Una respuesta puede ser útil sin ser segura, siempre que sepamos distinguir una cosa de la otra. La definición de información de alta integridad que adopta el NIST incluye, precisamente, reconocer la incertidumbre y poder rastrear las fuentes originales. Los modelos de lenguaje, sin embargo, tienden a producir una respuesta incluso cuando no disponen de base suficiente para acertar. Un trabajo de Adam Kalai y otros investigadores, todavía sin revisión por pares, propone una explicación técnica: la forma en que se entrenan y evalúan estos modelos premia más arriesgar una respuesta que admitir que no se sabe. La explicación no es definitiva, pero la consecuencia práctica sí es firme: que una respuesta no exprese dudas no demuestra que sea segura.

¿Qué pasaría si fuese falsa? No todas las respuestas merecen la misma comprobación. Un error en una lista de ideas para una cena no cuesta lo mismo que uno en una recomendación médica, jurídica, financiera o de seguridad. Este criterio evita los dos extremos —confiar a ciegas o verificar cada frase— y ajusta la profundidad de la comprobación a lo que está en juego.

Comprobar no es lo mismo que evaluar

Incluso estas cuatro preguntas pueden dar una falsa sensación de seguridad si verificar se convierte en un trámite.

La investigación sobre automatización lo había visto mucho antes de ChatGPT. Raja Parasuraman y Dietrich Manzey revisaron numerosos estudios —con pilotos, radiólogos u operadores de sistemas industriales— en los que personas novatas y expertas seguían recomendaciones automáticas equivocadas. Para el tipo de uso de IA generativa que analiza este artículo, el error de comisión es la analogía más cercana: aceptar o seguir una respuesta incorrecta del sistema. Es una analogía, no una prueba: aquellos estudios se hicieron con sistemas muy distintos de un modelo de lenguaje.

Pero el mecanismo es revelador. En algunos experimentos, los participantes tenían a mano información fiable que contradecía al sistema y aun así seguían su recomendación. En uno de ellos, la mitad de quienes se equivocaron habían consultado toda la información necesaria. Los autores distinguen tres fallos: no comprobar; comprobar sin procesar lo que se ve, una especie de «mirar sin ver»; o descartar lo que contradice a la máquina.

Tener una fuente a mano no garantiza haberla evaluado. Verificar no es abrir otro enlace: es comparar, interpretar y estar dispuesto a abandonar una respuesta que ya parecía convincente.

4. Conocer el tema sigue importando

La IA resulta más tentadora justo cuando menos sabemos de un asunto: nos da en segundos una explicación que de otro modo nos costaría horas. Pero es entonces cuando peor detectamos sus errores.

La guía de UNESCO sobre IA generativa en educación e investigación lo advierte sin rodeos: la mayoría de las veces, los errores pasan desapercibidos a menos que el usuario posea sólidos conocimientos sobre el tema. Los participantes del estudio de Lee describen la misma dificultad: sin conocer el dominio, cuesta decidir si la IA acierta.

Eso conecta con otra idea: para aprovechar conocimiento nuevo necesitamos alguna base desde la que interpretarlo. En Cómo se construye y circula el conocimiento lo vimos a través de la capacidad de absorción de Cohen y Levinthal: cuanto mejor podemos relacionar lo nuevo con lo que ya sabemos, más fácil resulta reconocer su valor, asimilarlo y aplicarlo. La IA puede acelerar la entrada en un campo nuevo, pero no elimina esa relación entre conocimiento previo y capacidad para evaluar lo que recibimos.

Esto no significa que solo podamos usar la IA en lo que ya dominamos; perderíamos buena parte de su utilidad. Significa distinguir entre explorar y dar por sabido. Una IA sirve para entrar en un territorio nuevo: descubrir vocabulario, encontrar las preguntas adecuadas, identificar alternativas, construir una primera estructura. Pero cuanto más dependa una decisión de lo aprendido así, más necesarios son los contrapesos externos: fuentes originales, especialistas, documentación técnica, evidencia empírica.

El conocimiento del dominio cumple además otra función: permite ver lo que falta. Una explicación puede ser correcta en general e ignorar la excepción que importa en un caso concreto. Puede proponer una solución técnicamente posible e inaceptable por coste, seguridad, normativa o mantenimiento. Puede resumir a la perfección lo documentado y no captar la práctica informal que decide el resultado.

También hay conocimiento que no se agota en lo que puede escribirse o documentarse. Michael Polanyi lo resumió en una frase que ya recogimos en Cómo se construye y circula el conocimiento: sabemos más de lo que podemos decir. Parte de lo que sabemos está ligado a la experiencia, la práctica y el contexto. Una IA puede trabajar con enormes cantidades de conocimiento codificado e incluso ayudar a hacer explícitas algunas regularidades, pero eso no garantiza que en una respuesta esté presente todo el conocimiento relevante para una situación concreta. La cuestión práctica no es decidir qué «sabe» la máquina, sino reconocer qué parte de lo necesario para decidir está realmente contenida en la respuesta y qué parte depende todavía del contexto y la experiencia.

Saber no consiste solo en comprobar si una frase es verdadera. Consiste también en situarla. Y situarla incluye preguntarse quién responde de ella.

5. Delegar trabajo no es necesariamente delegar criterio

La responsabilidad no cabe en una regla sencilla como «el usuario siempre debe verificar lo que dice la IA». Dos casos lo muestran.

En el de Avianca, los abogados tenían un deber profesional específico sobre lo que presentaban. Había señales de alarma, medios para comprobar y un firmante que no había leído lo que firmaba. Filtrar formaba parte de su papel.

La revisión de Parasuraman y Manzey describe un fenómeno que ayuda a entender ese último detalle, aunque no habla de este caso: al compartir una tarea, con una máquina o con otras personas, la responsabilidad tiende a diluirse. Ni la formación ni las instrucciones de verificar bastan para evitar el sesgo de automatización; sentirse responsable del resultado parece reducirlo en algunos estudios, aunque la evidencia no es concluyente.

El caso de Air Canada es casi el inverso. En noviembre de 2022, un pasajero consultó el chatbot de la aerolínea sobre la tarifa reducida por fallecimiento de un familiar. El chatbot le dijo que podía solicitarla después de viajar; la página a la que el propio chatbot enlazaba decía lo contrario. Air Canada sostuvo que no respondía de lo que dijera el chatbot. El tribunal de resolución civil de la Columbia Británica rechazó tratarlo como una entidad separada: la empresa responde de toda la información de su web, venga de una página estática o de un chatbot. Y consideró razonable que el cliente confiara en él, porque no había motivo para exigirle que comprobara una parte de la web contra otra.

La resolución no dice qué tecnología usaba el chatbot, y sería incorrecto presentarlo como un caso de IA generativa. Pero ilustra algo más general: el deber de verificar depende del papel de cada uno. No tienen las mismas obligaciones quien consulta una herramienta, quien la incorpora a su trabajo profesional y quien la pone ante sus clientes.

La Recomendación de la OCDE sobre inteligencia artificial sigue esa lógica: atribuye la rendición de cuentas a cada actor según su papel y su contexto, y pide salvaguardas de acción y supervisión humanas también frente a usos fuera del propósito previsto. Una organización que despliega un sistema para atender a sus clientes no puede trasladar al último eslabón la tarea de desconfiar de cada respuesta.

Delegar una tarea tampoco libera de responsabilidad a quien la incorpora a su trabajo. Risko y Gilbert describen la descarga cognitiva como una decisión: delegamos cuando creemos que así nos irá mejor que sin ayuda. Esa creencia puede estar equivocada; su revisión recoge casos en que la gente delega sin ganar nada. Y cuando se trata de aprender, el beneficio depende de que lo delegado no sea justo lo que se pretende aprender, y de que el esfuerzo ahorrado se emplee en algo útil.

La pregunta útil, por tanto, no es «¿puede la IA hacer esto?». Es otra: ¿qué parte del trabajo quiero delegar y qué capacidad necesito conservar para evaluar el resultado?

6. Qué cambia cuando responder es barato

La IA generativa está abaratando de forma extraordinaria la primera respuesta. Eso es valioso: permite explorar más alternativas, resumir más documentación, formular más hipótesis y empezar tareas que antes exigían mucho más tiempo. Dentro de su frontera de capacidad, la ganancia puede ser muy grande.

Precisamente por eso cambia el lugar de la dificultad. Cuando una respuesta era cara, encontrarla valía mucho. Cuando diez respuestas cuestan casi lo mismo que una, lo valioso es saber cuál merece confianza, para qué sirve y qué arriesgamos al usarla.

No hay una frontera fija entre lo que puede delegarse y lo que no. Los modelos cambian, las tareas cambian y también nuestra capacidad para evaluarlos. El criterio no consiste en conservar celosamente cada tarea que antes hacíamos a mano, sino en decidir conscientemente dónde poner la supervisión: poca en una exploración sin riesgo, más cuando una afirmación vaya a convertirse en dato, y la máxima —con alguien que tenga el conocimiento, la autoridad y la responsabilidad de decidir— cuando las consecuencias importen.

La IA puede participar en todas esas etapas; puede incluso ayudar a comprobar, comparar y detectar inconsistencias. Lo que no desaparece es la necesidad de decidir qué cuenta como evidencia suficiente en cada contexto.

En La era del conocimiento propusimos un recorrido: dato → información → conocimiento → criterio → acción. La IA puede intervenir en casi todos sus pasos: ordenar datos, producir información, trabajar con conocimiento codificado, sugerir acciones. Pero abaratar las respuestas no las convierte en conocimiento. Entre una cosa y otra sigue habiendo un trabajo: situar, contrastar, medir la incertidumbre, aportar experiencia y asumir las consecuencias.

Ese trabajo puede apoyarse en máquinas, personas, documentos, procedimientos e instituciones; no tiene por qué recaer en un individuo aislado. Pero alguien —o algún proceso diseñado para ello— tiene que hacerlo.

Cuando responder cuesta menos, juzgar vale más.

Fuentes

• NIST (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1. https://doi.org/10.6028/NIST.AI.100-1
• NIST (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1. https://doi.org/10.6028/NIST.AI.600-1
• OCDE. Recommendation of the Council on Artificial Intelligence, OECD/LEGAL/0449 (2019, revisada en 2023 y 2024). https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
• UNESCO (2024). Guía para el uso de IA generativa en educación e investigación. Redacción de F. Miao con la colaboración de W. Holmes. https://unesdoc.unesco.org/ark:/48223/pf0000389227
• Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023), Opinion and Order on Sanctions, Dkt. 54. https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.54.0.pdf
• Moffatt v. Air Canada, 2024 BCCRT 149. https://decisions.civilresolutionbc.ca/crt/crtd/en/525448/1/document.do
• Dell’Acqua, F. et al. (2026). «Navigating the Jagged Technological Frontier». Organization Science, 37(2). https://doi.org/10.1287/orsc.2025.21838
• Lee, H.-P. et al. (2025). «The Impact of Generative AI on Critical Thinking». CHI ’25. https://doi.org/10.1145/3706598.3713778
• Parasuraman, R. y Manzey, D. H. (2010). «Complacency and Bias in Human Use of Automation: An Attentional Integration». Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
• Risko, E. F. y Gilbert, S. J. (2016). «Cognitive Offloading». Trends in Cognitive Sciences, 20(9), 676–688. https://doi.org/10.1016/j.tics.2016.07.002
• Cohen, W. M. y Levinthal, D. A. (1990). «Absorptive Capacity: A New Perspective on Learning and Innovation». Administrative Science Quarterly, 35(1), 128–152. https://doi.org/10.2307/2393553
• Polanyi, M. (1966). The Tacit Dimension. Doubleday.
• Kalai, A. T. et al. (2025). «Why Language Models Hallucinate». arXiv:2509.04664 (preprint). https://doi.org/10.48550/arXiv.2509.04664