Cuándo no confiar en los consejos de la IA: 5 decisiones que nunca debes delegar a un chatbot
Aquí hay una cifra que debería detenerte en seco: uno de cada 277 artículos biomédicos publicados a principios de 2026 contiene al menos una referencia que no existe. No es un hallazgo mal citado. No es una cita desactualizada. Es una fuente completamente inventada, conjurada por una IA, que ahora forma parte del registro científico revisado por pares. Solo ese hecho debería hacerte reflexionar, y plantea una pregunta incómoda sobre cuándo no confiar en los consejos de la IA.
La investigación, de la Universidad de Columbia y publicada en The Lancet, auditó 2,5 millones de artículos indexados en PubMed y encontró 4 046 referencias inventadas en 2 810 artículos. La tasa de fabricación pasó de aproximadamente cuatro citas falsas por cada 10 000 artículos en 2023 a 57 por cada 10 000 a principios de 2026, un aumento casi vertical que coincide con la adopción masiva de herramientas de escritura con IA. Y hay un detalle más silencioso y más inquietante: en el momento de la auditoría, el 98,4 % de esos artículos no había recibido ninguna retractación, corrección ni acción de la editorial. Ya hemos explorado esta brecha antes, en una historia sobre qué pasa cuando la IA da la respuesta equivocada y un experto real es la única solución.
De esa brecha trata esta publicación. No de si la IA es útil, que lo es. Sino de si hemos interiorizado con cuánta frecuencia se equivoca con total seguridad, y qué significa eso para las decisiones en las que equivocarse tiene consecuencias reales.
Las cifras crudas que nadie pone en una valla publicitaria
Pongamos los datos sobre la mesa.
En un estudio revisado por pares de 2025 en Communications Medicine, los grandes modelos de lenguaje alucinaron en el 64,1 % de los resúmenes extensos de casos clínicos cuando no se usaron indicaciones de mitigación. Incluso el modelo con mejor desempeño, GPT-4o, inventó detalles clínicos el 53 % de las veces sin indicaciones estructuradas. Con una mitigación cuidadosa, los investigadores redujeron la tasa global al 43,1 %, lo cual es mejor, pero aun así significa que casi la mitad de los resúmenes contenía información médica inventada.
El mundo jurídico va en paralelo. HAI y RegLab de Stanford encontraron que las herramientas de IA jurídica especializadas, no chatbots de uso general sino sistemas de investigación de nivel profesional, alucinan en el 17 al 34 % de las consultas difíciles. La investigación asistida por IA de Westlaw obtuvo aproximadamente un 34 %; Lexis+ AI, un 17 %. Para ponerlo en contexto, los abogados que usan estas herramientas no son aficionados. Son profesionales que pagaron por algo mejor que ChatGPT.
Las consecuencias están llegando a tribunales reales. Solo en el primer trimestre de 2026, los tribunales de EE. UU. impusieron más de 145 000 dólares en sanciones por alucinaciones de IA. Un solo caso en el Tribunal de Distrito de Oregón terminó en una multa de unos 110 000 dólares después de que unos abogados presentaran 23 citas inventadas en tres escritos federales. En Ohio, un juez federal describió las infracciones como las violaciones más flagrantes de la Regla 11 que había visto jamás y remitió a dos abogados a un proceso disciplinario.
El investigador Damien Charlotin, que mantiene una base de datos global de casos judiciales con alucinaciones de IA, ya ha catalogado más de 1 353 incidentes, y recientemente registró diez casos de diez tribunales distintos en un solo día.
La advertencia de ECRI que debería cambiar cómo buscas información
En enero de 2026, ECRI, una de las voces más respetadas en seguridad sanitaria, nombró el mal uso de los chatbots de IA como el peligro n.º 1 de la tecnología sanitaria para el año siguiente. Su preocupación no es hipotética. Más de 40 millones de personas usan ChatGPT a diario para preguntas relacionadas con la salud, y generan orientación médica sin ninguna supervisión regulatoria ni mecanismo de verificación.
No se trata de que la IA sea maliciosa. Se trata de un desajuste estructural: la tecnología está diseñada para generar texto que suene plausible, no para verificar hechos. Cuando le haces una pregunta médica, legal o financiera, produce una respuesta que parece correcta, a veces notablemente correcta, pero no tiene ningún mecanismo para saber si lo es. Ya hemos escrito sobre este mismo problema de arquitectura en nuestro artículo sobre por qué la IA que se hace pasar por humana es una línea que no podemos cruzar.
Las referencias inventadas en la literatura biomédica cuentan la misma historia desde otro ángulo. Como lo expresó el equipo de investigación de Columbia: “Un profesional médico o un desarrollador de guías clínicas no tiene forma de saber que la evidencia en la que se apoya no existe”. Y también señalaron que “la contaminación de más de 4 000 referencias inventadas no desaparece cuando la IA mejora”. Esas citas falsas ahora están incrustadas de forma permanente en el registro científico, a la espera de ser citadas por futuros artículos, futuras guías y futuras decisiones clínicas.
Las 5 decisiones que nunca debes delegar a un chatbot
Esto no es un llamado a abandonar la IA. Es un marco para saber cuándo hacer una pausa y buscar a una persona real. Estas son cinco categorías en las que los datos sobre alucinaciones indican que la relación entre riesgo y beneficio no cuadra.
1. Decisiones médicas, especialmente todo lo relacionado con síntomas o tratamientos
Cuando la IA alucina en el 64 % de los resúmenes de casos clínicos sin mitigación, y aun con indicaciones cuidadosas se equivoca en casi la mitad, no existe una versión de “déjame preguntarle a ChatGPT por este bulto” que califique como una decisión informada. La advertencia de ECRI existe precisamente porque millones de personas hacen exactamente eso. Un médico o una enfermera de práctica avanzada reales aportan algo que ningún modelo actual puede: responsabilidad por lo que te dicen y una licencia que depende de acertar.
2. Decisiones legales: trámites, contratos, cumplimiento normativo
Los datos de Stanford muestran que incluso las herramientas de IA jurídica de pago se equivocan entre una sexta parte y un tercio de las veces en consultas complejas. Los 145 000 dólares en sanciones del primer trimestre de 2026 son solo lo que los tribunales están detectando. Según la base de datos de Charlotin, más de 35 colegios de abogados estatales ya han emitido pautas de verificación de la IA. Si quienes aprobaron el examen de abogacía no pueden confiar de forma segura en estas herramientas, tú tampoco.
3. Decisiones financieras: estrategia fiscal, estructura de inversiones, planificación de deudas
El asesoramiento financiero comparte el mismo problema estructural: respuestas que suenan plausibles, sin mecanismo de verificación. Una respuesta errónea dada con seguridad sobre un retiro de jubilación o una deducción empresarial puede acumularse hasta causar un daño financiero real y, a diferencia de un asesor humano, la IA no asume ninguna responsabilidad por el resultado.
4. Decisiones de inmigración y trámites gubernamentales
El derecho migratorio comparte las mismas exigencias de precisión procesal que los litigios civiles, donde los datos sobre alucinaciones están mejor documentados. La IA inventa citas, tergiversa procedimientos y fabrica precedentes. En contextos migratorios, una sola presentación incorrecta puede significar meses de retraso, una denegación o algo peor. Estos sistemas son complejos e inflexibles. Una IA que alucina el 34 % de las veces en consultas legales no es una guía confiable para recorrerlos.
5. Salud mental y decisiones importantes de vida
Aquí el planteamiento de la “tasa de alucinación” se queda corto, porque el daño no está en los errores de hecho. Está en lo que falta. Los chatbots de IA pueden devolverte lo que les cuentas, pero no pueden percibir el tono, la vacilación ni lo que no estás diciendo. No pueden ejercer criterio clínico ni reconocer cuándo alguien necesita una intervención en crisis. Como ya hemos escrito, los terapeutas de IA se quedan cortos precisamente porque carecen de la profundidad perceptiva y relacional de una conversación real. Una conversación real con una persona capacitada opera en un plano completamente distinto de percepción y responsabilidad.
Un marco para saber cuándo no confiar en los consejos de la IA
El patrón en las cinco categorías es el mismo: en el momento en que una decisión conlleva consecuencias importantes e irreversibles, el resultado de la IA deja de ser una solución y pasa a ser, en el mejor de los casos, un punto de partida para una investigación que tú mismo verificas.
Esto no significa que debas reservar una costosa consulta para cada pregunta. Significa reconocer que algunos ámbitos exigen a un humano en el proceso: alguien a quien puedas hacerle preguntas de seguimiento, que asuma una responsabilidad real y que pueda decir “no lo sé, pero así podemos averiguarlo”.
Ese principio se aplica mucho más allá de las categorías profesionales de alto riesgo mencionadas. Es la misma razón por la que una videollamada en vivo supera a un video tutorial cuando la configuración de tu WiFi no coincide con las instrucciones en pantalla, o por la que un estudiante con dificultades necesita un tutor que detecte el momento exacto en que su comprensión flaquea. Tener a alguien que pueda ver tu pantalla, escuchar tu pregunta y responsabilizarse de la respuesta no es un lujo: es la base de una ayuda real.
Para momentos así, ya sea un problema técnico que no puedes resolver solo, una sesión de tutoría en la que un estudiante necesita más que una hoja de respuestas, o una habilidad en la que necesitas que otra persona te guíe, contar con alguien en una videollamada en vivo cambia la ecuación. No estás aceptando una respuesta plausible. Estás recibiendo una real, de alguien que puede responder a lo que realmente está pasando. Por supuesto, tú también puedes ser ese experto humano en el proceso y ayudar a otros a tomar decisiones informadas aprovechando las habilidades que tienes.
Las cifras de alucinaciones de la IA van a mejorar. Las indicaciones estructuradas ya reducen la tasa clínica del 64 % al 43 %. Mejores modelos reducirán la tasa de alucinaciones legales por debajo del 34 %. Pero el problema de fondo, que estos sistemas están diseñados para la plausibilidad y no para la verdad, no es un error a la espera de un parche. Es la arquitectura. Y para ciertas decisiones, esa arquitectura nunca será suficiente.