Formación

Alucinaciones IA: cómo detectarlas y reducirlas en el trabajo

Las alucinaciones IA tienen el mismo tono seguro que una respuesta correcta. Aquí verá de dónde vienen, qué comprobar según la tarea y cómo repartir la revisión en su equipo.

Qué son las alucinaciones IA y por qué ocurren

Una administrativa pide a un asistente que resuma un contrato de arrendamiento de cuarenta páginas. El resumen es claro y está bien ordenado, y menciona una cláusula de revisión anual de la renta que no aparece en el documento. Eso es una de las alucinaciones IA más típicas: un dato falso o inventado, presentado con el mismo aplomo que uno verdadero.

Un modelo de lenguaje, el programa que hay detrás de ChatGPT, Claude, Gemini o Copilot, genera la continuación de texto más probable a partir de lo que aprendió y de lo que usted le da. No consulta una base de hechos verificados, salvo que se le conecte a una fuente. Cuando falta información, rellena el hueco con algo verosímil en lugar de avisar de que no lo sabe.

En la oficina, las alucinaciones de la IA adoptan unas pocas formas que se repiten: un artículo de ley o una sentencia que no existe, una cifra redondeada o cambiada de fila, una cita atribuida a otra persona, una norma que era válida hace dos años o un resumen que añade lo que el documento lógicamente debería decir.

Ningún proveedor promete respuestas siempre exactas. El estudio de Harvard Business School y BCG con 758 consultores observó que quienes usaban IA lograban un trabajo más de un 40 % mejor y terminaban un 25 % más rápido en las tareas adecuadas, y que los resultados empeoraban cuando la usaban fuera de sus puntos fuertes. Por eso conviene saber en qué tareas falla.

Lista de control por tarea: qué revisar antes de usar la respuesta

El nivel de control depende de lo que pida. Estas son seis tareas habituales, del riesgo más bajo al más alto, con lo que hay que comprobar en cada una.

  • Reformular o corregir un texto suyo

    Riesgo bajo, porque el fondo es suyo. Relea aun así los nombres propios, las fechas y los importes, que el modelo a veces cambia al reformular. Con una lectura completa basta.

  • Resumir un documento que usted aporta

    Compare cada punto del resumen con el documento. Pida al modelo la página o el apartado de donde sale cada punto y compruebe tres referencias al azar. Si una falla, revise el resumen entero.

  • Traducir

    El sentido general suele ser correcto, los detalles no tanto. Revise negaciones, cifras, unidades y términos jurídicos o técnicos. Todo texto para un cliente debe leerlo alguien que domine el idioma.

  • Calcular o analizar cifras

    Un modelo de lenguaje puede equivocarse en una suma. Pida el cálculo detallado o hágalo en una hoja de cálculo, y rehaga un total a mano. No use un porcentaje sin saber sobre qué base se calcula.

  • Responder de memoria a una duda fiscal, laboral o legal

    Es la zona de más riesgo. Toda referencia (artículo, real decreto, sentencia, tipo, plazo o umbral) se busca en la web oficial antes de usarla. Si no aparece, se considera inventada.

  • Citar fuentes, estudios o estadísticas

    Abra cada enlace y compruebe que la página dice lo que la respuesta le atribuye. Los títulos de estudios y los nombres de autores inventados son una forma clásica de alucinación.

Cinco hábitos que reducen las alucinaciones

No sustituyen a la revisión. Hacen que los errores sean menos frecuentes y más fáciles de encontrar.

  1. 01

    Dé la fuente

    Pegue el documento, adjunte el archivo o trabaje en un proyecto que contenga sus referencias. Un modelo que responde a partir de un texto concreto inventa menos que uno que responde de memoria.

  2. 02

    Permita la respuesta «no lo sé»

    Escríbalo en la petición: «Si la información no está en el documento, dilo en lugar de completarla». Sin esa instrucción, el modelo tiende a rellenar los huecos.

  3. 03

    Pida el origen de cada afirmación

    Solicite la página, el apartado o la frase de donde sale cada punto. La revisión pasa de comprobarlo todo a hacer controles dirigidos.

  4. 04

    Divida las peticiones grandes

    Un informe de sesenta páginas procesado de una vez acumula más omisiones y añadidos que en tres partes. Trabaje sección por sección y luego junte el resultado.

  5. 05

    Pida la lista de puntos que verificar

    Al final de la respuesta, haga que el modelo enumere las cifras, nombres y referencias que contiene. El modelo no se corrige a sí mismo de forma fiable, pero esa lista sirve de guía a quien revisa.

Ejemplo

Una asesoría de Zaragoza pone reglas a sus respuestas a clientes

En este caso ilustrativo, una asesoría fiscal y laboral de Zaragoza tiene doce personas. Varias usan un asistente de IA para preparar respuestas a clientes sobre plazos de impuestos y de Seguridad Social. Un día, un borrador cita un plazo de presentación equivocado, y una socia lo detecta justo antes del envío.

La asesoría clasifica entonces sus usos con la lista de control. Reformular un correo ya escrito queda libre. Resumir un documento del cliente exige las referencias a las páginas. Toda fecha, tipo o umbral que aparezca en una respuesta a un cliente se comprueba en la web oficial del organismo correspondiente, y el enlace se guarda en la ficha del expediente.

También reescriben las peticiones tipo. El modelo trabaja con el texto oficial pegado en la conversación y debe responder «información no disponible» cuando no la encuentra. Una persona de referencia revisa cada semana una muestra de respuestas enviadas.

Para medirlo, la asesoría anota durante dos meses los errores detectados en la revisión, su tipo y la tarea en la que aparecen, además del tiempo dedicado a verificar. Con esas cifras decide qué tareas pueden bajar un nivel de control y cuáles siguen con doble revisión.

Una regla de equipo con tres niveles de revisión

La lista de control solo sirve si cada persona sabe qué le toca. Lo más sencillo es clasificar los usos de su equipo en tres niveles, en una sola página.

Nivel 1, uso interno con contenido aportado por la persona: reformular, hacer un esquema, preparar el borrador de una nota interna. Revisa quien lo escribe. Nivel 2, textos que salen de la empresa o resúmenes de documentos: el autor comprueba nombres, cifras y referencias antes de enviar. Nivel 3, contenido jurídico, fiscal, médico, financiero o contractual: cada referencia se verifica en la fuente oficial y una segunda persona da el visto bueno.

Añada dos costumbres. Cuando alguien detecte una alucinación, que la apunte en un archivo compartido junto con la petición original; en pocas semanas verá qué tareas dan problemas. Y deje claro que quien envía un texto responde de él, sea cual sea la herramienta con la que lo preparó.

Formar al equipo para revisar tan rápido como redacta

Detectar alucinaciones IA se aprende rápido cuando se practica con documentos propios. Elija tres tareas frecuentes de su equipo, aplique la lista de control durante dos semanas y anote lo que aparece.

Obinova es una agencia de IA con base en Barcelona y París. Nuestra formación cubre ChatGPT, Claude, Gemini y Microsoft Copilot, además de casos de uso concretos en el trabajo, y la verificación de respuestas forma parte del programa. Partimos de sus documentos y de sus tareas para construir con usted la regla de revisión y las peticiones tipo, en nuestra plataforma de vídeo o de forma presencial en su empresa.

Preguntas frecuentes

¿Por qué la IA tiene alucinaciones?

Porque un modelo de lenguaje genera el texto más probable a partir de lo que aprendió, sin comprobar los hechos. Cuando le falta información o la pregunta se sale de lo que conoce bien, produce una respuesta verosímil en lugar de reconocer que no lo sabe. Ocurre sobre todo con detalles precisos: cifras, fechas, referencias y nombres propios.

¿Se pueden eliminar del todo las alucinaciones de la IA?

No. Se pueden reducir aportando los documentos de referencia, permitiendo que el modelo diga que no sabe y dividiendo las peticiones. Las funciones que conectan el asistente a sus documentos o a una búsqueda web también ayudan, sin garantía. La revisión humana sigue siendo necesaria para cualquier texto que comprometa a la empresa.

¿ChatGPT alucina menos que Claude o Gemini?

Los resultados cambian según la versión del modelo, la tarea y el idioma, y varían con cada actualización. Ningún asistente está libre de ellas. Lo más útil es probar las herramientas con sus propias tareas, con la misma petición, y contar los errores. Las buenas prácticas de verificación son las mismas con cualquier herramienta.

¿Quién responde si una alucinación llega a un cliente?

Ante el cliente, responde la empresa que envía el texto, y en la práctica la persona que lo validó. El cliente no distingue entre un error humano y uno de la herramienta. Por eso conviene una regla escrita que diga qué contenidos exigen comprobación en la fuente oficial y una segunda revisión antes de salir.

¿Cómo se forma a un equipo para detectar alucinaciones?

Con sus propios documentos. Una sesión útil consiste en resumir con IA un contrato o un informe que el equipo conoce bien y comparar el resumen con el original para encontrar añadidos y omisiones. Después se construyen la lista de control por tarea y la regla de revisión, y se hace un seguimiento tras unas semanas de uso real.

Pongamos en marcha su regla de revisión

Reserve una videollamada gratuita de 30 minutos. Repasamos juntos las tareas en las que su equipo usa la IA y aquellas en las que un error saldría caro, y le proponemos un formato de formación adaptado.

Diagnóstico gratuito de 30 min →
Diagnóstico gratisWhatsApp

WhatsApp · Respuesta en menos de 2 h en horario laboral