¿Qué son las alucinaciones de la IA? Causas de las respuestas erróneas y cómo prevenirlas

Artículos
¿Qué son las alucinaciones de la IA? Causas de las respuestas erróneas y cómo prevenirlas

Introducción

Explica qué son las alucinaciones dirigido a quienes empiezan a usar la IA generativa en el trabajo, sistemas, legal y transformación digital. Organiza el mecanismo por el que se producen respuestas erróneas, ejemplos en el trabajo diario y el procedimiento de verificación de fuentes y revisión humana.

Tatsuya Ito

Tatsuya Ito

Consultor de Inteligencia Artificial

company-icon

Third Scope Inc.

Nacido en 1985 y originario de la prefectura de Mie, Japón. En 2012, se incorporó como ingeniero a una startup de realidad aumentada (AR) en Hong Kong. Desde entonces, ha participado en el desarrollo de nuevos negocios y en el lanzamiento de servicios de inteligencia artificial en varias startups especializadas en IA. En 2018, fundó la actual Third Scope Inc., tras asumir un servicio de IA y su equipo de desarrollo. Actualmente, ayuda a empresas a adoptar y aprovechar la inteligencia artificial, con especial énfasis en el desarrollo de nuevos negocios impulsados por IA, la transformación de las operaciones y el desarrollo de productos. También ha participado en investigaciones sobre inteligencia artificial como investigador de proyectos en la Universidad de Tokio. En la actualidad, continúa trabajando a la vanguardia del desarrollo de proyectos de IA, ofreciendo consultoría práctica desde una perspectiva tanto técnica como empresarial.

Las respuestas de la IA parecían tan naturales que no sabía por dónde empezar a dudar.

Al acompañar a empresas en la implantación de IA generativa, he escuchado muchas veces inquietudes parecidas. Se las planteaban tanto un profesional de planificación comercial que acababa de empezar a usar IA generativa como los equipos de TI, jurídico y transformación digital. Pedir a la IA borradores de correos, resúmenes de actas o un punto de partida para una investigación agilizaba el trabajo, pero a veces también generaba con aparente seguridad nombres de políticas inexistentes o cifras sin verificar. Para los equipos operativos era «útil, pero daba miedo»; TI no tenía claro hasta dónde autorizar su uso y el área jurídica veía el riesgo de incorporar información errónea a documentos externos.

Desde mi etapa como ingeniero de producto, he trabajado de forma transversal con equipos de ventas, marketing, dirección y mejora de procesos. Esa experiencia me permite afirmar que las respuestas erróneas de la IA no son un problema del que solo deban ocuparse quienes dominan la tecnología. De hecho, es especialmente probable que aparezcan justo cuando los equipos empiezan a utilizar la IA en su trabajo diario.

Cada vez más empresas dejan de tratar las respuestas de la IA como soluciones correctas y las utilizan como borradores, resúmenes o herramientas para estructurar información, mientras una persona comprueba las fuentes, las cifras y los nombres propios. Este artículo explica qué son las alucinaciones de la IA, por qué se producen respuestas erróneas, en qué situaciones de trabajo son más frecuentes y qué medidas conviene aplicar. El objetivo no es dejar de usar la IA, sino poder utilizarla de forma segura asumiendo que puede equivocarse. No obstante, una lista de comprobación no elimina por sí sola el riesgo. Debe combinarse con normas internas, formación y revisiones periódicas.

¿Qué son las alucinaciones de la IA?

Las alucinaciones de la IA son respuestas incorrectas que parecen verosímiles

Una alucinación se produce cuando la IA generativa ofrece información que no se corresponde con los hechos como si fuera correcta. La Agencia Española de Protección de Datos también utiliza el término «alucinaciones» para referirse a resultados erróneos de sistemas de IA.

Por ejemplo, se incluyen los siguientes casos:

  • explicar una política interna inexistente como si existiera;
  • presentar como fuente el nombre o la URL de un documento que no se ha consultado;
  • redactar una cifra no verificada como si fuera un resultado concreto;
  • completar el contenido de un contrato o una normativa interna con información general;
  • incluir en un acta decisiones que no se trataron en la reunión.

El problema es que una alucinación no siempre aparece como una respuesta evidentemente extraña. Al contrario, el texto puede parecer natural, correcto y lógico. En casos que he revisado, una primera lectura no permitía detectar el problema. Solo al volver a la fuente original se descubría que «esta política no existe» o que «esta cifra no aparece en el documento».

Las respuestas de la IA generativa no son citas literales de resultados de búsqueda ni de bases de datos internas. La IA genera una respuesta que parece natural a partir de las instrucciones y el contexto facilitados. Por ello, aunque falte información, puede completar las premisas ausentes en lugar de responder «no lo sé».

Para utilizar IA generativa en el trabajo hay que partir de la premisa de que puede equivocarse. Esta idea no pretende desacreditar la IA. Es, más bien, una medida de seguridad que permite seguir utilizándola a largo plazo en la empresa.

Por qué la IA da respuestas erróneas

Por qué la IA da respuestas erróneas

Las respuestas erróneas de la IA generativa tienen varias causas. Comprenderlas ayuda a no temer en exceso las alucinaciones y a identificar con mayor facilidad dónde hay que prestar atención.

Intenta responder incluso sobre información que no conoce

La IA puede intentar construir una respuesta aunque no conozca la información o no disponga de elementos suficientes para decidir.

Supongamos que se le pregunta: «Explícame la política de permisos parentales de nuestra empresa». Aunque no tenga acceso a la normativa interna, la IA puede responder basándose en una explicación general. La respuesta puede parecer natural, pero no tiene por qué coincidir con la política de esa empresa.

En este tipo de preguntas hay que distinguir con claridad si se solicita información general o una respuesta basada en la normativa interna. En las primeras fases de adopción de la IA, esta distinción suele quedar difusa. Siempre la explico en la formación inicial porque, justo después de descubrir su utilidad, las personas tienden a confiar más en sus respuestas.

Completa las premisas cuando la petición es ambigua

«Resume bien este contenido», «indica los riesgos» o «redáctalo para un cliente» son peticiones útiles, pero dejan un amplio margen de interpretación a la IA. Como no queda claro a quién va dirigido el texto, qué documentos deben servir de base o hasta qué punto se puede afirmar algo, la IA tiene margen para completar las premisas.

La redacción del prompt también es importante para evitar alucinaciones. Especificar el objetivo, el público, la información de partida, el formato de salida y las restricciones ayuda a reducir aportaciones innecesarias.

Según mi experiencia, las empresas que avanzan mejor con la IA tratan los prompts como parte del diseño del proceso, no como una habilidad individual. Comparten dentro del equipo la propia forma de formular las preguntas para que la calidad sea estable, independientemente de quién utilice la herramienta.

Puede tener limitaciones con información reciente o exclusiva de la empresa

La IA puede tener dificultades con reformas legales recientes, datos de mercado de última hora, nombres de políticas que solo se usan dentro de la empresa o procedimientos propios de cada departamento.

Debe prestarse especial atención a la siguiente información:

  • legislación y normativa recientes;
  • últimos movimientos de la competencia;
  • tarifas propias de la empresa;
  • normativa interna y circuitos de aprobación;
  • condiciones contractuales de cada cliente;
  • información sobre campañas aún no publicadas.

En estos casos no se debe delegar todo en la IA: es imprescindible volver a las fuentes primarias.

La IA puede superar ampliamente a una persona en velocidad de redacción. Sin embargo, saber qué norma interna está vigente, comprender un contrato específico con un cliente o coincidir con el circuito de aprobación más reciente son cuestiones distintas. Precisamente por su velocidad, hay que establecer de forma consciente los puntos de comprobación.

Puede inventar referencias con apariencia de fuente

Si se pide a la IA que «incluya también las fuentes», puede ofrecer una respuesta con formato de referencia. Sin embargo, esas fuentes no tienen por qué existir.

Puede indicar, por ejemplo, el título de un documento inexistente, un número de página que no existe o una URL que no puede comprobarse. La presencia de una fuente no convierte una respuesta en correcta: hay que verificar que la fuente existe y que respalda el contenido.

Este problema se pasa por alto con una frecuencia sorprendente. Un título o una URL transmiten por sí solos una apariencia de fiabilidad. Por eso recomiendo detenerse precisamente al ver una fuente generada por IA y preguntarse si existe de verdad.

Situaciones de trabajo en las que son más probables las alucinaciones

Situaciones de trabajo en las que son más probables las alucinaciones

Las alucinaciones no plantean el mismo problema en todas las tareas. Se requiere especial atención cuando la información errónea puede afectar a decisiones internas o externas o a la relación con los clientes.

Consultas sobre normativa y políticas internas

Recursos humanos, servicios generales, contabilidad y TI pueden querer utilizar IA para responder a las consultas del personal.

Por ejemplo:

  • ¿Puedo incluir este desplazamiento en la liquidación de gastos?
  • ¿A qué departamento debo enviar la solicitud para realizar otra actividad profesional?
  • ¿Cuál es el plazo para solicitar el permiso parental?
  • ¿Qué material debo devolver al dejar la empresa?

A primera vista, estas consultas parecen adecuadas para la IA. De hecho, estructurar la normativa interna y las preguntas frecuentes para que el personal pueda buscar respuestas por sí mismo es un uso valioso.

Sin embargo, una respuesta que no se base en la normativa interna puede inducir a una actuación incorrecta. Si un trámite exige autorización previa y la IA responde que «no hay problema en solicitarla después», puede generar confusión en el equipo.

En las consultas sobre normativa interna es importante impedir que la IA responda con información general. Deben incluirse restricciones como «si no existe una base en la normativa, responde que no lo sabes» o «indica la norma y el artículo correspondientes».

Primera revisión de contratos y cuestiones jurídicas

La IA también empieza a utilizarse para una primera revisión de contratos. Puede resultar útil para detectar posibles omisiones en las cláusulas y estructurar los puntos que deben analizarse.

No obstante, es peligroso tratar la salida de la IA como una conclusión jurídica.

En un contrato, una parte de la redacción o su contexto puede cambiar el significado. También influyen el historial de negociación con la contraparte y el nivel de riesgo que acepta la empresa. Aunque la IA responda «no hay ningún problema», esa no es la decisión final.

En proyectos relacionados con contratos o normativa, sitúo siempre a la IA como apoyo para localizar cuestiones, no como responsable de la decisión. Toda salida relacionada con asuntos jurídicos debe quedar sujeta a la revisión humana del departamento especializado o de los asesores correspondientes.

Estudios de mercado, análisis de la competencia y uso de cifras

Marketing y planificación comercial pueden utilizar IA para preparar un punto de partida para estudios de mercado o comparativas de competidores.

En este uso, las alucinaciones son especialmente difíciles de detectar porque la respuesta tiende a incluir tamaños de mercado, tasas de crecimiento y comparativas que parecen verosímiles.

Este sería un ejemplo hipotético:

En 2025, el mercado nacional de XX tiene un valor aproximado de 100.000 millones de yenes y crece a un ritmo anual del 10 %.

La frase parece plausible. Sin embargo, no debería utilizarse profesionalmente si no incluye la fuente, el año del estudio, la definición del mercado analizado y el alcance del cálculo.

En estudios de mercado, resulta más seguro usar la IA para estructurar «los temas que hay que investigar», «las fuentes que deben comprobarse» y «los criterios de comparación» que para dar por buenas las cifras. En la primera fase de una investigación, yo también suelo pedirle que trace el mapa de búsqueda, no que dé la respuesta.

Resúmenes de reuniones y organización de notas comerciales

Los resúmenes con IA son útiles para estructurar el contenido de reuniones y conversaciones comerciales. Si una grabación, unas notas o unos documentos pueden resumirse con un formato determinado, se reduce la carga de preparar actas y compartir información.

Al mismo tiempo, hay que vigilar los siguientes errores:

  • presentar como «acuerdo» algo que no se decidió;
  • asignar una tarea a una persona cuando aún no se ha elegido responsable;
  • resumir una hipótesis debatida como si fuera una línea de actuación definitiva;
  • reformular en exceso las palabras del cliente según la interpretación interna.

Un resumen generado por IA puede acortar el tiempo de revisión posterior a la reunión. Sin embargo, antes de compartirlo como acta definitiva, una persona debe cotejarlo con la grabación, las notas y la interpretación de los participantes.

Una reunión no consiste solo en enumerar intervenciones. Hay que entender con qué grado de convicción habló cada persona, hasta dónde llegó el acuerdo y qué quedó pendiente. En la interpretación de ese contexto, la función humana sigue siendo importante.

Correos a clientes, propuestas y respuestas a preguntas frecuentes

En los textos destinados a clientes, una respuesta errónea de la IA puede provocar directamente una pérdida de confianza.

Conviene prestar especial atención a expresiones como estas:

  • Está garantizado que mejorará.
  • Podemos encargarnos de todo.
  • Es mejor que las alternativas de la competencia.
  • Se completará en XX días.
  • No plantea ningún problema jurídico.

Estas afirmaciones categóricas no deben utilizarse sin comprobar los hechos y obtener la aprobación interna.

Los textos generados por IA son útiles como borradores. Antes de enviarlos a un cliente, hay que comprobar las cifras, las condiciones, el contenido contractual y hasta dónde puede comprometerse la empresa.

También en proyectos de ventas y marketing evito que la IA formule afirmaciones demasiado tajantes. Un texto atractivo y una promesa excesiva están separados por una línea muy fina. En particular, en el entorno B2B, la confianza suele pesar más que el impacto a corto plazo.

No hay que intentar reducir a cero las respuestas erróneas de la IA

No hay que intentar reducir a cero las respuestas erróneas de la IA

Al abordar las alucinaciones, lo importante no es intentar eliminar por completo las respuestas erróneas de la IA.

Por supuesto, hay que adoptar medidas para reducirlas. Sin embargo, cuando la IA se utiliza en el trabajo, es más realista diseñar el funcionamiento sobre la premisa de que puede equivocarse.

Cuando asesoro sobre la implantación de IA, no planteo «cómo conseguir que la IA no se equivoque nunca», sino «qué diseño evita que un error se convierta en un incidente de negocio». Es una forma de pensar próxima al desarrollo de sistemas: en lugar de asumir que un sistema no tendrá errores, se diseñan la detección, la revisión, los permisos, los registros y los procedimientos de recuperación. El uso profesional de la IA generativa exige una actitud similar.

No tratar la IA como una herramienta que siempre da la respuesta correcta

La IA no garantiza respuestas correctas. En especial, no es adecuada para la verificación de hechos, las conclusiones jurídicas, las decisiones finales o los compromisos con clientes.

En cambio, sí resulta adecuada para:

  • redactar borradores;
  • resumir actas o documentos;
  • estructurar cuestiones;
  • generar ideas;
  • preparar una primera versión de una tabla comparativa;
  • enumerar puntos de comprobación;
  • crear prompts y plantillas.

En otras palabras, la IA resulta eficaz para preparar la base previa al análisis.

Las personas deben asumir la verificación de hechos, las decisiones finales y las conversaciones en las que existe una relación entre las partes; la IA puede encargarse de los borradores, los resúmenes, el formato y el punto de partida de la investigación. Definir con claridad este reparto facilita combinar velocidad y seguridad.

Distinguir entre tareas de riesgo bajo y alto

Aplicar las mismas restricciones a todos los usos de IA dificulta el trabajo de los equipos. Permitir cualquier uso sin límites, por otro lado, aumenta el riesgo.

Por ello, es útil clasificar primero las tareas según su nivel de riesgo.

Ejemplo de clasificación del riesgo de las tareas que utilizan IA
Categoría Ejemplos de tareas Criterio de uso de la IA
Riesgo bajo Notas personales, borradores de textos internos, generación de ideas Uso relativamente sencillo, con atención a la información confidencial
Riesgo medio Actas, preguntas frecuentes internas, borradores de material comercial Uso sujeto a revisión humana
Riesgo alto Contratos, asuntos jurídicos, datos personales, respuestas formales a clientes Revisión obligatoria del departamento especializado
Uso prohibido o sujeto a especial cautela Datos sensibles, información financiera no publicada, información de clientes altamente confidencial En principio, no introducir esta información

Esta clasificación permite que los equipos decidan «hasta dónde pueden utilizarla», en lugar de limitarse a pensar que «todo está prohibido».

En las empresas donde la adopción se detiene, se suele plantear una falsa disyuntiva entre «no usarla porque es peligrosa» y «usarla libremente porque es útil». Considero importante diseñar un funcionamiento realista entre ambos extremos.

Incorporar la revisión humana al flujo de trabajo

Un proceso de revisión de las salidas de la IA no se mantiene si depende únicamente de la atención de cada profesional.

Lo importante es incorporar puntos de control al flujo de trabajo.

Para un documento destinado a clientes, por ejemplo, el proceso podría ser el siguiente:

  1. La persona responsable prepara una estructura con IA.
  2. Comprueba las cifras, los nombres propios y los ejemplos.
  3. Su superior revisa la redacción y el alcance de los compromisos.
  4. Los equipos jurídico o de sistemas revisan el contenido cuando sea necesario.
  5. El documento se presenta al cliente.

Integrar el uso de IA en los procesos de revisión existentes ayuda a limitar el riesgo sin reducir en exceso la velocidad del equipo.

Decir simplemente que «una persona lo revisará» no constituye un proceso. Hay que definir quién comprueba qué y en qué momento. Solo entonces el uso de IA puede consolidarse en el trabajo diario. La Comisión Europea también identifica la supervisión humana como una medida relevante para una IA fiable.

Medidas básicas contra las alucinaciones

Medidas básicas contra las alucinaciones

A continuación se ordenan medidas que pueden aplicarse en el trabajo diario.

Indicar con claridad el objetivo, las premisas y el formato de salida

Una instrucción ambigua deja más margen para que la IA genere respuestas erróneas.

Este sería un mal ejemplo:

Code
Resume bien este documento.

Podría mejorarse de la siguiente manera:

Code
Resume el siguiente documento para compartirlo en una reunión interna de ventas.

# Objetivo
Permitir que el equipo comercial decida las próximas acciones.

# Formato de salida
- Puntos clave: un máximo de 5
- Decisiones: lista con viñetas
- Cuestiones pendientes: indícalas como «Pendiente de confirmación»
- Utiliza únicamente las cifras, fechas y nombres propios del original

# Atención
No añadas información que no figure en el documento.

Es importante indicar a la IA no solo «qué debe hacer», sino también «qué no debe hacer».

Recomiendo tratar un prompt de IA generativa como si fuera una orden de trabajo, no una simple petición. Una buena orden incluye el objetivo, las premisas, el resultado esperado, las restricciones y los puntos que deben comprobarse. Con la IA ocurre lo mismo.

Pedir que responda «Pendiente de confirmación» si desconoce algo

La IA puede intentar responder incluso cuando desconoce la información. Por eso debe indicarse desde el principio que escriba «Pendiente de confirmación» si no dispone de la respuesta.

Ejemplo:

Code
Si la información no figura expresamente en la normativa interna, no hagas suposiciones y escribe: «Pendiente de confirmación porque no existe una base en la normativa».

Esta sola frase ayuda a reducir el riesgo de que la IA formule una afirmación forzada.

En particular, para preguntas frecuentes internas, consultas sobre normativa o respuestas a clientes, es importante configurar una IA que pueda reconocer que no sabe algo. Esta instrucción no reduce su capacidad; aumenta su fiabilidad en el trabajo.

Volver a la fuente primaria para cifras, fechas y nombres propios

Las cifras, las fechas y los nombres propios son los elementos en los que una alucinación tiende a convertirse con más facilidad en un problema de negocio.

Deben comprobarse los siguientes elementos:

  • importes;
  • porcentajes;
  • número de personas;
  • fechas;
  • nombres de empresas;
  • nombres de departamentos;
  • nombres de responsables;
  • nombres de productos;
  • condiciones contractuales;
  • nombres de leyes;
  • títulos de documentos.

Las cifras y los nombres propios generados por IA deben comprobarse siempre en la fuente primaria. Si no puede verificarse el original, hay que eliminar la información o marcarla como «Pendiente de confirmación».

Las cifras aportan fuerza a un texto y, precisamente por eso, también entrañan peligro. A veces es preferible no incluir una cifra que incluir una sin fundamento. Al revisar un documento, cuando encuentro una cifra, mi primera pregunta es siempre de dónde procede.

Comprobar si existe la fuente primaria

Pedir fuentes primarias a la IA es útil, pero no basta con que aparezcan escritas.

Hay que comprobar tres puntos:

  1. si la fuente primaria existe;
  2. si su contenido coincide con el resumen de la IA;
  3. si la fuente primaria sigue vigente.

En el caso de documentos internos, también hay que comprobar que se trata de la versión más reciente. Si la respuesta se basa en una normativa antigua o en una propuesta anterior, puede no coincidir con el funcionamiento actual.

Pedir fuentes a la IA puede ser el punto de partida de la verificación. Sin embargo, el proceso no termina cuando aparece una referencia; es precisamente entonces cuando comienza la revisión humana.

Revisión humana antes de enviar contenido fuera de la empresa

Todo texto que vaya a salir de la empresa debe ser revisado por una persona.

Aunque la IA haya preparado el borrador, una persona debe asumir la responsabilidad de revisarlo antes de enviarlo a un cliente o proveedor. La revisión debe comprobar:

  • si se mezclan hechos y suposiciones;
  • si las cifras y los nombres propios son correctos;
  • si la empresa puede asumir lo que se promete al cliente;
  • si hay afirmaciones excesivamente categóricas;
  • si el texto encaja con el tono de la empresa;
  • si contiene aspectos que deben revisar el departamento jurídico, sistemas o un superior.

Aunque el texto lo haya generado la IA, la responsabilidad de presentarlo corresponde a una persona. Este principio no cambiará con facilidad, por mucho que avance la tecnología.

Consultar a los departamentos especializados en ámbitos de riesgo alto

Las salidas de la IA no deben utilizarse directamente en los siguientes ámbitos:

  • derecho;
  • contratos;
  • fiscalidad;
  • relaciones laborales;
  • seguridad;
  • datos personales;
  • medicina y salud;
  • decisiones financieras;
  • respuestas formales a clientes.

La IA puede utilizarse para estructurar cuestiones o enumerar puntos de control, pero la decisión final debe corresponder al departamento especializado o a la persona responsable.

Al ayudar a empresas a implantar IA, considero tan importante «ampliar los ámbitos en los que puede utilizarse» como «definir aquellos en los que la IA no debe decidir por sí sola». Establecer límites de uso no significa adoptar una actitud pasiva. Es una condición previa para utilizar la IA en serio como organización.

Lista de comprobación para revisar las salidas de la IA

Lista de comprobación para revisar las salidas de la IA

Al recibir una respuesta de la IA, revísela con la siguiente lista.

Comprobación de hechos

  • ¿Las cifras incluyen fuente, periodo, unidad y población de referencia?
  • ¿Son correctos los nombres propios?
  • ¿Son correctas las fechas?
  • ¿Existe la fuente citada?
  • ¿El documento consultado es la versión más reciente?
  • ¿Ha añadido la IA información que no aparece en el documento?

Comprobación de la redacción

  • ¿El texto afirma algo de forma demasiado categórica?
  • ¿Incluye expresiones como «siempre», «absolutamente» o «por completo»?
  • ¿La empresa puede asumir ante el cliente lo que expresa el texto?
  • ¿Encaja con el tono interno?
  • ¿Puede provocar una interpretación errónea?

Comprobación de riesgos

  • ¿Incluye datos personales o información confidencial?
  • ¿Contiene información que deba revisar el departamento jurídico?
  • ¿Existen dudas de seguridad?
  • ¿Contradice las condiciones contractuales?
  • ¿Puede perjudicar a clientes o miembros del personal?

Comprobación de decisiones

  • ¿Se ha adoptado directamente la conclusión de la IA?
  • ¿Se ha delegado en la IA una parte que debe decidir una persona?
  • ¿Se ha consultado a las partes necesarias?
  • ¿Queda algún punto marcado como «Pendiente de confirmación»?

Adapte esta lista al departamento y a la tarea. Lo importante es disponer de criterios compartidos dentro de la empresa, en lugar de empezar la revisión desde cero cada vez.

Según mi experiencia, cuanto más asentado está el uso de IA en una empresa, más se trata la lista de comprobación como una herramienta que protege al equipo, no como un documento de auditoría. Debe prepararse para ampliar el ámbito de uso con confianza, no para limitar a las personas.

Normas internas que conviene establecer para utilizar IA generativa

Normas internas que conviene establecer para utilizar IA generativa

La atención individual tiene límites como medida contra las alucinaciones. Si una organización utiliza IA, debe establecer unas normas mínimas.

Distinguir qué información puede y no puede introducirse

Lo primero que debe definirse es qué tipo de información puede introducirse en la IA.

Por ejemplo, puede clasificarse así:

Ejemplo de categorías de información introducida en IA generativa y su tratamiento
Categoría Ejemplos Tratamiento
Información pública Sitio web oficial, documentos públicos, notas de prensa Relativamente fácil de utilizar
Información interna general Manuales, preguntas frecuentes internas, material formativo Utilizar conforme a las normas internas
Información de clientes Notas comerciales, condiciones contractuales, propuestas Comprobar el contrato, los permisos y la anonimización
Datos personales Nombre, dirección, datos de contacto, número de empleado En principio, anonimizar
Información sensible Datos de salud, datos bancarios, información financiera no publicada, entre otros En principio, no introducir

En especial, los datos personales, la información sensible y la información financiera no publicada exigen un tratamiento prudente: antes de introducirlos en una herramienta de IA hay que comprobar si su uso está permitido y, cuando proceda, aplicar medidas de minimización o anonimización. Las recomendaciones de la AEPD sobre IA generativa insisten en evaluar los riesgos del tratamiento de la información y en revisar los resultados antes de utilizarlos.

Designar a las personas responsables de la revisión

También hay que determinar quién revisa las salidas de la IA.

Por ejemplo, las responsabilidades podrían repartirse así:

Ejemplo de principales responsables de revisar cada salida de IA
Salida Principales responsables de revisión
Texto interno Autor y superior
Correo electrónico a clientes Autor, superior y, cuando sea necesario, responsable comercial
Texto sobre contratos o normativa Departamentos especializados, como jurídico, recursos humanos o servicios generales
Texto sobre seguridad TI o responsable de seguridad
Artículo web o texto publicitario Responsable de marketing y, cuando corresponda, departamento jurídico

Si no se designa a la persona responsable, el contenido puede acabar fuera de la empresa sin que nadie lo haya comprobado.

Desde el punto de vista operativo, «ya lo revisará alguien» equivale a que nadie lo revisará. Definir de antemano quién comprueba el contenido no sirve para trasladar responsabilidades, sino para poder utilizar la IA con confianza.

No copiar directamente las respuestas de la IA

También resulta útil establecer como norma interna que las respuestas de la IA no se copien directamente.

En particular, es más seguro no utilizar sin revisión las siguientes salidas:

  • respuestas a clientes;
  • comentarios sobre contratos;
  • explicaciones jurídicas o laborales;
  • estudios de mercado con cifras;
  • documentos dirigidos a la dirección;
  • comunicaciones con candidatos;
  • notas de prensa y textos publicitarios.

Las salidas de IA deben recibirse como borradores, revisarse y adaptarse al lenguaje de la empresa antes de utilizarse.

Este proceso se parece, en cierta medida, a cocinar. La IA acelera la preparación, pero son las personas quienes ajustan el resultado y deciden a quién puede servirse. Omitir ese paso convierte directamente la utilidad en riesgo.

Revisar las normas periódicamente

La forma de utilizar IA cambia poco a poco dentro de la empresa. Las reglas establecidas al principio no tienen por qué seguir siendo óptimas seis meses después.

Una vez al mes o una vez al trimestre, conviene revisar:

  • los usos más frecuentes de la IA;
  • los casos en los que se produjeron respuestas erróneas;
  • las preocupaciones y preguntas de los equipos;
  • el alcance de la información que puede introducirse;
  • el procedimiento de revisión;
  • los prompts y las plantillas;
  • el contenido de la formación.

Las medidas contra las alucinaciones no se crean una vez y se dan por terminadas: se mejoran durante el uso. Ocurre lo mismo que en el desarrollo de productos y la mejora de procesos. Es más fácil consolidarlas si se empieza a pequeña escala y se ajustan al observar el uso real, en lugar de intentar construir desde el principio un sistema perfecto.

Qué debe tenerse en cuenta al utilizar Kanata

Qué debe tenerse en cuenta al utilizar Kanata

Existen varias opciones para utilizar IA generativa en el trabajo: herramientas de chat de uso general, plataformas internas de IA, integraciones con suites de colaboración o herramientas de búsqueda de conocimiento. Sea cual sea la opción, es importante decidir primero «para qué tareas se utilizará», «qué información tratará» y «quién revisará las salidas».

Kanata es una plataforma de apoyo al trabajo que reúne en un mismo lugar chat con IA, resúmenes con IA y formación en línea, y permite organizar usuarios, datos y aplicaciones por proyectos. Puede utilizarse para hacer preguntas y consultas a la IA, redactar textos, generar ideas, investigar, resumir grabaciones o notas de reuniones y distribuir contenidos formativos a partir de vídeos.

Por ejemplo, separar proyectos por departamentos, guardar como prompts las instrucciones más utilizadas y organizar documentos internos como datos de aprendizaje ayuda a evitar una dependencia excesiva de la forma de trabajar de cada persona. Las características de Kanata pueden aprovecharse especialmente cuando se desea diseñar a la vez el proceso y el circuito de revisión de tareas como los resúmenes de actas, las preguntas frecuentes internas, los contenidos formativos o los primeros borradores de material comercial.

No obstante, utilizar Kanata no elimina por completo las alucinaciones.

El chat y los resúmenes con IA ayudan a redactar borradores, organizar información y estructurar temas. Sin embargo, una persona debe decidir si la salida puede utilizarse en el trabajo. En particular, es importante no adoptar directamente las salidas relacionadas con documentos externos, cifras, citas, normativa, contratos, asuntos jurídicos o seguridad.

Cuando ayudo a implantar IA en una empresa, el trabajo tampoco termina con la elección de la herramienta. Hay que diseñar para qué tareas se utilizará, quién revisará las salidas, qué información puede introducirse y cómo se reutilizarán los resultados. Solo entonces la IA se convierte en una herramienta que los equipos siguen utilizando.

Prompts que puede utilizar desde ahora para reducir las alucinaciones

Prompts que puede utilizar desde ahora para reducir las alucinaciones

A continuación se ofrecen ejemplos de prompts fáciles de utilizar en el trabajo. Adáptelos a la normativa y al circuito de revisión de su empresa.

Cuando quiera evitar respuestas erróneas

Code
Responde a la siguiente pregunta.

# Reglas importantes
- Si no conoces algo, no lo completes mediante suposiciones; escribe «Desconocido» o «Pendiente de confirmación»
- No añadas información que no figure en el documento
- Utiliza únicamente las cifras, fechas y nombres propios presentes en el texto de entrada
- Distingue entre hechos y suposiciones

# Pregunta
{Contenido de la pregunta}

Cuando quiera obtener una respuesta basada en la normativa interna

Code
Eres un asistente que responde basándose en la normativa interna.

# Reglas de respuesta
- Responde únicamente con información indicada expresamente en la normativa
- Indica el nombre, el capítulo y el artículo de la norma que sirven de fundamento
- Si no existe una base en la normativa, escribe: «Es necesario consultar al departamento responsable porque no se ha podido confirmar una base normativa»
- No añadas información general

# Pregunta
{Pregunta del miembro del personal}

Cuando quiera preparar una base para un estudio de mercado

Code
Prepara un punto de partida para investigar el siguiente tema.

# Tema
{Tema de la investigación}

# Contenido solicitado
1. Cuestiones que deben comprobarse
2. Posibles fuentes primarias que deben consultarse
3. Definiciones a las que hay que prestar atención durante la investigación
4. Premisas necesarias al comprobar cifras
5. Aspectos sobre los que todavía no debe hacerse una afirmación definitiva

# Atención
No afirmes un tamaño de mercado ni una tasa de crecimiento concretos.
Escribe «Requiere fuente» donde sea necesaria una cifra.

Cuando quiera reducir errores al resumir un acta

Code
Organiza las siguientes notas como un acta para compartir internamente.

# Formato de salida
- Objetivo de la reunión
- Decisiones
- Cuestiones no decididas
- Tareas pendientes
- Aspectos que deben confirmarse en la próxima reunión

# Atención
- No añadas decisiones que no figuren en las notas
- Escribe «Responsable pendiente de asignación» si una tarea no tiene responsable
- Marca la información incierta como «Pendiente de confirmación»
- No presupongas la intención de las intervenciones

# Notas de la reunión
{Notas de la reunión}

Cuando quiera revisar un documento externo

Code
Revisa el siguiente texto antes de presentarlo fuera de la empresa.

# Aspectos que deben comprobarse
1. Si se mezclan hechos y suposiciones
2. Si hay cifras, fechas o nombres propios que deban verificarse
3. Si existen afirmaciones excesivamente categóricas
4. Si alguna expresión parece asumir un compromiso con el cliente
5. Si algún punto debe consultarse con el departamento jurídico, sistemas o un superior

# Formato de salida
Clasifica los resultados en una tabla con tres categorías:
- Sin problemas
- Requiere corrección
- Pendiente de confirmación

# Texto
{Texto que debe revisarse}

Resumen: diseñar el uso asumiendo que la IA puede equivocarse

Diseñar el uso asumiendo que la IA puede equivocarse

Una alucinación se produce cuando la IA generativa ofrece de forma convincente información que no se corresponde con los hechos.

En el trabajo, el problema no es solo que la IA se equivoque, sino utilizar ese error sin detectarlo en documentos externos, normativa interna, contratos, documentos con cifras o comunicaciones con clientes.

Por ello, para utilizar IA generativa de forma segura son esenciales los siguientes principios:

  • no tratar la IA como una herramienta que siempre da la respuesta correcta;
  • utilizarla para borradores, resúmenes y organización de cuestiones;
  • comprobar las cifras, las fechas y los nombres propios en la fuente original;
  • verificar que las fuentes existen;
  • someter el contenido a revisión humana antes de enviarlo fuera de la empresa;
  • encargar a los departamentos especializados la revisión de los ámbitos de riesgo alto;
  • revisar periódicamente las normas internas y la formación.

El uso de IA no plantea una elección binaria entre prohibirla y permitirla sin límites. Si se asume que puede equivocarse y se decide dónde interviene una persona, es más fácil combinar la velocidad del equipo con la seguridad.

Considero que a las empresas les conviene tratar la IA menos como una «fuente de respuestas infalible» y más como una «colaboradora muy competente cuyo trabajo debe revisarse». Delegar en ella alivia la carga de las personas, pero no hay que renunciar a las decisiones de las que deben responsabilizarse. Definir ese límite será una competencia práctica esencial para utilizar IA.

Preguntas frecuentes sobre las alucinaciones y las respuestas erróneas de la IA

¿Qué son las alucinaciones de la IA?

Se producen cuando la IA generativa presenta como texto verosímil información que no se corresponde con los hechos. Puede mostrar con naturalidad políticas inexistentes, cifras no verificadas o fuentes que no existen.

¿Pueden evitarse por completo las respuestas erróneas de la IA?

No es realista diseñar el funcionamiento sobre la premisa de que pueden evitarse por completo. Lo importante es asumir que pueden aparecer y establecer la verificación de fuentes, la revisión, las reglas de introducción de datos y el circuito de consulta a departamentos especializados.

¿Qué debe comprobarse especialmente al utilizar IA en el trabajo?

Deben comprobarse siempre las cifras, las fechas, los nombres propios, las fuentes, las condiciones contractuales, la normativa interna y las expresiones que implican compromisos con clientes. Los errores en estos elementos pueden afectar con facilidad a decisiones internas o externas y a la confianza.

¿Es seguro pedir a la IA que «incluya las fuentes»?

Pedir fuentes es útil, pero no garantiza por sí solo la seguridad. Una persona debe comprobar que las fuentes existen, que coinciden con el contenido y que se trata de la versión más reciente.

¿Desaparecen las alucinaciones al utilizar Kanata?

Kanata es una plataforma de trabajo que ofrece chat con IA, resúmenes con IA, formación en línea y organización de la información por proyectos. Sin embargo, al utilizar IA sigue siendo necesario revisar las salidas. Para reducir las alucinaciones, es importante combinar las funciones de la herramienta con revisión humana y normas internas.

Comparte este artículo