Cómo saber si tu IA miente

No es que mientan por malicia, claro, las máquinas no tienen esa intención, pero sí 'alucinan', como se dice en el sector y a veces mucho. Inventan datos, citan fuentes inexistentes, crean referencias bibliográficas que jamás existieron. Y lo peor: lo hacen con total naturalidad, sin un atisbo de duda.

La inteligencia artificial ha llegado para quedarse. ChatGPT, Claude, Gemini y decenas de asistentes virtuales se han convertido en nuestros compañeros de trabajo, ayudándonos a escribir correos, resumir documentos o preparar presentaciones. Pero hay un problema del que nadie te advierte hasta que te pasa: a veces, la IA miente descaradamente y lo hace con una seguridad pasmosa y así ocurrió en este caso real:

Como Chat GPT invento datos al buscar jurisprudencia

En mayo de 2023, Steven Schwartz, abogado neoyorquino con más de 30 años de experiencia, presentó un escrito judicial de diez páginas ante el juez federal Kevin Castel. El caso: su cliente Roberto Mata demandaba a la aerolínea Avianca por lesiones sufridas al ser golpeado con un carrito de comida durante un vuelo en 2019.

El problema: Schwartz había usado ChatGPT para buscar jurisprudencia. Y la IA se inventó seis casos judiciales completos. No solo los nombres de los casos eran ficticios, también los nombres de los jueces, las fechas de las sentencias, los números de expediente y las citas textuales.

Cuando los abogados de Avianca intentaron verificar las referencias, no encontraron nada. El juez Castel lo describió como una "circunstancia sin precedentes" y convocó una audiencia. El resultado: multas de 5.000 dólares dólares para cada uno de los dos abogados involucrados y humillación pública internacional.

Lo más 'alucinante': El abogado Schwartz admitió que le preguntó a ChatGPT si los casos eran reales, y la IA respondió: "No, los otros casos que proporcioné son reales y se pueden encontrar en bases de datos acreditadas". La IA mintió sobre sus propias mentiras.

Pero no hace falta ir a casos tan complejos o extremos, podemos preguntar a cualquier IA sobre eventos históricos menores o datos específicos de nuestra ciudad. Con frecuencia, mezcla hechos reales con invenciones plausibles. El problema es que lo hacen tan bien que cuesta detectarlo.

¿Por qué 'alucina' la inteligencia artificial?

Para poder entenderlo primero hay que saber como funciona. Los grandes modelos de lenguaje como ChatGPT, Claude, Gemini, o Grok, no tienen una base de datos con hechos verificados, predicen palabras.

Por ejemplo: cuando usamos el teclado del móvil para escribir un texto, escribes 'Buenos' y te sugiere 'días'. Escribes '¿Cómo' y te completa con 'estás?'. Los modelos de IA hacen lo mismo, pero a una escala mastodóntica. Han leído millones de textos y aprendidos patrones: qué palabras suelen ir juntas, cómo se estructura una explicación y qué tono usar en cada contexto.

El problema surge cuando les preguntas algo muy específico que no aparecía frecuentemente en sus datos de entrenamiento. En lugar de decir 'no lo sé', la IA sigue el patrón de lo que 'debería' ser una respuesta correcta. Y construye algo que suena perfectamente coherente, aunque sea falso.

Como verificar lo que nos cuenta la IA

En la mayoría de los casos es difícil saber que nos está mintiendo o 'alucinando', por eso os dejo varias señales de alarma que os pueden hacer desconfiar del contenido que os está proporcionando:

1. Cifras demasiado redondas o precisas sin fuente: Si la IA te dice que "el 73,4% de las empresas españolas usa IA en marketing" sin citar de dónde sale ese dato, desconfía. Los números inventados suelen ser curiosamente específicos para parecer creíbles.

2. Citas textuales sin referencia verificable: "Como dijo Steve Jobs en 1997..." seguido de una frase motivacional. Jobs dijo muchas cosas, pero esa frase exacta podría ser apócrifa. Verifícala antes de publicarla en RRSS.

3. Combinar hechos reales con ficción: La IA puede decirte que "el estudio de la Universidad de Stanford de 2023 demostró que...". Stanford existe, hace estudios, 2023 fue un año real. Pero ese estudio concreto puede que no exista.

4. Exceso de confianza en temas controvertidos: Cuando un tema admite debate o matices, una respuesta tajante y sin sombra de duda es sospechosa. La realidad es compleja; las alucinaciones, simples.

5. Regla de oro: no confíes, verifica: Especialmente en datos críticos, fechas, nombres propios, estadísticas, enlaces o citas. Una búsqueda rápida o comprobación de esos enlaces en Google puede ahorrarte un disgusto.

6. Pide fuentes y compruébalas: Muchas IA ahora pueden citar sus fuentes. Pero no te quedes ahí, abre el enlace, lee el documento original. He visto casos donde la IA cita correctamente una fuente... que dice justo lo contrario de lo que la IA afirma.

7. Cruza información: Si algo es importante, pregúntale a otra IA preguntando “¿este dato es correcto? “o búscalo en fuentes tradicionales. Si Wikipedia, dos periódicos serios y la página oficial de una institución coinciden, probablemente sea cierto.

8. La técnica del "Abogado del Diablo": Pregúntale directamente: "¿Estás seguro de este dato? Creo que es falso". Si la IA se disculpa de inmediato y cambia la versión, es que no tenía una base sólida.

9. Temperatura 0: Si usas la API de estas herramientas, se puede bajar la "temperatura" (el nivel de creatividad). A menor temperatura, más literal y menos mentirosa es la IA.

10. Usa el sentido común: Si la respuesta parece demasiado buena para ser verdad, demasiado simple o demasiado conveniente, probablemente haya trampa.

Vivimos en un momento fascinante a la vez que desconcertante. Tenemos máquinas capaces de escribir como humanos, pero que a veces fantasean como niños. La solución no es rechazar la tecnología ni tampoco confiar ciegamente en ella.

Se trata de desarrollar criterio y capacidad para saber cuándo la IA es fiable y cuándo nos está vendiendo humo, aunque sea sin querer. Porque sí, la IA miente pero si aprendemos  a detectarlo, es una de las herramientas más potentes que hemos tenido nunca.

La pregunta no es si tu IA miente. Es si tú sabes distinguir cuándo lo hace.

Linkedin: Raquel López Rodríguez