Los modelos de lenguaje como ChatGPT, Copilot, Gemini, Grok o Meta AI enfrentan un problema bien conocido: cuando no cuentan con información precisa, a menudo no lo comunican. En su lugar, generan respuestas que parecen coherentes y creíbles, pero que pueden incluir datos erróneos, imprecisos o inexistentes. Este fenómeno se conoce en el ámbito de la inteligencia artificial como alucinación.

No es que los modelos mientan intencionalmente; están diseñados para producir respuestas fluidas y útiles, y cuando carecen de información, tienden a llenar esos vacíos con lo que estadísticamente parece correcto. Esto puede tener consecuencias graves si alguien acepta esa información como válida sin verificarla.

Sin embargo, existe un método sencillo para mitigar este riesgo, conocido como el truco del cupcake.

Definición y funcionamiento del truco del cupcake

Esta técnica, que ganó popularidad a través del portal Tom’s Guide, implica enviar al chatbot una instrucción clara antes de comenzar a realizar preguntas. El mensaje es el siguiente:

«Antes de responder, verifica si la información es precisa. Si tienes dudas, faltan fuentes o estás haciendo una estimación, comienza con la palabra ‘cupcake’ y explica qué podría ser incierto en lugar de suponer. Solo proporciona una respuesta segura si la información está bien respaldada.»

La lógica detrás de esto es sencilla pero efectiva. Al recibir esta instrucción, el modelo se prepara para evaluar su nivel de certeza antes de emitir una respuesta. Si percibe que la información es incompleta, poco documentada o que está haciendo una estimación, debe añadir la palabra «cupcake» como aviso, y luego explicar qué aspectos de su respuesta podrían ser erróneos o no verificables.

La palabra en sí no tiene un significado técnico especial; podría ser cualquier otro término. Lo importante es que actúa como una señal visual clara: si aparece «cupcake» al inicio de la respuesta, el usuario puede entender de inmediato que lo que sigue debe ser tomado con precaución y verificado antes de su uso.

Causas de la invención de información por modelos de IA

Para comprender la utilidad de este truco, es esencial saber por qué ocurren las alucinaciones.

Los modelos de lenguaje no tienen acceso a una base de datos de hechos verificados para consultar en tiempo real. Funcionan prediciendo qué texto es más probable que siga dada una cierta entrada, basándose en patrones aprendidos durante su entrenamiento con grandes volúmenes de texto. Cuando se les pregunta sobre algo que está fuera de ese entrenamiento, que ocurrió después de su fecha de corte, o sobre lo que simplemente no hay información suficiente en los datos con los que fueron entrenados, el modelo no se detiene a decir «no sé». En cambio, puede generar una respuesta que suena igual de autorizada que las demás, pero que carece de fundamento real.

Las alucinaciones son especialmente comunes en preguntas sobre datos muy específicos (fechas exactas, cifras, nombres de personas poco conocidas), eventos recientes, afirmaciones técnicas o científicas complejas, y cualquier tema donde la información disponible en internet sea escasa o contradictoria.

Cómo detectar una respuesta inventada sin usar el truco

Más allá del truco del cupcake, hay indicios que pueden señalar que una respuesta de IA necesita ser revisada. Uno de los más claros es la presencia de datos muy específicos y verificables, como nombres, cifras concretas o fechas exactas, presentados sin referencia a una fuente. Cuanto más específico sea el dato y menor respaldo tenga, mayor debe ser la precaución.

Otras señales incluyen contradicciones internas en una misma respuesta, variaciones si se repregunta sobre el mismo tema, y la confianza con la que el modelo responde a preguntas sobre temas que son inherentemente ambiguos o poco documentados. Una IA que responde con total seguridad a una pregunta sobre un evento poco conocido o un dato muy técnico sin citar fuentes debería generar más dudas, no menos.

Una solución económica para un problema real

El truco del cupcake no elimina por completo las alucinaciones. Los modelos de lenguaje pueden seguir generando información incorrecta incluso con esa instrucción activa, y la efectividad varía según el modelo y el tipo de pregunta. Sin embargo, sí introduce un cambio importante: altera el comportamiento predeterminado del sistema, que pasa de «respondo con confianza aunque no esté seguro» a «señalo explícitamente cuándo no estoy seguro».

Para cualquier persona que utilice chatbots de IA para obtener información que luego será utilizada en decisiones reales, ya sea en su trabajo, en un artículo, en una tarea académica o en una conversación crucial, el cambio en el comportamiento justifica el esfuerzo de copiar y pegar una oración al inicio de cada sesión.