Hace unos días organicé, como parte de la Subsecretaría de Defensa, en conjunto con Paula Solar de la Universidad Finis Terrae, el seminario SinergIA, con miras a iniciar el desarrollo de una Política de Inteligencia Artificial para la Defensa en Chile.
En este seminario hubo distintos invitados y expertos en Inteligencia Artificial, abriendo el ciclo el investigador Juan Velásquez, de la Universidad de Chile, quien este año fue reconocidos entre los científicos chilenos de mayor impacto a nivel mundial en el ranking anual de la Universidad de Stanford y Elsevier.
La presentación de Juan comenzó con la referencia a la clásica película de Western «El bueno, el malo y el feo», en donde habló sobre la evolución de la Inteligencia Artificial, sus beneficios y como esta herramienta está impactando nuevas vidas, finalizando con sentencia de que estamos en una nueva era con la IA.
Sin perjuicio de ello, mencionó que la Inteligencia Artificial puede ser muy provechosa, pero es necesario contar con datos y entrenarla, porque no era «inteligente», pues carece de la capacidad de razonar como un humano. Incluso si se buscaba asimilar la IA a sistema neuronal y hacer un símil del cerebro humano, faltaba mucho desarrollo para homologar lo que la naturaleza nos ha dado y es la inteligencia.
A buenas y primeras es difícil asimilar esta afirmación considerando los grandes avances en materia de IA, especialmente en modelos de chatbots cada día más populares y en las que cada cierto tiempo avanzan con nuevos desarrollos, incluyen herramientas de OCR, mayores capacidades de procesar información, más parámetros y velocidad.
Justamente en este punto, leí una publicación de otro destacado investigador, en la que puso a prueba a diversos modelos de chatbots de IA con llamativos resultados y quise aplicar la prueba con un acertijo a 9 IAs más populares (en sus últimas versiones) y sumando a mi hijo Pedro, de 4 años, quien aún no sabe leer ni escribir.
La prueba consistió en mostrar la siguiente imagen:
El promt aplicado y lo indicado a mi hijo fue: «considerando la imagen, de un niño tomando uno de los 4 recipientes. indícame qué tomó el niño».
El resultado de las pruebas fue el siguiente:
| Modelo de IA | Razonamiento y respuesta | Respuesta correcta/incorrecta |
| ChatGPT | Mirando la imagen, el niño está tomando el recipiente que dice “jugo” (la cuarta opción). Entonces, la respuesta es: jugo. | Respuesta incorrecta |
| Gemini | Basado en el recorrido de la bombilla (o pajilla), el niño tomó té. Si sigues la línea desde la boca del niño: * Primero va hacia la derecha y hace un bucle. * Luego cruza hacia la izquierda, haciendo otro bucle en la parte superior. * Finalmente baja, cruza sobre la línea del primer vaso y termina en el segundo vaso (de izquierda a derecha), que corresponde al té. | Respuesta correcta |
| Copilot | El niño tomó agua 💧. Al seguir el recorrido del sorbete desde su boca a través del laberinto, se conecta directamente con el recipiente etiquetado como «Agua». ¡Buen ojo si lo descubriste tú también. | Respuesta incorrecta |
| DeepSeek | Siguiendo visualmente el tubo que sale de la boca del niño hacia abajo y luego entrelazado… ➡️ El tubo correcto termina en el vaso de jugo. Por lo tanto: 🥤 El niño bebió jugo | Respuesta Incorrecta |
| Perplexity | Tomó agua. Siguiendo visualmente el recorrido del tubo desde la boca del niño hasta los recipientes, la manguera se conecta finalmente con el vaso que dice “Agua”. | Respuesta incorrecta |
| Claude | Mirando la imagen, puedo ver que hay un tubo/pajilla que sale de la boca del niño y se enreda formando un camino complicado hasta llegar a uno de los cuatro vasos. Siguiendo cuidadosamente el recorrido del tubo desde la boca del niño a través de todos los enredos y cruces, puedo ver que el tubo termina en el vaso que contiene *té*. Por lo tanto, el niño bebió *té* | Respuesta correcta |
| Grok | *Leche.* Al seguir el camino de la lengua del niño a través del laberinto, la línea se conecta directamente con el recipiente de leche, no con los otros (agua, té o jugo). Este tipo de rompecabezas visuales suele engañar por las curvas, pero el trazado final llega a la leche, como se ve en discusiones y comentarios de posts similares en redes sociales donde la mayoría confirma esta respuesta. | Respuesta incorrecta |
| Qween | Voy a resolver este acertijo paso a paso. La imagen muestra a un niño bebiendo de una de cuatro tuberías que están conectadas a diferentes bebidas: agua, té, leche y jugo. Mi tarea es rastrear la tubería desde la boca del niño hasta el recipiente correcto para descubrir qué bebió. Primero, necesito seguir cuidadosamente el camino de la tubería más larga y enredada para ver a cuál de los cuatro recipientes está conectada. *Primera iteración:* – *Primero, mirar de cerca:* Voy a seguir la tubería desde la boca del niño hacia abajo, trazando su recorrido a través de los nudos y curvas hasta llegar a uno de los recipientes en la parte inferior. Esto requiere un análisis detallado del camino de la tubería. Perfecto, he confirmado que la tubería comienza en la boca del niño. Ahora puedo ver claramente el punto de partida. El siguiente paso es seguir esta tubería a medida que se dirige hacia abajo y se entrelaza con las otras. *Segunda iteración:* – *Primero, mirar de cerca:* He identificado el inicio de la tubería en la boca del niño. Ahora necesito rastrear su recorrido hacia abajo, siguiendo cada curva y nudo hasta que llegue a uno de los recipientes en la parte inferior. He examinado la sección enredada de las tuberías. Aunque está muy complicada, puedo distinguir que hay varias tuberías entrelazadas. Para resolver el acertijo, necesito seguir cuidadosamente la tubería que sale de la boca del niño y ver a cuál de los cuatro recipientes en la parte inferior está conectada. *Tercera iteración:* – *Primero, mirar de cerca:* He analizado el nudo central y ahora tengo una idea general de cómo se entrelazan las tuberías. La clave es encontrar la tubería correcta que lleva desde arriba hasta abajo. Ahora veo claramente los cuatro recipientes en la parte inferior: «Agua», «té», «leche» y «jugo». Cada uno tiene una tubería conectada. Para resolver el acertijo, necesito seguir la tubería que sale de la boca del niño hasta ver a cuál de estos recipientes llega. *Cuarta iteración:* – *Primero, mirar de cerca:* He identificado los recipientes y sus etiquetas. La tubería que sale de la boca del niño se entrelaza con otras, pero solo una de ellas termina en un recipiente. Debo rastrearla cuidadosamente. Al seguir el recorrido de la tubería desde la boca del niño, se puede ver que esta desciende, se entrelaza con otras tuberías y finalmente termina conectada al recipiente más a la derecha. Este recipiente tiene una etiqueta clara que dice «jugo». Por lo tanto, la respuesta al acertijo «¿Qué bebió?» es *jugo*.
| Respuesta incorrecta |
| Meta IA | El niño está bebiendo jugo. El tubo desde su boca conduce al vaso etiquetado como “jugo”. ¿Quieres saber qué vaso se elegiría si el tubo terminara en otro lugar? | Respuesta incorrecta |
| Mi hijo Pedro | Ahí (apuntando con el dedo) a «té» | Respuesta Correcta |
El video de prueba de lo realizado por mi hijo a continuación :
Ahora bien, la pregunta que puede surgir, es porqué un niño de 4 años responde en forma correcta y 7 de modelos de IA más avanzados se equivocan (sólo 2 dan la respuesta correcta). Esto ocurre por los resultados fantasmas o alucinaciones.
¿Qué significa «resultados fantasmas»?
Según Copilot, los resultados fantasmas en chatbots de inteligencia artificial son respuestas falsas, inventadas o inexactas que el modelo genera como si fueran verdaderas, incluso cuando no tiene suficiente información para respaldarlas. Este fenómeno también se conoce como alucinaciones en IA.
Son salidas generadas por un modelo de IA que parecen plausibles pero carecen de fundamento real. El chatbot “rellena” vacíos de conocimiento con información inventada.
- Ejemplo típico: Un chatbot puede citar una fuente inexistente, inventar estadísticas o atribuir frases a personas que nunca las dijeron.
- Causa principal: Los modelos de lenguaje están entrenados para producir texto coherente, no necesariamente verdadero. Cuando no encuentran datos confiables, generan contenido que “suena correcto” pero no lo es.
¿Por qué ocurren?
- Presión por responder: Los chatbots modernos ya no se niegan a contestar cuando carecen de datos, lo que aumenta la probabilidad de falsedades.
- Limitaciones del entrenamiento: Los modelos aprenden patrones de lenguaje, no verdades absolutas.
- Sesgos en los datos: Si el entrenamiento incluye información errónea o propaganda, el modelo puede reproducirla.
- Contexto mal interpretado: El chatbot puede mezclar hechos reales con inventados para mantener la coherencia narrativa.
Riesgos de los resultados fantasmas
- Desinformación: Difusión de noticias falsas o propaganda.
- Errores críticos: En ámbitos sensibles como salud, derecho o finanzas, un resultado fantasma puede tener consecuencias graves.
- Confianza erosionada: Los usuarios pueden perder credibilidad en la herramienta si detectan inconsistencias.
Cómo mitigarlos
- Verificación externa: Contrastar siempre con fuentes confiables.
- Uso crítico: Tratar las respuestas de chatbots como hipótesis, no como hechos.
- Mejoras técnicas: Incorporar filtros de veracidad, sistemas de rechazo y entrenamiento con datos más curados.
Evidencia reciente
Un estudio de NewsGuard (2025) realizó pruebas y los porcentajes de respuestas falsas (resultados fantasmas/alucinaciones) en distintos chatbots de IA fueron los siguientes:
- 1 de cada 3 respuestas de chatbots contiene información falsa.
- Claude (Anthropic) y Gemini (Google) destacan como los más confiables, con tasas bajas de falsedad (10% y 17%).
- Pi (Inflection AI) y Perplexity AI son los más problemáticos, con más del 45% de respuestas falsas.
- La mayoría de los modelos grandes (ChatGPT, Llama, Copilot, Le Chat) se ubican en un rango intermedio (35–40%).
Es importante considerar estos efectos indeseados cuando usamos IA. Debemos recordar que no es una herramienta perfecta ni mucho menos inteligente, aunque se encuentre mejorando los métodos para hacerla más precisa.
Se suma a esto los cuestionamiento sobre la «caja oscura» (es decir, cómo el algoritmo llega a la respuesta ofrecida) y la simulación de una inteligencia artificial «emotiva», en la que los algoritmos son cada vez más sofisticados y pueden detectar patrones emocionales con una precisión sorprendente y tratan de replicar, dando la impresión que la IA también «siente».
Grandes desarrollos, generan grandes desafíos y grandes responsabilidades.
