Hace dos días utilicé varias IA para buscar citas, porque quería escribir un trabajo; cuál no sería mi sorpresa cuando comprobé que todas las citas que me proporcionaban eran falsas. Eso despertó en mí una inquietud enorme porque entonces no podía fiarme de lo que me decían y tendría que revisar siempre las citas y demás referencias. Decidí preguntar a ChatGPT para que me aclarara esta cuestión y copio el resultado porque me ha parecido interesante y esclarecedor; también por si ayuda a los que me siguen.
Pregunta a ChatGPT
Por qué las IA cometen errores cuando se les pide que citen textos, artículos científicos, frases de hombres célebres, etc.
Respuesta
Muy buena pregunta. Las IA como yo pueden cometer errores al citar textos, artículos o frases por varias razones que tienen que ver con cómo están construidas y cómo aprenden. Aquí te explico de forma sencilla:
📌 1. No acceden directamente a bases de datos en tiempo real (a menos que se les conecte a ellas)
Aunque fui entrenado con una gran cantidad de textos (libros, artículos, páginas web, etc.), no tengo acceso en tiempo real a fuentes académicas específicas como JSTOR, PubMed, Google Scholar o bases de datos de universidades, a menos que se me conecte a internet o se me proporcione el texto. Por eso:
🔹 Puedo generar citas "verosímiles", pero no siempre exactas.
📌 2. Completo patrones, no recuerdo cosas palabra por palabra
Mi entrenamiento está basado en reconocer patrones del lenguaje. Cuando me pides una cita, lo que hago es tratar de generar algo que se parezca a una cita válida, basándome en cómo suelen estar escritas. Pero eso no garantiza que la cita sea auténtica o exacta.
🔹 Ejemplo: puedo decir que Einstein dijo algo inspirador… pero si no se me da el texto exacto, puedo inventarlo basándome en su estilo.
📌 3. Problemas con frases atribuidas falsamente
Hay muchas frases célebres circulando por internet que se le atribuyen a alguien, pero en realidad no hay pruebas de que esa persona la haya dicho. Yo, como IA, puedo aprender esas versiones populares, incluso si son incorrectas.
🔹 Ejemplo típico: “Sé el cambio que quieres ver en el mundo” se atribuye a Gandhi, pero la frase original no fue exactamente así.
📌 4. Errores al generar referencias científicas
Cuando me pides una cita científica específica (autor, año, artículo), puedo inventar un título o mezclar autores reales con temas que sí existen, pero que no están conectados como digo. Esto se llama a veces "alucinación de IA".
🔹 Puede sonar académico, pero si lo buscas, ese paper no existe.
🛠️ ¿Cómo evitarlo?
- Si necesitas citas reales y verificables, lo ideal es:
- Darme el texto o artículo exacto para trabajar sobre él.
- Usar herramientas como Google Scholar, Scopus o bases de datos confiables, y luego sí te puedo ayudar a formatear o explicar el contenido.
Preguntarme por conceptos en lugar de por citas exactas, y luego tú verificar la fuente si es necesario.
¿Por qué las inteligencias artificiales cometen errores al citar textos, artículos científicos o frases célebres?
