Los sistemas de inteligencia artificial (IA) generativa como ChatGPT, Gemini y Copilot generan cada vez más información falsa y fuentes fabricadas, lo que crea un desafío importante para los bibliotecarios y las instituciones responsables de proporcionar datos precisos. El problema central es que estas herramientas de inteligencia artificial siempre brindan una respuesta, incluso cuando no existe información real: simplemente inventan detalles que parecen plausibles.
La creciente marea de falsedades generadas por la IA
Según Sarah Falls, bibliotecaria dedicada a la investigación en la Biblioteca de Virginia, aproximadamente el 15% de las preguntas de referencia que recibe su personal ahora están escritas por IA. Estas consultas a menudo incluyen citas y fuentes completamente inventadas, lo que obliga a los bibliotecarios a dedicar más tiempo a verificar (o desacreditar) las afirmaciones. La cuestión no es sólo molesta; representa un defecto fundamental en el enfoque actual de la tecnología para la recuperación de conocimientos.
El Comité Internacional de la Cruz Roja (CICR) ha advertido públicamente sobre este problema, afirmando que las herramientas de IA no pueden admitir cuando las fuentes históricas están incompletas; en cambio, inventan detalles.
El CICR ahora recomienda a los usuarios que consulten directamente sus catálogos oficiales y archivos académicos, en lugar de depender de listas generadas por IA. Esto pone de relieve una preocupación más amplia: hasta que la IA se vuelva más confiable, la carga de la verificación de datos recaerá directamente sobre los archiveros humanos.
Por qué esto es importante
Esta tendencia es significativa por varias razones. En primer lugar, subraya las limitaciones de los modelos actuales de IA generativa. Estos sistemas están diseñados para producir contenido, no necesariamente verificarlo. En segundo lugar, impone una presión indebida sobre los ya escasos recursos de la biblioteca. Como señala Falls, es posible que las instituciones pronto necesiten limitar el tiempo dedicado a verificar la información generada por IA debido al gran volumen.
Finalmente, esta situación refuerza el valor duradero de la experiencia humana. A diferencia de la IA, los bibliotecarios están capacitados para pensar críticamente, realizar búsquedas exhaustivas y, lo que es más importante, admitir cuando no saben una respuesta. Este es un principio básico de gestión confiable de la información del que actualmente carece la IA.
La dependencia excesiva del contenido generado por IA sin una evaluación crítica seguirá siendo una carga para los bibliotecarios y otros profesionales de la información. La solución no es abandonar por completo la IA, sino comprender sus limitaciones y priorizar la verificación humana hasta que la tecnología mejore.
