Sistemas generativos de inteligência artificial (IA), como ChatGPT, Gemini e Copilot, estão gerando cada vez mais informações falsas e fontes fabricadas, criando um grande desafio para bibliotecários e instituições responsáveis por fornecer dados precisos. O principal problema é que essas ferramentas de IA sempre fornecem uma resposta, mesmo quando não existe informação real – elas simplesmente inventam detalhes que parecem plausíveis.
A maré crescente de falsidades geradas por IA
De acordo com Sarah Falls, bibliotecária de pesquisa da Biblioteca da Virgínia, aproximadamente 15% das perguntas de referência que sua equipe recebe agora são escritas por IA. Essas consultas geralmente incluem citações e fontes inteiramente inventadas, forçando os bibliotecários a gastar mais tempo verificando (ou desmascarando) as afirmações. A questão não é apenas irritante; representa uma falha fundamental na abordagem atual da tecnologia para recuperação de conhecimento.
O Comité Internacional da Cruz Vermelha (CICV) alertou publicamente sobre este problema, afirmando que as ferramentas de IA não podem admitir quando as fontes históricas estão incompletas; em vez disso, eles inventam detalhes.
O CICV agora aconselha os usuários a consultarem diretamente seus catálogos oficiais e arquivos acadêmicos, em vez de confiarem em listas geradas por IA. Isto realça uma preocupação mais ampla: até que a IA se torne mais fiável, o fardo da verificação dos factos recairá diretamente sobre os arquivistas humanos.
Por que isso é importante
Esta tendência é significativa por vários motivos. Primeiro, sublinha as limitações dos actuais modelos de IA generativa. Esses sistemas são projetados para produzir conteúdo, não necessariamente para verificá-lo. Em segundo lugar, coloca uma pressão indevida sobre os já esgotados recursos da biblioteca. Como observa Falls, as instituições poderão em breve precisar limitar o tempo gasto na verificação das informações geradas pela IA devido ao grande volume.
Finalmente, esta situação reforça o valor duradouro da experiência humana. Ao contrário da IA, os bibliotecários são treinados para pensar criticamente, realizar pesquisas minuciosas e – o que é crucial – admitir quando não sabem uma resposta. Este é um princípio fundamental de gestão confiável de informações que falta atualmente à IA.
A dependência excessiva de conteúdos gerados por IA sem avaliação crítica continuará a sobrecarregar os bibliotecários e outros profissionais da informação. A solução não é abandonar totalmente a IA, mas compreender as suas limitações e priorizar a verificação humana até que a tecnologia melhore.
