Problemas reais se escondem em dados falsos. Foi isso que Almira Osmanovic Thunstrom provou.
As telas doem.
Você conhece esse sentimento. Olhos doloridos e com coceira depois de horas olhando. A maioria das pessoas culpa a luz azul ou a secura. Mas se você tivesse perguntado a um chatbot de IA popular no ano passado, poderia ter obtido um diagnóstico diferente. Um que não existe.
Bixonimania.
Milhões pedem aconselhamento médico à IA. Eles fazem isso antes da consulta médica. Ou em vez disso. É conveniente. É perigoso. Às vezes fatal. Mas a questão mais profunda não é apenas a alucinação. É confiança. Confiança cega.
Osmanovic Thunsrom criou a Bixonimania do zero. Ela é pesquisadora na Suécia, dividindo seu tempo entre a academia e os hospitais. Ela queria mostrar aos alunos como os Grandes Modelos de Linguagem realmente comem. Não metáforas. Ingestão literal. Raspagem de dados. Processamento. Cuspindo isso como “verdade”.
Ela tinha como alvo estudantes de medicina. Por que? Porque eles se preocupam com as fontes de saúde. Se ela pudesse enganar o sistema ali, ela poderia enganar o modelo.
O projeto para o engano
Tudo começou com Rastreamento comum.
Uma organização sem fins lucrativos. Ele está na web desde 2007. Tudo nele é alimentado pela IA. Até mesmo o absurdo. Ou talvez especialmente o absurdo que parece certo.
Osmanovic Thunsrom sabia que a IA confia na autoridade. Então ela construiu autoridade. Uma universidade falsa. Uma cidade falsa. Um falso pesquisador chamado Lazljiv Izgubljenavic.
Parece sério? Coloque o nome dele em um tradutor.
Significa “O Perdedor Mentiroso”.
O jornal em si era absurdo. O título fazia referência a “A Real BS Design”. A seção de métodos afirmava explicitamente: “Este artigo inteiro é inventado.” Cinquenta pacientes fictícios. Nenhum procedimento real. Os agradecimentos agradeceram à “Tríade Galáctica”. E Senhor dos Anéis. E a Fundação Sideshow Bob.
Qualquer humano riria.
A IA?
O filtro que não existia
Ela esperava um filtro. Os humanos revisam os dados de treinamento, certo? Alguém deve ter obtido os créditos de financiamento da Starship Enterprise. Alguém deve ter notado a cidade inexistente.
Eles não fizeram isso.
Os blogs adotaram o termo. Os preprints – “tablóides” acadêmicos onde qualquer um pode publicar – absorveram isso. A IA ingeriu tudo.
Por que isso importa?
Porque as pré-impressões ganham peso. No treinamento médico em IA, eles contam como pontos de dados confiáveis. Osmanovic Thunsrom não esperava isso. Ela salpicou um pouco de sal no ensopado da internet. Ela pensou que iria evaporar.
Em vez de. Fermentou.
Ela testou. Perguntou ao bot sobre pálpebras rosadas.
Inicialmente? Conjuntivite. Alergias. Coisas padrão. Apostas seguras.
Então ela empurrou. Sem dor. Apenas tempo de tela. Exposição à luz azul. Hiperpigmentação.
E então pousou.
Bixonimania.
Foi a última sugestão. Mas estava lá. Plantado profundamente. Regado por sinais de credibilidade. Colhido pela modelo.
Citado. Aceito. Perigoso?
O pior aconteceu.
O papel falso não foi apenas lido. Foi citado. Outros pesquisadores vinculados a ele. Isto impulsionou o status da Bixonimania na hierarquia da IA. Se periódicos revisados por pares citam algo, a IA assume que é real. O ciclo de feedback se estreita.
Isso é ético?
Osmanovic Thunsrom tentou torná-lo seguro. Ela conversou com médicos. Para pacientes. Para minimizar os danos. Mas ela expôs uma lacuna. Uma lacuna terrível.
O pensamento crítico humano estagnou.
Os acadêmicos contam com a IA para encontrar fontes. Eles param de ler. Eles veem uma referência, clicam nela e presumem que é boa. Eles não verificam Sideshow Bob nas notas de rodapé.
Referências falsas estão explodindo em artigos acadêmicos. Não porque as falsificações estejam ficando mais inteligentes. Porque estamos ficando preguiçosos.
O que acontece quando maus atores usam isso? Não é uma piada. Malware disfarçado de conselho de saúde. Propaganda disfarçada de ciência. As ferramentas são as mesmas.
Colocamos os humanos no circuito. Então deixamos o loop funcionar sozinho.
A tela ainda dói. A IA ainda fala. Mas quem está realmente ouvindo?
Esperamos que alguém tenha interrompido a reação em cadeia. Esperamos que um revisor tenha rido alto. Mas num mundo de dados infinitos e zero capacidade de atenção… poderemos ter sorte se alguém o ler. 🖥️👁️
