Los problemas reales se esconden en datos falsos. Esto es lo que demostró Almira Osmanovic Thunstrom.
Las pantallas duelen.
Conoces ese sentimiento. Picazón y dolor en los ojos después de horas de mirar fijamente. La mayoría de la gente culpa a la luz azul o a la sequedad. Pero si le hubieras preguntado a un popular chatbot de IA el año pasado, es posible que hubieras obtenido un diagnóstico diferente. Uno que no existe.
Bixonimanía.
Millones de personas piden consejo médico a AI. Lo hacen antes de la visita al médico. O en lugar de eso. Es conveniente. Es peligroso. A veces fatal. Pero el problema más profundo no es sólo la alucinación. Es confianza. Confianza ciega.
Osmanovic Thunsrom creó Bixonimania desde cero. Es investigadora en Suecia y divide su tiempo entre la academia y los hospitales. Quería mostrarles a los estudiantes cómo comen realmente los modelos de lenguaje grandes. No metáforas. Ingestión literal. Raspado de datos. Tratamiento. Escupirlo como “verdad”.
Su objetivo era estudiantes de medicina. ¿Por qué? Porque se preocupan por las fuentes de salud. Si podía engañar al sistema allí, podría engañar al modelo.
El plan para el engaño
Comenzó con Rastreo común.
Una organización sin fines de lucro. Ha rastreado la web desde 2007. Todo lo que contiene se alimenta a la IA. Incluso las tonterías. O tal vez especialmente las tonterías que parecen correctas.
Osmanovic Thunsrom sabía que la IA confía en la autoridad. Entonces ella construyó autoridad. Una universidad falsa. Una ciudad falsa. Un falso investigador llamado Lazljiv Izgubljenavic.
¿Suena serio? Pon su nombre en un traductor.
Significa “El perdedor mentiroso”.
El artículo en sí era absurdo. El título hacía referencia a “Un diseño real de tonterías”. La sección de métodos decía explícitamente: “Todo este artículo está inventado”. Cincuenta pacientes ficticios. Sin procedimientos reales. Los reconocimientos agradecieron a la “Tríada Galáctica”. Y El Señor de los Anillos. Y la Fundación Sideshow Bob.
Cualquier humano se reiría.
¿La IA?
El filtro que no era
Ella esperaba un filtro. Los humanos revisan los datos de entrenamiento, ¿verdad? Alguien debe haber captado los créditos de financiación de Starship Enterprise. Alguien debe haber notado la ciudad inexistente.
No lo hicieron.
Los blogs retomaron el término. Los preprints, “tabloides” académicos donde cualquiera puede publicar, lo absorbieron. La IA se lo tragó todo.
¿Por qué importa eso?
Porque las preimpresiones ganan peso. En la formación médica en IA, cuentan como puntos de datos creíbles. Osmanovic Thunsrom no se lo esperaba. Echó un poco de sal al guiso de internet. Ella pensó que se evaporaría.
En cambio. Fermentó.
Ella lo probó. Le preguntó al robot sobre los párpados rosados.
¿En primer lugar? Conjuntivitis. Alergias. Cosas estándar. Apuestas seguras.
Luego empujó. Sin dolor. Solo tiempo frente a la pantalla. Exposición a la luz azul. Hiperpigmentación.
Y luego aterrizó.
Bixonimanía.
Fue la última sugerencia. Pero estaba ahí. Plantado profundamente. Regado por señales de credibilidad. Cosechado por el modelo.
Citado. Aceptado. ¿Peligroso?
Sucedieron cosas peores.
El periódico falso no fue simplemente leído. Fue citado. Otros investigadores vinculados a ello. Esto impulsó el estatus de Bixonimania en la jerarquía de la IA. Si las revistas revisadas por pares citan algo, la IA asume que es real. El circuito de retroalimentación se estrecha.
¿Es esto ético?
Osmanovic Thunsrom intentó ponerlo a salvo. Ella habló con los médicos. A los pacientes. Para minimizar el daño. Pero ella expuso una brecha. Una brecha aterradora.
El pensamiento crítico humano se ha estancado.
Los académicos dependen de la IA para encontrar fuentes. Dejan de leer. Ven una referencia, hacen clic en ella y asumen que es buena. No buscan a Sideshow Bob en las notas a pie de página.
Las referencias falsas están proliferando en los artículos académicos. No porque las falsificaciones sean cada vez más inteligentes. Porque nos estamos volviendo vagos.
¿Qué sucede cuando los malos actores usan esto? No es una broma. Malware disfrazado de consejos de salud. Propaganda disfrazada de ciencia. Las herramientas son las mismas.
Ponemos a los humanos al tanto. Luego dejamos que el bucle se ejecute solo.
La pantalla todavía duele. La IA todavía habla. ¿Pero quién está realmente escuchando?
Esperamos que alguien detuviera la reacción en cadena. Esperamos que un crítico se haya reído a carcajadas. Pero en un mundo de datos infinitos y capacidad de atención nula… podríamos tener suerte si alguien lo leyera. 🖥️👁️
