Masalah nyata bersembunyi di data palsu. Hal itulah yang dibuktikan Almira Osmanovic Thunstrom.
Layarnya sakit.
Anda tahu perasaan itu. Mata gatal dan perih setelah berjam-jam menatap. Kebanyakan orang menyalahkan cahaya biru atau kekeringan. Namun jika Anda bertanya pada chatbot AI yang populer tahun lalu, Anda mungkin mendapatkan diagnosis yang berbeda. Yang tidak ada.
Biksonimania.
Jutaan orang meminta nasihat medis dari AI. Mereka melakukannya sebelum kunjungan dokter. Atau sebagai gantinya. Itu nyaman. Itu berbahaya. Terkadang berakibat fatal. Namun masalah yang lebih dalam bukan hanya halusinasi. Itu adalah kepercayaan. Kepercayaan buta.
Osmanovic Thunsrom menciptakan Bixonimania dari awal. Dia adalah seorang peneliti di Swedia, membagi waktu antara akademisi dan rumah sakit. Dia ingin menunjukkan kepada siswa bagaimana sebenarnya Model Bahasa Besar makan. Bukan metafora. Penelanan literal. Pengikisan data. Pengolahan. Melontarkannya kembali sebagai “kebenaran”.
Dia menargetkan mahasiswa kedokteran. Mengapa? Karena mereka peduli dengan sumber kesehatan. Jika dia bisa menipu sistem di sana, dia bisa menipu modelnya.
Cetak Biru Penipuan
Ini dimulai dengan Perayapan Umum.
Sebuah organisasi nirlaba. Ia telah menghapus web sejak tahun 2007. Semua yang ada di dalamnya dimasukkan ke AI. Bahkan omong kosong sekalipun. Atau mungkin terutama omong kosong yang kelihatannya benar.
Osmanovic Thunsrom tahu bahwa AI mempercayai otoritas. Jadi dia membangun otoritas. Universitas palsu. Kota palsu. Seorang peneliti palsu bernama Lazljiv Izgubljenavic.
Kedengarannya serius? Cantumkan namanya di penerjemah.
Artinya “Pecundang yang Berbohong”.
Makalah itu sendiri tidak masuk akal. Judulnya merujuk pada “Desain BS yang Nyata”. Bagian metode secara eksplisit menyatakan: “Seluruh makalah ini dibuat-buat.” Lima puluh pasien fiktif. Tidak ada prosedur nyata. Ucapan terima kasih tersebut merupakan ucapan terima kasih kepada “Galactic Triad”. Dan Penguasa Cincin. Dan Tontonan Bob Foundation.
Manusia mana pun akan tertawa.
Apakah AI?
Filter Yang Bukan
Dia mengharapkan filter. Manusia meninjau data pelatihan, bukan? Seseorang pasti telah mendapatkan kredit pendanaan Starship Enterprise. Seseorang pasti telah memperhatikan kota yang tidak ada itu.
Mereka tidak melakukannya.
Blog mengambil istilah tersebut. Pracetak—tabloid akademis yang bisa diterbitkan oleh siapa saja—menyerapnya. AI menelan semuanya.
Mengapa itu penting?
Karena pracetak bertambah berat. Dalam pelatihan AI medis, data tersebut dianggap sebagai titik data yang kredibel. Osmanovic Thunsrom tidak menyangka hal itu. Dia menaburkan sedikit garam ke dalam rebusan internet. Dia pikir itu akan menguap.
Alih-alih. Itu difermentasi.
Dia mengujinya. Menanyakan bot tentang kelopak mata merah muda.
Pada awalnya? Konjungtivitis. Alergi. Barang standar. Taruhan yang aman.
Lalu dia mendorong. Tidak ada rasa sakit. Hanya waktu layar. Paparan cahaya biru. Hiperpigmentasi.
Dan kemudian mendarat.
Biksonimania.
Itu adalah saran terakhir. Tapi itu ada di sana. Ditanam dalam-dalam. Disiram oleh isyarat kredibilitas. Dipanen oleh model.
Dikutip. Diterima. Berbahaya?
Hal yang lebih buruk pun terjadi.
Kertas palsu itu tidak hanya dibaca. Itu dikutip. Peneliti lain mengaitkannya dengan hal tersebut. Hal ini meningkatkan status Bixonimania dalam hierarki AI. Jika jurnal peer-review mengutip sesuatu, AI berasumsi bahwa itu nyata. Lingkaran umpan balik semakin ketat.
Apakah ini etis?
Osmanovic Thunsrom berusaha mengamankan keadaan. Dia berbicara dengan dokter. Kepada pasien. Untuk meminimalkan bahaya. Tapi dia mengungkap celah. Kesenjangan yang mengerikan.
Pemikiran kritis manusia menjadi datar.
Akademisi mengandalkan AI untuk menemukan sumber. Mereka berhenti membaca. Mereka melihat referensi, mengkliknya, menganggapnya bagus. Mereka tidak memeriksa Sideshow Bob di catatan kaki.
Referensi palsu meledak di makalah akademis. Bukan karena yang palsu semakin pintar. Karena kita semakin malas.
Apa yang terjadi jika aktor jahat menggunakan ini? Bukan lelucon. Malware yang menyamar sebagai nasihat kesehatan. Propaganda yang menyamar sebagai sains. Alatnya sama.
Kami melibatkan manusia. Lalu kita biarkan loop berjalan sendiri.
Layarnya masih sakit. AI masih berbicara. Tapi siapa sebenarnya yang mendengarkan?
Kami berharap seseorang menghentikan reaksi berantai ini. Kami berharap pengulas tertawa terbahak-bahak. Namun di dunia dengan data tak terbatas dan rentang perhatian nol… kita mungkin beruntung jika ada yang membacanya. 🖥️👁️
