Judith Miller mendapatkan hasil pencitraannya tahun lalu. Dia tidak menyimpannya begitu saja. Dia bertanya pada Claude.
AI, yang dibuat oleh Anthropic, memberinya gangguan. Miller mengikuti tindak lanjutnya dengan membawa pertanyaan. Dia merasa siap. Chatbot “memungkinkan saya untuk lebih memahami,” katanya. Ini bukan tentang mengganti dokternya. Ini tentang pengambilan keputusan bersama.
Ini adalah keadaan normal yang baru.
Jajak pendapat menunjukkan sepertiga orang dewasa telah meminta LLM untuk menjelaskan laboratorium atau mendiagnosis gejala. Robert Wachter, seorang dokter di UCSF, memperkirakan angka tersebut meningkat dua kali lipat setiap tahunnya. “Saya menduga mereka akan berlipat ganda lagi tahun depan.”
Claude tidak dirancang atau dipasarkan untuk diagnosis klinis.
Anthropic setuju dengan pendirian itu. Alat ini mempersiapkan Anda. Itu tidak memperlakukanmu.
Mengapa kita melakukan ini? Karena data.
Undang-Undang Lucu Abad 21 membuang catatan kami secara online. Hasil tes. Catatan klinis. Banyak sekali jargon. Dave deBronhart mengetahui perasaan itu. Anda membaca laporannya. Pertanyaan besarnya tergantung di sana. Apa artinya ini?
Sebelumnya, Anda harus menunggu dokter yang menerjemahkannya. Sekarang? Chatbots melakukannya dalam hitungan detik. Ketakutan menurun. Kecemasan mereda.
Tapi terkadang mereka salah.
LLM berhalusinasi. Mereka membenarkan adanya bias. Mereka menyajikan dugaan sebagai fakta. Cait DesRoches memperingatkan tentang kurangnya pagar pembatas. Tidak banyak penelitian tentang apa yang terjadi ketika kita memperlakukan suatu algoritma seperti seorang dokter.
“Saya rasa kami tidak memiliki gambaran nyata seberapa baik hal ini berhasil bagi rata-rata pasien.”
Risikonya nyata. Seorang pria Seattle meninggal baru-baru ini. Leukemia. Dapat diobati. Dia menolak perawatan karena AI memberitahunya bahwa dia mengalami komplikasi langka yang sebenarnya tidak dia alami. Itu adalah akhir yang buruk.
Sebuah studi Pengobatan Alam menemukan bahwa pengguna hanya mendapat sepertiga diagnosis yang benar dengan bantuan model.
Haruskah kita berhenti menggunakannya? Kebanyakan ahli mengatakan tidak.
Gunakan dengan mata terbuka. Adam Rodman menyebut LLM sebagai alat pemberdayaan terbaik yang pernah ditemukan. Dengan peringatan besar: Anda harus menggunakannya dengan tepat.
Inilah cara orang mencoba memperbaiki bagian yang rusak.
- Berpura-puralah bot itu adalah seorang dokter. Ini mengumpulkan data secara berbeda.
- Mintalah untuk memikirkan kembali jawabannya.
- Dapatkan opini kedua dari model yang berbeda.
- Jangan pernah mengetikkan nomor jaminan sosial Anda. Lindungi privasi Anda.
Tujuannya? Pertanyaan yang lebih baik untuk dokter manusia sejati.
Wachter menyebut ini sehat. Tapi itu memakan waktu. Dia menghabiskan sepuluh menit untuk menyanggah Dr. Chatbot bahkan sebelum janji temu selesai. “Saya punya waktu lima belas menit. ”
Bagi mereka yang tidak memiliki asuransi atau mereka yang terjebak dalam daftar tunggu? AI mungkin saja yang ada.
Laura Adams mengatakan akses berada pada tingkat krisis. Jangan bandingkan bot dengan dokter yang sempurna. Bandingkan dengan tidak sama sekali. Itu mengalahkan sikap tidak peduli.
Kuda itu keluar dari gudang. Kita membutuhkan literasi sekarang. Bukan ketidaktahuan. Pendidikan. Ajari orang bagaimana melakukannya dengan benar.
Model-model baru akan datang. Mungkin yang bersertifikat dewan? Wachter berpendapat hal itu bisa saja terjadi.
Untuk saat ini? Bersikaplah skeptis. Miller tahu yang sebenarnya. Chatbot menyatukan kata-kata dari pola statistik. Ini sangat mengesankan. Itu juga hanya memprediksi kemungkinan kata berikutnya.
“Itu bukanlah kebenaran mutlak,” kata Miller.
