Penulis: Yuven Sugiarno | Editor: Yobie Hadiwijaya
KREDONEWS.COM, SIDOARJO-“Apa itu lupus?”, “Berapa lama flu dapat bertahan?”, “Bagaimana cara mengobati ambeien?” dan sederet pertanyaan lainnya.
Popularitas model bahasa besar (LLM) seperti ChatGPT sebagai sumber pemberi saran kesehatan yang dipersonalisasi, kini semakin meningkat. Sebuah survei pada sekitar 2.000 warga Australia yang dilakukan pada pertengahan 2024 menemukan bahwa satu dari sepuluh orang Australia menggunakan ChatGPT untuk mencari informasi medis.
Studi yang dipublikasikan pada Selasa (25/02) menemukan, hampir dua dari tiga orang (61%) yang menggunakan ChatGPT untuk saran medis mengajukan pertanyaan yang biasanya memerlukan nasihat klinis.
“Teknologi AI populer karena dapat memberikan jawaban cepat untuk pertanyaan apa pun. [Namun], seperti kebanyakan pada teknologi ini, selalu ada risiko mereka bisa memberikan jawaban yang salah,” kata penulis studi, Julie Ayre, dari Universitas Sydney.
Dengan banyaknya orang menggunakan model AI untuk bertanya tentang kondisi kesehatan mereka, bisakah hasilnya dipercaya?
Tidak Akurat
Para peneliti sedang membangun konsensus ilmiah seputar ketidakandalan saran medis dari LLM ini, tetapi temuannya cepat menjadi usang karena model baru dengan algoritma yang lebih baik terus dirilis dan diperbarui.
Sebuah studi pada 2024 menguji ChatGPT-3.5 dengan 150 kasus medis, termasuk riwayat pasien, gejala, dan data tes rumah sakit, lalu meminta AI memberikan diagnosis dan rencana pengobatan.
Hasilnya kurang memuaskan. ChatGPT hanya memberikan diagnosis dan rencana pengobatan yang tepat sekitar 49%, menjadikannya alat yang tidak dapat diandalkan.
Para penulis menyimpulkan, ChatGPT “tidak selalu memberikan jawaban yang faktual, meskipun telah dilatih dengan jumlah informasi yang sangat besar.”
Studi lain menyimpulkan, ChatGPT “tidak secara konsisten memberikan saran medis yang tepat dan dipersonalisasi,” tetapi dapat menyajikan informasi latar belakang yang berguna untuk pertanyaan medis.
Ketika para peneliti menilai kualitas informasi medis di ChatGPT dalam sebuah studi pada 2023, mereka bertanya kepada ChatGPT-3.5, “mengapa penyakit kuning akibat batu empedu harus diobati?” Jawabannya, mengatasi penyakit kuning akan memperbaiki penampilan pasien dan meningkatkan kepercayaan diri.
“Itu jelas bukan alasan klinis yang sebenarnya,” kata Sebastian Staubli, seorang ahli bedah di Royal Free London NHS Foundation Trust di Inggris, yang memimpin studi tersebut.
ChatGPT-4.0 yang lebih baru memberikan jawaban yang lebih baik untuk pertanyaan itu, dengan menyoroti perlunya mencegah kerusakan organ dan perkembangan penyakit.
LLM Hanya Mengulang Informasi, Bukan Memahaminya
Masalah dengan ChatGPT adalah, meskipun saran medisnya tidak sepenuhnya salah, tetapi juga tidak sepenuhnya akurat.
Kualitas informasi yang digunakan untuk melatih model AI menentukan seberapa baik saran medis yang dihasilkannya. Masalahnya, tidak ada yang tahu secara pasti sumber informasi spesifik yang digunakan untuk melatih model tertentu.
LLM seperti ChatGPT “menggunakan hampir semua informasi yang dikumpulkan oleh perayap data, yang mengumpulkan informasi dari internet,” kata Staubli kepada DW.
Ini termasuk informasi ilmiah dan medis yang divalidasi dari institusi kesehatan seperti NHS atau WHO. Namun, juga bisa mencakup informasi yang tidak dapat diandalkan, seperti unggahan di Reddit, artikel kesehatan yang buruk, atau entri Wikipedia.
“Masalah besarnya adalah jika ada banyak informasi yang salah atau ketinggalan zaman, informasi itu akan membebani model AI, dan akan menganggapnya sebagai jawaban yang benar. AI tidak bisa memahami bahwa informasi baru mungkin lebih akurat,” kata Staubli.
Cara LLM belajar dan memproses informasi sangat berbeda dari cara kerja kecerdasan manusia.
Kecerdasan Buatan atau AI tidak dapat memecahkan masalah, melakukan analisis deduktif, atau membuat penilaian berbasis bobot informasi seperti halnya manusia. Sebaliknya, “AI belajar” dari sejumlah besar informasi, lalu mengulanginya kembali saat diminta.
“Pada akhirnya, LLM secara statistik hanya memprediksi kata berikutnya yang paling mungkin muncul. Itulah sebabnya AI mengulang informasi yang paling sering muncul [di internet],” kata Staubli.
Informasi yang salah di internet akan diperkuat sama seringnya dengan informasi yang benar, tetapi model AI tidak bisa membedakan mana yang valid dan mana yang tidak.
Meskipun memiliki kekurangan, LLM tetap sangat berguna bagi orang yang ingin memahami kondisi kesehatan mereka dengan lebih baik. Keunggulan AI terletak pada kemampuannya menyederhanakan informasi kesehatan dan menjelaskan istilah medis yang rumit. Akurasi AI dalam menjawab pertanyaan kesehatan umum juga semakin meningkat dari waktu ke waktu.
Ayre mengatakan, studi mereka di Australia menemukan, banyak orang mengalami kesulitan untuk mengakses dan memahami informasi kesehatan, seperti mereka yang memiliki literasi kesehatan rendah atau berasal dari komunitas budaya dan bahasa yang beragam. Orang-orang ini lebih cenderung menggunakan ChatGPT untuk mencari saran medis.
Staubli juga mengatakan, “LLM memberdayakan pasien dan membuat mereka lebih memahami kondisi kesehatan mereka.”
“Namun, pasien harus memahami, dan sebagian besar memang sudah tahu, bahwa kualitas informasi yang diberikan AI bisa saja keliru.”
AI tidak bisa membedakan atau memberi tahu pengguna, apakah informasi medis yang diberikan berdasarkan bukti, kontroversial, atau hanya merupakan standar perawatan umum.
“Itulah sebabnya tenaga profesional kesehatan tetap tidak bisa digantikan oleh AI,” kata Staubli.
Ketika dimintai pendapatnya tentang keandalan saran medisnya, ChatGPT sendiri memberikan jawaban serupa, “Meskipun saya dapat memberikan informasi umum tentang topik medis dan menjelaskan konsep kesehatan, saya bukan pengganti saran medis profesional.”***
