Penulis: Jacobus E Lato | Editor: Yobie Hadiwijaya
KREDONEWS.COM, JAKARTA-Meskipun ChatGPT dipakai jutaan orang setiap hari, pendirinya blak-blakan bahwa ChatGPT tak selalu akurat dan bisa menyesatkan.
CEO OpenAI, Sam Altman, mengimbau para pengguna untuk tidak menaruh kepercayaan buta pada chatbot AI, termasuk produknya sendiri, ChatGPT, karena potensi munculnya informasi yang tidak akurat atau menyesatkan.
“Orang-orang punya tingkat kepercayaan yang sangat tinggi terhadap ChatGPT, dan itu menarik, karena AI bisa berhalusinasi,” ujar Altman dalam episode perdana podcast resmi OpenAI, seperti dilansir The Economic Times pekan ini.
Pernyataan Altman ini langsung memicu perbincangan luas, baik di kalangan komunitas teknologi maupun pengguna sehari-hari, mengingat banyak orang mengandalkan ChatGPT untuk berbagai kebutuhan, mulai dari menulis, riset, hingga urusan pengasuhan anak.
Namun pesan Altman sangat jelas: ChatGPT, seperti model bahasa besar lainnya, memang bisa memberikan jawaban yang terdengar meyakinkan tapi sejatinya keliru atau menyesatkan.
Maka dari itu, pengguna disarankan untuk lebih bijak dan kritis saat menggunakan ChatGPT.
Dikutip dari Windows Central, ChatGPT bekerja dengan memprediksi kata berikutnya dalam sebuah kalimat berdasarkan pola dari data pelatihannya. Karena tidak memiliki pemahaman tentang dunia layaknya manusia, ChatGPT kadang menghasilkan informasi yang tidak akurat, bahkan sepenuhnya fiktif.
Fenomena ini dalam dunia AI dikenal dengan istilah “halusinasi”, atau yang saat ini kerap disingkat dengan slang “halu” oleh generasi muda.
Altman menekankan pentingnya transparansi dan bersikap realistis terhadap ekspektasi pengguna. “Teknologi ini tidak terlalu bisa diandalkan,” ucapnya. “Kita perlu jujur soal itu.”
Meskipun punya keterbatasan, ChatGPT tetap digunakan jutaan orang setiap hari. Altman mengakui popularitas ini, tapi juga memperingatkan bahaya yang bisa muncul jika pengguna terlalu bergantung dan menerima semua jawaban tanpa melakukan verifikasi lebih lanjut.
Ia juga menyinggung soal pentingnya transparansi serta tantangan dalam menjaga keandalan teknologi AI.
Hal ini disampaikan di tengah meningkatnya tekanan hukum terhadap OpenAI, termasuk gugatan hak cipta dari sejumlah media besar seperti The New York Times.
Altman menegaskan kembali komitmen perusahaannya untuk terus bersikap terbuka terhadap keterbatasan sistem AI yang mereka kembangkan.***
