Tohir78 - CEO OpenAI Sam Altman cukup terkejut karena banyak orang langsung mempercayai ChatGPT tanpa melakukan verifikasi. Padahal, chatbot AI seperti ChatGPT masih sering "halu" atau berhalusinasi.
Itu diaungkapkannya dalam episode perdana podcast ini (podcast) resmi OpenAI, berjudul "Sam Altman tentang AGI, GPT-5, dan apa yang akan datang — Podcast OpenAI Ep. 1".
Di podcast itu, tokoh kunci di balik OpenAI ini secara langsung mengatakan tentang keterbatasan ChatGPT dan bagaimana kita sebagai pengguna seharusnya bersikap.
"Orang-orang memiliki tingkat kepercayaan yang sangat tinggi terhadap ChatGPT, yang sebenarnya cukup mengejutkan, karena AI itu masih sering 'berhalusinasi'," kata Altman.
Di dunia kecerdasan buatan, istilah "hallucination" tidak berarti AI benar-benar berkhayal seperti manusia, tetapi merujuk pada kecenderungan model AI seperti ChatGPT menghasilkan informasi yang salah, meskipun disampaikan dengan bahasa yang terdengar meyakinkan.
Verifikasi informasi wajib dilakukan
Altman menyarankan pengguna untuk selalu memverifikasi informasi yang diberikan oleh ChatGPT, terutama jika digunakan untuk hal-hal penting seperti pendidikan, pekerjaan, penelitian, kesehatan, atau keuangan.
"Teknologi ini belum benar-benar bisa diandalkan 100 persen. Kami harus jujur dan terbuka tentang hal itu," kata Altman dalam podcast berdurasi sekitar 40 menit itu.
Altman menjelaskan bahwa ChatGPT bekerja dengan memprediksi kata berikutnya dalam sebuah kalimat, berdasarkan pola bahasa dari data yang digunakan saat pelatihan.
Artinya, chatbot ini tidak benar-benar "memahami" topik yang sedang dibahas, melainkan hanya meniru pola bahasa yang sering muncul di internet, buku, dan dokumen lainnya.
Jadi, meskipun hasilnya sering terasa benar, tetap saja ada kemungkinan besar jawaban yang diberikan AI tidak akurat, salah, atau bahkan sepenuhnya salah.
Maka dari itu, kata Altman, ChatGPT sebaiknya digunakan seperti kita menggunakan alat bantu lainnya (seperti kalkulator atau kamus), bukan sebagai satu-satunya sumber kebenaran.
Dengan peringatan langsung dari CEO OpenAI ini, pengguna diingatkan untuk tidak menggunakan ChatGPT sebagai satu-satunya sumber informasi.
ChatGPT sangat berguna untuk membantu menulis, merangkum, menjawab pertanyaan, hingga belajar sesuatu yang baru, tapi hasilnya tetap harus dicek dan dikonfirmasi kembali.
"ChatGPT adalah alat bantu, bukan pengganti akal sehat kita," kira-kira pesan yang ingin disampaikan oleh Sam Altman, sebagaimana dikutip KompasTekno dari NDTV .
Jika digunakan dengan bijak, ChatGPT bisa sangat membantu. Sebaliknya, jika digunakan tanpa berpikir kritis, bisa jadi justru menyesatkan.
Maka, dari itu, pengguna tetap harus melakukan pengecekan kembali, dan jangan percaya buta pada jawaban chatbot AI.
Potensi moneter ChatGPT
Masih dalam podcast yang sama, Altman juga mengungkap tentang potensi monetisasi ChatGPT di masa depan, seperti adanya iklan dan fitur berbayar.
Ia menyatakan bahwa jika suatu saat ada iklan, maka itu harus jelas dan tidak boleh memengaruhi isi jawaban AI.
"Jika jawaban ChatGPT sampai dipengaruhi oleh siapa yang membayar lebih, itu akan menghancurkan kepercayaan pengguna," kata pria yang lahir di Chicago pada tahun 1985 itu.
Altman menyadari bahwa menjaga kepercayaan pengguna adalah hal yang paling penting dalam teknologi berbasis AI.
Oleh karena itu, ia ingin memastikan bahwa jawaban ChatGPT tidak dimanipulasi hanya untuk keuntungan bisnis. Podcast Sam Altman membahas tentang jangan terlalu percaya jawaban ChatGPT ini, selengkapnya bisa dilihat melalui video di bawah ini.
Komentar
Posting Komentar