.jpg "Blogger Sulawesi")
Masalahnya bukan sekadar AI memberikan jawaban yang salah karena salah memahami pertanyaan. Dalam sejumlah kondisi, sistem AI generatif bahkan dapat menghasilkan nama orang, angka, sumber, kutipan, peristiwa, atau penjelasan yang sebenarnya tidak pernah ada, tetapi disusun sedemikian rupa sehingga tampak masuk akal. Fenomena ini sering disebut sebagai AI hallucination atau halusinasi AI, dan menjadi salah satu tantangan terbesar dalam penggunaan model bahasa modern.
Hal tersebut tentu menimbulkan pertanyaan yang menarik. Jika AI dilatih menggunakan data dalam jumlah yang sangat besar dan mampu menjawab pertanyaan dalam hitungan detik, mengapa teknologi secanggih itu masih bisa salah? Bukankah semakin banyak data seharusnya membuat AI semakin akurat? Untuk memahami persoalan ini, kita perlu melihat cara AI belajar, cara model menghasilkan jawaban, keterbatasan data, serta perbedaan mendasar antara "menghasilkan jawaban yang tampak benar" dan "mengetahui bahwa jawaban tersebut benar".
AI Memang Bisa Salah, Bahkan Ketika Jawabannya Terdengar Sangat Meyakinkan
Kesalahan AI merupakan sesuatu yang secara teknis memang dapat terjadi dan bukan sekadar akibat pengguna memberikan pertanyaan yang buruk. Model AI generatif pada dasarnya dirancang untuk menghasilkan keluaran berdasarkan pola yang dipelajari selama proses pelatihan dan konteks yang diberikan kepadanya, sehingga kemampuan menghasilkan bahasa yang lancar tidak secara otomatis berarti setiap pernyataan yang dihasilkan telah diverifikasi terhadap kenyataan. Karena itu, sebuah jawaban dapat terlihat sangat sistematis, menggunakan istilah akademik, memiliki struktur yang rapi, bahkan terdengar seperti penjelasan seorang ahli, tetapi tetap mengandung informasi yang keliru.
Salah satu bentuk kesalahan yang paling sering dibahas adalah ketika model menghasilkan informasi yang sebenarnya tidak memiliki dasar faktual, tetapi disampaikan seolah-olah benar. Misalnya, seseorang meminta AI mencantumkan sebuah jurnal ilmiah mengenai topik tertentu, lalu sistem memberikan judul jurnal, nama penulis, tahun penerbitan, bahkan DOI yang terlihat profesional. Apabila informasi tersebut tidak diverifikasi, pengguna mungkin menganggap referensi itu benar hanya karena formatnya menyerupai referensi akademik yang sesungguhnya, padahal sebagian atau seluruh informasi tersebut dapat saja merupakan hasil generasi model.
Para peneliti dari Google DeepMind, University of Washington, dan berbagai institusi lain telah meneliti persoalan hallucination dalam sistem bahasa dan menemukan bahwa model dapat menghasilkan informasi yang tidak didukung oleh sumber atau konteks yang tersedia. Salah satu persoalan pentingnya adalah model bahasa tidak secara otomatis bekerja seperti ensiklopedia yang setiap kalimatnya diperiksa satu per satu terhadap basis data fakta sebelum ditampilkan kepada pengguna. Model menghasilkan keluaran berdasarkan proses komputasional yang sangat kompleks, sehingga kelancaran bahasa dan kebenaran fakta merupakan dua persoalan yang harus dibedakan.
Inilah alasan mengapa pengguna tidak seharusnya menilai kualitas jawaban AI hanya berdasarkan seberapa percaya diri atau seberapa rapi jawabannya. Bahasa yang meyakinkan bukanlah bukti bahwa informasi tersebut benar. Bahkan dalam penggunaan profesional, semakin penting suatu informasi terhadap keputusan yang akan diambil, semakin penting pula informasi tersebut diperiksa melalui sumber primer atau sumber yang memiliki otoritas.
Mengapa AI Bisa Menghasilkan Informasi yang Tidak Pernah Ada?
Untuk memahami fenomena tersebut, kita perlu terlebih dahulu memahami bahwa model bahasa besar atau Large Language Model (LLM) tidak bekerja seperti manusia yang memiliki pengalaman langsung mengenai dunia. Model dilatih menggunakan data dalam jumlah sangat besar untuk mempelajari hubungan dan pola dalam bahasa. Dalam proses menghasilkan respons, model memanfaatkan pola tersebut untuk menentukan rangkaian token yang paling sesuai dengan konteks yang diberikan, sehingga keluaran yang muncul merupakan hasil proses prediksi dan komputasi, bukan sekadar proses "membuka buku" lalu menyalin jawaban yang sudah tersimpan.
Bayangkan seseorang meminta AI membuat penjelasan tentang sebuah buku yang sebenarnya tidak pernah diterbitkan. Model mungkin mengenali pola bahwa judul tersebut terdengar seperti judul buku akademik, mengetahui gaya penulisan bibliografi, memahami bagaimana nama penulis biasanya ditampilkan, serta mengetahui bentuk umum ringkasan buku. Dengan kombinasi pola tersebut, model dapat menghasilkan sebuah deskripsi yang sangat meyakinkan meskipun objek yang dibicarakan sebenarnya tidak ada. Model tidak harus "berbohong" dalam pengertian manusia untuk menghasilkan hal tersebut; kesalahan dapat muncul karena sistem berusaha menghasilkan keluaran yang secara linguistik sesuai dengan konteks.
Emily M. Bender, profesor linguistik di University of Washington, bersama Timnit Gebru, Angelina McMillan-Major, dan Shmargaret Shmitchell, dalam makalah terkenal On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? yang diterbitkan pada 2021, memberikan kritik mendalam terhadap cara masyarakat memahami model bahasa. Mereka menyoroti bahwa kemampuan menghasilkan bahasa yang tampak masuk akal tidak boleh secara otomatis disamakan dengan pemahaman manusia terhadap makna atau dunia.
Pandangan tersebut menjadi sangat relevan ketika AI digunakan untuk mencari fakta. Manusia cenderung menganggap bahwa apabila sebuah kalimat disampaikan dengan struktur yang baik dan tingkat keyakinan yang tinggi, maka pembuatnya pasti memiliki dasar yang kuat. Pada AI, asumsi tersebut tidak selalu berlaku. Sebuah model dapat menghasilkan kalimat yang sangat fasih sekaligus salah karena kemampuan linguistik dan mekanisme verifikasi fakta merupakan dua hal yang berbeda.
Mengapa AI Tidak Otomatis Mengetahui Mana yang Benar dan Mana yang Salah?
Salah satu kesalahpahaman terbesar mengenai AI adalah anggapan bahwa karena model dilatih dengan data dalam jumlah sangat besar, maka model tersebut otomatis memiliki semacam perpustakaan fakta yang sempurna. Padahal, data pelatihan bukanlah kumpulan fakta yang seluruhnya benar dan telah diperiksa secara manual. Data dapat berasal dari berbagai sumber dengan kualitas berbeda, mengandung kesalahan, memiliki informasi yang bertentangan, atau tidak lagi sesuai dengan keadaan terbaru.
Masalah tersebut semakin rumit ketika pertanyaan pengguna berkaitan dengan peristiwa yang baru terjadi, aturan yang baru berubah, angka statistik terbaru, tokoh tertentu, produk yang baru diluncurkan, atau perkembangan ilmu pengetahuan yang sangat mutakhir. Jika model tidak memiliki akses ke informasi terbaru atau mekanisme pencarian dan verifikasi eksternal, sistem dapat memberikan jawaban berdasarkan informasi yang tersedia dalam proses pembelajarannya, meskipun kondisi di dunia nyata sudah berubah. Inilah salah satu alasan mengapa pertanyaan mengenai "informasi terbaru" perlu diperlakukan berbeda dengan pertanyaan mengenai konsep yang relatif stabil.
Yann LeCun, Chief AI Scientist di Meta dan salah satu tokoh penting dalam perkembangan deep learning, telah lama menjelaskan bahwa sistem AI modern memiliki keterbatasan dalam memahami dunia secara utuh dibandingkan manusia. Manusia memperoleh pengetahuan bukan hanya melalui bahasa, tetapi juga melalui pengalaman fisik, persepsi, interaksi sosial, eksperimen, dan pembelajaran dari lingkungan. Model bahasa yang belajar terutama dari data digital tidak memiliki pengalaman dunia dalam bentuk yang sama seperti manusia.
Hal tersebut menjelaskan mengapa AI dapat mengetahui begitu banyak hal tetapi tetap gagal dalam persoalan yang tampak sederhana. Sistem dapat mengetahui pola bahasa yang berkaitan dengan "apel", misalnya, tetapi pengetahuan linguistik mengenai apel tidak sama dengan pengalaman manusia ketika memegang apel, mencium aromanya, memotongnya, merasakan teksturnya, atau memahami bahwa apel dapat jatuh ketika dilepaskan dari tangan. Perbedaan antara representasi informasi dan pengalaman langsung terhadap dunia merupakan salah satu alasan mengapa kecerdasan buatan tidak boleh dipahami hanya sebagai versi digital dari otak manusia.
Mengapa AI Kadang Lebih Berbahaya Ketika Salah daripada Mesin Biasa?
Kesalahan AI menjadi semakin menarik karena cara kesalahan tersebut disampaikan sering kali berbeda dengan kesalahan mesin biasa. Kalkulator yang salah menghitung biasanya menghasilkan angka yang salah dan dapat diperiksa melalui perhitungan ulang, sedangkan AI generatif dapat memberikan kesalahan dalam bentuk paragraf panjang yang tampak profesional dan argumentatif. Ketika kesalahan dibungkus dalam bahasa yang sangat meyakinkan, pengguna dapat mengalami kesulitan untuk menyadari bahwa informasi tersebut sebenarnya bermasalah.
Persoalan tersebut menjadi sangat serius ketika AI digunakan untuk bidang yang memiliki konsekuensi langsung terhadap kehidupan manusia. Kesalahan dalam membuat ide caption media sosial mungkin hanya menghasilkan konten yang kurang bagus, tetapi kesalahan dalam informasi medis, hukum, keuangan, keselamatan, atau kebijakan publik dapat menimbulkan konsekuensi yang jauh lebih besar. Karena itu, tingkat kehati-hatian seharusnya tidak ditentukan hanya berdasarkan seberapa canggih AI tersebut, tetapi berdasarkan seberapa besar dampak apabila jawaban yang diberikan ternyata salah.
Penelitian yang diterbitkan dalam JAMA Network Open pada 2023 mengenai jawaban chatbot AI terhadap pertanyaan pasien menunjukkan bahwa model bahasa dapat menghasilkan jawaban yang dinilai memiliki kualitas dan empati tertentu, tetapi penelitian tersebut sekaligus memperlihatkan bahwa penggunaan AI dalam kesehatan tetap membutuhkan evaluasi yang cermat. Dalam konteks medis, jawaban yang terdengar meyakinkan tidak cukup untuk menggantikan proses diagnosis dan penilaian klinis oleh tenaga kesehatan.
Hal yang sama berlaku dalam bidang hukum. AI dapat membantu menemukan pola dalam dokumen, merangkum perkara, menyusun kerangka argumentasi, atau membantu pekerjaan administratif, tetapi pengguna tetap perlu memeriksa undang-undang, putusan pengadilan, doktrin, serta sumber hukum yang sebenarnya. AI seharusnya diperlakukan sebagai alat bantu pengolahan informasi, bukan sebagai otoritas kebenaran yang tidak perlu diperiksa. Semakin tinggi konsekuensi keputusan, semakin tinggi pula standar verifikasi yang seharusnya diterapkan.
Apakah AI Bisa Menjadi Lebih Akurat? Ya, tetapi Akurasi Tidak Pernah Berarti Sempurna
Kabar baiknya adalah perkembangan AI juga terus diarahkan untuk mengurangi kesalahan. Salah satu pendekatan yang banyak digunakan adalah menghubungkan model dengan sumber informasi eksternal melalui mekanisme yang sering disebut Retrieval-Augmented Generation (RAG). Dengan pendekatan ini, sistem tidak hanya mengandalkan pengetahuan yang diperoleh ketika model dilatih, tetapi dapat mengambil informasi dari dokumen atau sumber tertentu terlebih dahulu dan kemudian menggunakan informasi tersebut sebagai konteks untuk menghasilkan jawaban.
Pendekatan semacam ini sangat berguna untuk lingkungan yang membutuhkan informasi spesifik dan dapat diperbarui. Perusahaan dapat menghubungkan AI dengan basis data internal, lembaga pendidikan dapat menghubungkan sistem dengan materi pembelajaran, dan organisasi dapat menghubungkan model dengan dokumen yang telah diverifikasi. Dengan demikian, AI memiliki sumber informasi yang lebih relevan ketika menjawab pertanyaan tertentu dibandingkan apabila hanya mengandalkan pola yang tersimpan dalam parameter model.
Penelitian Lewis dan rekan-rekan dari Facebook AI Research, University College London, New York University, dan Google Research dalam makalah Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks pada 2020 menjadi salah satu karya penting dalam perkembangan pendekatan RAG. Penelitian tersebut menunjukkan bahwa menggabungkan kemampuan generatif model dengan mekanisme pengambilan informasi eksternal dapat membantu sistem dalam tugas yang membutuhkan pengetahuan faktual.
Namun, RAG juga bukan solusi ajaib yang membuat AI selalu benar. Jika sumber yang digunakan salah, tidak lengkap, sudah kedaluwarsa, atau sistem mengambil dokumen yang tidak relevan, jawaban yang dihasilkan masih dapat bermasalah. Karena itu, proses yang ideal bukan sekadar AI mencari sumber lalu menjawab, tetapi juga melibatkan penilaian kualitas sumber, relevansi informasi, konteks, serta pemeriksaan manusia ketika persoalannya memiliki konsekuensi penting.
Mengapa Manusia Tetap Menjadi Bagian Penting dalam Memeriksa Jawaban AI?
Kesalahan AI sebenarnya memperlihatkan sesuatu yang menarik: semakin kuat kemampuan teknologi, semakin penting pula kemampuan manusia dalam melakukan verifikasi. Pada masa lalu, manusia mungkin menggunakan mesin pencari untuk menemukan informasi kemudian membaca berbagai sumber sebelum menarik kesimpulan. Dengan AI generatif, proses tersebut menjadi jauh lebih mudah karena sistem dapat memberikan jawaban yang sudah dirangkum dalam bentuk percakapan. Kemudahan ini sangat berguna, tetapi sekaligus menciptakan risiko bahwa manusia berhenti melakukan pemeriksaan karena merasa sudah memperoleh jawaban akhir.
Geoffrey Hinton, salah satu pelopor deep learning yang menerima Turing Award 2018 bersama Yoshua Bengio dan Yann LeCun, merupakan salah satu ilmuwan yang secara terbuka membahas kemampuan sekaligus risiko perkembangan AI. Kekhawatiran para ilmuwan seperti Hinton menunjukkan bahwa persoalan AI tidak hanya mengenai kemampuan teknis, tetapi juga mengenai bagaimana manusia mengendalikan dan menggunakan kemampuan tersebut secara bertanggung jawab.
Dalam praktiknya, pengguna sebaiknya menerapkan prinsip yang sederhana: semakin penting informasinya, semakin kuat verifikasinya. Untuk pertanyaan ringan, kesalahan kecil mungkin tidak menimbulkan dampak berarti, tetapi untuk informasi medis seseorang sebaiknya memeriksanya kepada tenaga kesehatan, untuk persoalan hukum memeriksa sumber hukum resmi dan berkonsultasi dengan profesional, sedangkan untuk informasi akademik memeriksa jurnal atau publikasi asli. AI dapat mempercepat proses pencarian dan pemahaman, tetapi proses memastikan kebenaran tetap membutuhkan metode yang tepat.
Kemampuan manusia untuk memeriksa AI juga akan menjadi keterampilan penting di masa depan. Ketika teknologi semakin mudah menghasilkan tulisan, gambar, suara, dan video yang tampak autentik, masyarakat tidak hanya perlu memiliki literasi digital, tetapi juga kemampuan mengevaluasi sumber, membandingkan informasi, memahami konteks, dan mengenali tanda-tanda manipulasi. Dengan demikian, perkembangan AI justru membuat kemampuan berpikir kritis manusia semakin berharga, bukan semakin tidak diperlukan.
Jadi, Apakah Kita Harus Takut Menggunakan AI karena Bisa Salah?
Tidak. Kesimpulan yang tepat bukanlah bahwa AI tidak dapat dipercaya sama sekali, melainkan bahwa AI harus digunakan dengan memahami batas kemampuannya. Teknologi yang dapat salah bukan berarti teknologi tersebut tidak berguna; manusia sendiri menggunakan berbagai alat yang memiliki keterbatasan, tetapi tetap memperoleh manfaat besar ketika mengetahui bagaimana dan kapan alat tersebut digunakan.
AI dapat sangat membantu dalam pekerjaan yang membutuhkan pengolahan informasi dalam jumlah besar, pencarian pola, penyusunan draf, penerjemahan, brainstorming, analisis awal, otomatisasi tugas berulang, dan berbagai pekerjaan lainnya. Persoalannya muncul ketika pengguna memperlakukan keluaran AI sebagai kebenaran final tanpa mempertimbangkan konteks dan tanpa melakukan pemeriksaan terhadap informasi yang penting.
Pandangan Erik Brynjolfsson, ekonom dan profesor di Stanford University yang banyak meneliti hubungan antara teknologi dan dunia kerja, relevan dalam konteks ini karena teknologi sebaiknya dipahami sebagai alat yang dapat meningkatkan kemampuan manusia. Dalam banyak situasi, nilai terbesar AI bukan ketika manusia menyerahkan seluruh pekerjaannya kepada mesin, tetapi ketika manusia menggunakan AI untuk meningkatkan produktivitas sambil tetap mempertahankan penilaian, kreativitas, tanggung jawab, dan pengambilan keputusan manusia.
Pada akhirnya, AI yang baik bukanlah AI yang dianggap tidak pernah salah, melainkan AI yang digunakan dalam sistem yang memungkinkan kesalahan dideteksi, diverifikasi, dikoreksi, dan dipertanggungjawabkan. Manusia tidak perlu menempatkan AI sebagai makhluk yang sempurna, tetapi juga tidak perlu menganggapnya sebagai teknologi yang tidak berguna hanya karena memiliki keterbatasan. Yang dibutuhkan adalah cara penggunaan yang tepat.
Kesimpulan Penulis
AI bisa salah karena AI bukan mesin kebenaran yang secara otomatis memeriksa setiap pernyataan terhadap realitas sebelum memberikan jawaban. Sistem AI modern belajar dari data dan menemukan pola yang kemudian digunakan untuk menghasilkan keluaran. Dalam model generatif, kemampuan menghasilkan bahasa yang sangat lancar dapat membuat sebuah jawaban terdengar benar meskipun sebagian informasinya keliru atau bahkan tidak pernah ada.
Fenomena hallucination menjadi salah satu contoh paling jelas dari keterbatasan tersebut. AI dapat menghasilkan referensi palsu, angka yang keliru, nama tokoh yang tidak tepat, peristiwa yang tidak pernah terjadi, maupun kesimpulan yang tidak memiliki dasar kuat. Yang membuat masalah tersebut berbahaya adalah kesalahan itu sering kali tidak terlihat seperti kesalahan karena disampaikan menggunakan bahasa yang terstruktur, percaya diri, dan meyakinkan.
Perkembangan teknologi seperti Retrieval-Augmented Generation, pencarian sumber eksternal, evaluasi model, teknik pelatihan yang lebih baik, dan sistem verifikasi dapat membantu mengurangi kesalahan AI, tetapi tidak menjamin bahwa setiap jawaban akan selalu benar. Karena itu, manusia tetap memiliki peran penting sebagai pemeriksa, pengambil keputusan, dan pihak yang bertanggung jawab atas penggunaan teknologi tersebut.
Pada akhirnya, pertanyaan yang seharusnya diajukan bukan hanya "Apakah AI bisa salah?", karena jawabannya jelas: ya, AI bisa salah. Pertanyaan yang jauh lebih penting adalah "Bagaimana kita mengetahui ketika AI salah dan apa yang harus dilakukan setelah mengetahuinya?"
Kemampuan menjawab pertanyaan kedua inilah yang akan membedakan antara orang yang sekadar menggunakan AI dengan orang yang benar-benar mampu memanfaatkan AI secara bertanggung jawab. Semakin canggih teknologi yang digunakan manusia, semakin penting pula kemampuan manusia untuk mempertanyakan, memeriksa, membandingkan, dan memastikan kebenaran informasi yang diberikan oleh teknologi tersebut.
Daftar Sumber, Referensi, dan Pendapat Narasumber
- Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. Makalah ini menjadi salah satu rujukan penting mengenai keterbatasan model bahasa besar dan risiko menyamakan kemampuan menghasilkan bahasa dengan pemahaman yang sebenarnya.
- Lewis, P., Perez, E., Piktus, A., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems (NeurIPS). Penelitian ini menjadi salah satu dasar penting bagi pendekatan RAG yang menggabungkan model generatif dengan mekanisme pengambilan informasi eksternal.
- Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). Attention Is All You Need. Advances in Neural Information Processing Systems. Penelitian ini memperkenalkan arsitektur Transformer yang kemudian menjadi salah satu fondasi penting bagi perkembangan berbagai model bahasa modern.
- OpenAI. GPT-4 Technical Report (2023). Laporan teknis yang membahas kemampuan dan evaluasi GPT-4 sekaligus mengakui berbagai keterbatasan model, termasuk kemungkinan menghasilkan fakta yang salah dan informasi yang tidak akurat.
- Google DeepMind. Berbagai publikasi penelitian mengenai language model hallucination, factuality, evaluasi model bahasa, dan pengembangan sistem AI yang lebih dapat diandalkan.
- Stanford Institute for Human-Centered Artificial Intelligence (Stanford HAI). AI Index Report. Laporan tahunan mengenai perkembangan kecerdasan buatan, kemampuan model, penggunaan AI, evaluasi, ekonomi, kebijakan, serta berbagai tantangan yang muncul dalam perkembangan AI.
- IBM Research. Materi dan publikasi mengenai AI hallucination, Large Language Models, machine learning, serta keterbatasan sistem AI generatif.
- Hinton, G., Bengio, Y., & LeCun, Y. Berbagai penelitian dan pernyataan publik mengenai perkembangan deep learning, kecerdasan buatan, kemampuan model neural network, serta risiko dan tantangan AI.
- Bender, E. M. University of Washington, Department of Linguistics. Berbagai penelitian dan pandangan mengenai model bahasa, pemrosesan bahasa alami, dan keterbatasan Large Language Models.
- LeCun, Y. Meta dan New York University. Berbagai publikasi serta pernyataan akademik mengenai deep learning, machine learning, AI, dan keterbatasan model AI modern dalam memahami dunia.
- Topol, E. J. Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again. Basic Books, 2019. Rujukan penting mengenai potensi AI dalam bidang kesehatan sekaligus pentingnya mempertahankan peran manusia dalam pelayanan medis.
- JAMA Network Open (2023). Penelitian mengenai performa chatbot berbasis AI dalam menjawab pertanyaan pasien dan implikasinya terhadap komunikasi kesehatan, yang memperlihatkan potensi sekaligus kebutuhan evaluasi manusia dalam penggunaan AI di bidang medis.
- Brynjolfsson, E. Stanford University. Berbagai penelitian mengenai produktivitas, otomatisasi, kecerdasan buatan, dan hubungan antara teknologi dengan pekerjaan manusia.
- National Institute of Standards and Technology (NIST). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023). Kerangka kerja yang membahas pengelolaan risiko AI, termasuk kebutuhan terhadap sistem yang valid, andal, transparan, dapat dijelaskan, aman, dan bertanggung jawab.
- OECD. OECD AI Principles. Prinsip-prinsip mengenai AI yang inovatif sekaligus dapat dipercaya, menghormati hak asasi manusia, transparansi, keamanan, dan akuntabilitas.