Kecerdasan buatan (AI) semakin sebati dalam kehidupan seharian pada tahun 2026, khususnya melalui penggunaan sistem AI generatif yang mampu menghasilkan jawapan panjang, tersusun dan meyakinkan dalam tempoh singkat. Namun, di sebalik kemajuan tersebut, satu persoalan masih wajar diberi perhatian, iaitu adakah AI masih berhalusinasi?

Jawapannya ialah ya. Walaupun model AI terkini menunjukkan peningkatan dari segi kelajuan dan ketepatan, masalah halusinasi masih belum dapat dihapuskan sepenuhnya. Halusinasi AI merujuk kepada keadaan apabila sistem menghasilkan maklumat yang salah, tidak disokong sumber atau direka sendiri, tetapi menyampaikannya seolah-olah maklumat tersebut benar.

Persoalannya, mengapa keadaan itu masih berlaku sedangkan teknologi AI semakin maju?

Model bahasa besar (LLM) seperti ChatGPT dibangunkan untuk meramalkan perkataan atau bahagian ayat yang paling sesuai berdasarkan corak yang dipelajari daripada data latihan (training data). Keupayaan tersebut membolehkan sistem menghasilkan bahasa yang kelihatan semula jadi dan seakan-akan penulisan manusia.

Walau bagaimanapun, keupayaan menghasilkan ayat yang meyakinkan tidak semestinya menjamin ketepatan maklumat. Menurut penyelidik OpenAI, AI dalam keadaan tertentu boleh lebih cenderung memberikan jawapan berbanding mengakui bahawa sistem tidak mengetahui sesuatu perkara.

Keadaan ini antara lain berkait dengan proses latihan AI apabila jawapan yang betul diberi ganjaran, manakala kegagalan memberikan jawapan boleh dianggap sebagai kelemahan. Justeru, apabila berdepan dengan maklumat yang tidak pasti, sistem mungkin cuba menghasilkan jawapan berdasarkan corak yang dipelajari, walaupun maklumat tersebut belum tentu tepat.

Dalam penulisan akademik, misalnya, AI berpotensi menghasilkan rujukan yang tidak wujud, memetik kajian yang tidak pernah diterbitkan atau memberikan fakta yang tidak selari dengan sumber asal. Keadaan ini boleh menimbulkan masalah sekiranya pengguna terus menggunakan rujukan yang dijana tanpa menyemak kewujudannya atau merujuk kepada artikel asal.

Dalam bidang pendidikan pula, halusinasi boleh menyebabkan pelajar menerima penerangan yang kurang tepat, menggunakan rujukan palsu atau membina hujah berdasarkan fakta yang tidak sahih. Pensyarah juga berdepan risiko yang sama sekiranya bahan yang dijana AI digunakan tanpa proses semakan.

Risikonya menjadi lebih besar dalam bidang yang melibatkan keputusan penting seperti perubatan, undang-undang, kewangan dan pentadbiran. Kesalahan yang kelihatan kecil dalam jawapan AI boleh membawa implikasi yang lebih besar bergantung pada konteks penggunaannya.

Oleh itu, tahap semakan terhadap kandungan yang dijana AI perlu disesuaikan dengan risiko sesuatu tugasan. Semakin besar kesan sesuatu keputusan, semakin teliti maklumat yang diberikan AI perlu diperiksa dan disahkan.

Seiring dengan perkembangan AI, pelbagai pendekatan turut digunakan untuk mengurangkan risiko halusinasi. Antaranya ialah Penjanaan Berasaskan Pengambilan (Retrieval-Augmented Generation, RAG), iaitu pendekatan yang membolehkan AI mendapatkan maklumat daripada dokumen, pangkalan data atau sumber tertentu sebelum menghasilkan jawapan.

Seperti yang ditunjukkan dalam Rajah 1, proses RAG bermula dengan pertanyaan pengguna sebelum sistem mendapatkan maklumat yang berkaitan daripada sumber tertentu. Maklumat tersebut kemudiannya digunakan oleh model AI untuk menghasilkan jawapan yang lebih berasaskan sumber.

Pendekatan ini dapat membantu mengurangkan risiko AI menghasilkan maklumat tanpa sokongan sumber. Kajian yang diterbitkan pada tahun 2024 turut menunjukkan bahawa RAG yang dirancang dengan baik berpotensi meningkatkan ketepatan dan mengurangkan halusinasi. Malah, model AI yang lebih kecil juga boleh memberikan prestasi yang baik apabila dibekalkan dengan sumber rujukan yang sesuai.

Namun begitu, RAG bukanlah penyelesaian mutlak. Sekiranya sistem mendapatkan dokumen yang tidak tepat atau memilih maklumat yang tidak relevan, jawapan yang dihasilkan masih berpotensi mengandungi kesalahan. Oleh sebab itu, sumber yang digunakan oleh AI tetap perlu disemak dan dinilai oleh pengguna.

Hal ini menunjukkan bahawa jawapan AI yang panjang, tersusun dan meyakinkan tidak semestinya benar. Pengguna masih bertanggungjawab menilai serta mengesahkan maklumat penting sebelum menggunakannya.

Beberapa langkah boleh diamalkan bagi mengurangkan risiko bergantung kepada maklumat yang tidak tepat daripada AI. Antaranya ialah menggunakan AI sebagai alat bantu dan bukannya satu-satunya sumber dalam menyelesaikan sesuatu tugasan. AI boleh membantu mencetuskan idea, menyusun maklumat atau mempercepatkan proses tertentu, tetapi hasilnya masih memerlukan penilaian manusia.

Selain itu, fakta penting wajar disemak melalui laman sesawang rasmi, artikel asal atau pangkalan data yang dipercayai. Bagi rujukan akademik, pengguna perlu memastikan nama penulis, tajuk penerbitan, tarikh penerbitan dan nombor DOI benar-benar wujud. Sesuatu rujukan tidak boleh dianggap sah hanya kerana formatnya kelihatan lengkap dan meyakinkan.

Pengguna juga boleh meminta AI menyatakan bahagian yang tidak pasti serta membezakan antara fakta, andaian dan cadangan. Dalam keadaan tertentu, pengguna boleh meminta AI menyertakan petikan asal atau sumber yang menjadi asas kepada sesuatu jawapan. Walau bagaimanapun, petikan dan pautan yang diberikan tetap perlu disemak bagi memastikan kesahihannya.

Bagi keputusan yang melibatkan keselamatan, kesihatan, hak undang-undang atau kewangan, jawapan AI pula tidak wajar digunakan secara langsung sebagai asas keputusan. Pandangan daripada pakar atau pihak berautoriti masih diperlukan bagi memastikan keputusan dibuat berdasarkan maklumat yang sahih dan bersesuaian dengan keadaan.

Dalam konteks ini, literasi AI bukan sekadar keupayaan menghasilkan arahan atau prompt yang baik. Literasi AI turut merangkumi keupayaan menilai jawapan, mengenal pasti kemungkinan kesalahan, menyemak sumber dan memahami batasan teknologi tersebut.

Pelajar dan penyelidik, khususnya, perlu dibimbing supaya tidak sekadar menerima jawapan yang diberikan AI, sebaliknya menilai bukti yang menyokong jawapan berkenaan. Pendekatan ini penting agar AI digunakan sebagai alat untuk menyokong proses pembelajaran dan pemikiran, bukannya menggantikan pertimbangan manusia.

Usaha memperkukuh literasi AI juga selari dengan Matlamat Pembangunan Mampan (SDG) 4, iaitu Pendidikan Berkualiti. Pendidikan masa kini bukan sahaja perlu membekalkan pengetahuan, malah perlu membantu pelajar membina kemahiran berfikir secara kritis, menilai kesahihan maklumat dan menggunakan teknologi secara bertanggungjawab.

Dalam era AI generatif, keupayaan mengenal pasti maklumat yang meragukan dan menilai kesahihan sumber semakin menjadi sebahagian daripada kemahiran pembelajaran yang penting. Oleh itu, perbincangan mengenai halusinasi AI bukan sekadar isu teknikal, tetapi turut berkait rapat dengan cara masyarakat memperoleh pengetahuan, menggunakan teknologi dan membuat keputusan berdasarkan maklumat digital.

Oleh Dr. Wan Noor Hamiza Wan Ali, Pensyarah Kanan, Fakulti Kecerdasan Buatan, Universiti Teknologi Malaysia