đź“ť Ringkasan
Kecerdasan Buatan (AI) telah digunakan secara meluas dalam kehidupan seharian tanpa kita sedari. Namun, keputusan AI sering kali tidak dapat dijelaskan dengan jelas, menyebabkan isu kepercayaan, akauntabiliti, keadilan dan etika. Explainable AI (XAI) membantu manusia memahami bagaimana AI membuat keputusan dengan menunjukkan faktor yang mempengaruhi keputusan, keakuratan dan keadilan. XAI penting dalam meningkatkan kepercayaan terhadap keputusan AI dan meningkatkan prestasi AI dengan mengenal pasti kelemahan dalam model.
Tahukah anda bahawa Kecerdasan Buatan (AI) sebenarnya sudah banyak digunakan dalam kehidupan seharian kita tanpa kita sedari? Contohnya, aplikasi Shopee mencadangkan produk yang mungkin kita ingin beli, atau telefon mengenali wajah kita untuk membuka kunci skrin.
Namun begitu, pernahkah anda terfikir bagaimana sebenarnya AI membuat keputusan tersebut? Mengapa sesuatu produk dicadangkan kepada kita? Adakah keputusan AI itu boleh dipercayai, atau adakah ia berlaku seperti “kotak hitam” (black box) yang sukar difahami oleh pengguna biasa?
Kebanyakan sistem AI dibina menggunakan model yang kompleks dan sukar difahami. Keadaan ini dikenali sebagai “kotak hitam” iaitu apabila AI boleh menghasilkan keputusan tetapi proses di sebalik keputusan itu tidak dapat dijelaskan dengan jelas kepada pengguna. Hal ini boleh menimbulkan isu dari segi kepercayaan, akauntabiliti, keadilan dan etika dalam penggunaan AI.
Explainable AI atau AI Boleh Diterangkan (XAI) ialah pendekatan yang membantu manusia memahami bagaimana AI membuat sesuatu keputusan. Melalui XAI, kita boleh mengetahui faktor yang mempengaruhi keputusan AI, sejauh mana keputusan itu tepat dan sama ada keputusan tersebut adil atau mempunyai unsur bias.
Sebagai contoh, jika sistem AI menolak permohonan pinjaman, pengguna mungkin ingin tahu sama ada keputusan itu dibuat berdasarkan skor kredit, pendapatan, jumlah hutang atau rekod bayaran balik. Dengan adanya XAI, keputusan seperti ini tidak hanya diterima sebagai jawapan akhir tetapi boleh difahami berdasarkan faktor yang mempengaruhinya. Rajah di bawah menunjukkan secara ringkas bagaimana XAI membantu menerangkan keputusan yang dibuat oleh AI.
XAI penting kerana ia membantu mewujudkan kepercayaan terhadap keputusan yang dibuat oleh AI. Contohnya, dalam bidang perubatan, sistem AI mungkin meramalkan bahawa seorang pesakit mempunyai risiko tinggi untuk mendapat sesuatu penyakit.
Jika doktor tidak tahu mengapa AI membuat ramalan tersebut, mereka mungkin teragak-agak untuk menerima cadangan itu. Namun, dengan bantuan XAI, sistem boleh menunjukkan bahawa keputusan tersebut dibuat berdasarkan corak tertentu dalam imej perubatan, keputusan ujian atau sejarah kesihatan pesakit.
Selain itu, XAI juga membantu meningkatkan prestasi AI. Model AI belajar daripada data yang diberikan kepadanya. Namun, jika data tersebut tidak seimbang atau mempunyai unsur bias, keputusan AI juga boleh menjadi tidak tepat atau berat sebelah. Melalui XAI, pembangun sistem dapat melihat faktor-faktor yang mempengaruhi sesuatu keputusan dan mengenal pasti kelemahan dalam model.
Contohnya, dalam proses pengambilan pekerja, jika sistem AI lebih kerap memilih calon lelaki berbanding calon wanita walaupun kelayakan mereka hampir sama, XAI boleh membantu menunjukkan faktor yang menyebabkan keadaan itu berlaku. Dengan maklumat tersebut, pembangun boleh menambah baik model supaya proses pemilihan menjadi lebih adil.
Terdapat beberapa kaedah yang biasa digunakan untuk menjadikan keputusan AI lebih jelas dan mudah difahami. Salah satunya ialah analisis kepentingan faktor (feature importance analysis). Kaedah ini menunjukkan faktor mana yang paling banyak mempengaruhi keputusan AI.
Antara teknik yang sering digunakan ialah Penjelasan Tambahan Shapley (SHAP) dan Penjelasan Setempat yang Boleh Ditafsir Bebas Model (LIME). Secara umum, teknik ini membantu menerangkan bagaimana sesuatu faktor menyumbang kepada keputusan AI. Sebagai contoh, dalam bidang kewangan, SHAP dan LIME boleh membantu menjelaskan sama ada keputusan pinjaman lebih dipengaruhi oleh skor kredit, pendapatan, jumlah hutang atau rekod bayaran balik.
Selain itu, terdapat juga penjelasan berasaskan peraturan (rule-based explanations). Kaedah ini menerangkan keputusan AI dalam bentuk peraturan yang mudah difahami seperti “jika jumlah hutang tinggi dan pendapatan rendah, maka risiko pinjaman adalah tinggi”. Bentuk penjelasan seperti ini membantu pengguna melihat langkah-langkah yang membawa kepada sesuatu keputusan.
XAI juga boleh menggunakan alat visualisasi (visualization tools) seperti graf, carta, peta haba atau rajah aliran. Visualisasi ini membantu menerangkan proses AI dengan lebih jelas terutamanya apabila data yang digunakan terlalu kompleks. Contohnya, dalam analisis imej perubatan seperti Pengimejan Resonans Magnetik (MRI), peta haba boleh menunjukkan bahagian imej yang paling diberi perhatian oleh AI semasa membuat ramalan.
Jika AI meramalkan terdapat tanda-tanda penyakit, peta haba boleh membantu doktor melihat kawasan tertentu pada imej yang menyokong ramalan tersebut. Dengan cara ini, doktor bukan sahaja menerima keputusan AI tetapi dapat memahami asas kepada keputusan tersebut sebelum membuat penilaian lanjut.
Kaedah lain ialah penjelasan dalam bahasa semula jadi (natural language explanations). Melalui kaedah ini, sistem AI memberikan penerangan menggunakan ayat yang mudah difahami tanpa terlalu banyak istilah teknikal. Contohnya, AI boleh menjelaskan bahawa “permohonan pinjaman ditolak kerana jumlah hutang semasa terlalu tinggi berbanding pendapatan bulanan dan rekod bayaran balik kurang konsisten”. Penjelasan seperti ini lebih mudah difahami oleh pengguna biasa kerana mereka bukan sahaja mengetahui keputusan akhir tetapi juga sebab keputusan tersebut dibuat.
Walaupun XAI mempunyai banyak manfaat, pelaksanaannya masih mempunyai beberapa cabaran. Salah satu cabaran utama ialah kerumitan teknikal. Sesetengah model AI seperti rangkaian neural yang mendalam sangat kompleks dan sukar untuk dijelaskan.
Selain itu, perlindungan data sensitif juga menjadi cabaran penting. Untuk memberikan penjelasan yang jelas, sistem AI mungkin perlu menggunakan maklumat peribadi seperti rekod kesihatan, maklumat kewangan atau data pengguna. Pada masa yang sama, privasi dan keselamatan data perlu dijaga supaya maklumat tersebut tidak disalahgunakan.
Cabaran lain ialah kekurangan piawaian yang jelas. Peraturan berkaitan AI masih sedang berkembang dan setiap industri mungkin mempunyai keperluan yang berbeza. Oleh itu, organisasi perlu sentiasa peka terhadap garis panduan dan peraturan semasa supaya penggunaan AI kekal bertanggungjawab, telus dan selamat.
Secara keseluruhannya, XAI membantu menjadikan keputusan AI lebih jelas, telus dan mudah difahami. Dalam dunia yang semakin bergantung kepada AI, pengguna bukan sahaja perlu mengetahui keputusan yang dihasilkan oleh AI tetapi juga sebab di sebalik keputusan tersebut. Dengan adanya XAI, AI dapat digunakan dengan lebih yakin, adil dan bertanggungjawab dalam pelbagai bidang.
Oleh Dr. Wan Noor Hamiza Wan Ali, Pensyarah Kanan, Fakulti Kecerdasan Buatan, Universiti Teknologi Malaysia (UTM)
