Laman rangkaian sosial memudahkan komunikasi dan perniagaan, namun ia juga berisiko disalahgunakan untuk jenayah siber seperti buli siber. Buli siber berlaku apabila pengguna menggunakan teknologi bagi mengugut, mengancam atau mengganggu orang lain. Pembuli boleh menyebarkan fitnah, gambar, atau video untuk memalukan mangsa serta menghantar mesej yang menyinggung perasaan, sekali gus menyebabkan tekanan psikologi dan emosi.
Menurut laporan Harian Metro (16 Julai 2024), kajian IPSOS mendapati Malaysia antara negara dengan insiden buli siber tertinggi. Tabung Kanak-Kanak Pertubuhan Bangsa-Bangsa Bersatu (UNICEF) pula mendedahkan bahawa Malaysia berada di kedudukan kedua di Asia selepas China. Laporan Berita Harian (19 November 2024) menyatakan bahawa Suruhanjaya Komunikasi dan Multimedia Malaysia (SKMM) menerima 8,339 aduan buli siber dari Januari hingga 1 November 2024 dengan purata 27 kes sehari. Jumlah ini menunjukkan peningkatan ketara berbanding hanya 10 kes sehari sebelum ini.
Analisis Jadual 1 membandingkan jumlah aduan dan kadar pematuhan di pelbagai platform media sosial. Kadar pematuhan merujuk kepada peratusan tindakan yang diambil terhadap aduan yang diterima. Data menunjukkan perbezaan jumlah aduan serta kecekapan setiap platform dalam menangani laporan, mencerminkan keberkesanan mekanisme pelaporan dan penguatkuasaan yang digunakan.
Analisis ini menunjukkan bahawa jumlah aduan tidak selalu berkadar terus dengan kadar pematuhan. Facebook menerima aduan tertinggi (1,401) tetapi masih mengekalkan kadar pematuhan 85%, mencerminkan usaha yang baik dalam menangani laporan. Instagram mencatat pematuhan tertinggi (88%) walaupun jumlah aduannya lebih rendah (388), menandakan tindakan yang lebih cepat dan berkesan. Sebaliknya, TikTok (76%) dan WhatsApp (79%) berada pada tahap sederhana, dengan TikTok masih di bawah tahap minimum yang memadai. X (Twitter) menunjukkan prestasi paling lemah dengan kadar pematuhan hanya 25%, menimbulkan kebimbangan terhadap keberkesanan mekanisme pengurusan aduannya. Secara keseluruhan, platform dengan kadar pematuhan rendah perlu meningkatkan kecekapan tindakan mereka melalui automasi, dasar penguatkuasaan yang lebih ketat serta ketelusan dalam pelaporan kepada pengguna.
Penggunaan kecerdasan buatan (AI) boleh menjadi penyelesaian yang lebih berkesan dalam menangani isu buli siber. Dengan jumlah aduan yang masih tinggi di pelbagai platform media sosial, teknologi AI seperti pembelajaran mesin (Machine Learning) dan Pemprosesan Bahasa Semula Jadi (Natural Language Processing, NLP) memainkan peranan penting dalam mengenal pasti, menganalisis dan menangani kandungan berbahaya secara automatik.
Pembelajaran mesin boleh digunakan untuk menganalisis corak teks dan mengesan elemen buli siber, manakala NLP membantu memahami teks kebencian, ancaman serta bahasa kesat dalam pelbagai bahasa, termasuk Bahasa Melayu dan Inggeris. Namun, cabaran utama dalam pengesanan automatik termasuk memahami sindiran, penggunaan campuran bahasa dan bahasa slanga yang sentiasa berubah, yang boleh menyebabkan kandungan buli terlepas daripada sistem saringan. Oleh itu, pembangunan model AI yang lebih maju dan disesuaikan dengan konteks bahasa tempatan adalah kritikal bagi meningkatkan keberkesanan platform dalam menangani aduan buli siber serta melindungi pengguna secara lebih proaktif.
AI dapat membantu pihak berkuasa, organisasi dan pentadbir platform digital dalam memantau aktiviti dalam talian secara sistematik. Dengan keupayaan mengimbas perbualan serta kandungan media sosial secara masa nyata (real-time), AI dapat mengesan insiden buli siber dan menjana laporan automatik bagi mengenal pasti pelaku serta mangsa. Pemantauan berterusan ini membolehkan tindakan pencegahan diambil lebih awal sebelum keadaan menjadi lebih serius.
Selain itu, alat moderasi AI memainkan peranan penting dalam memberikan intervensi masa nyata untuk menghalang buli siber daripada berlanjutan. Ia dapat menapis komen secara langsung dan menyekat mesej yang mengandungi unsur penghinaan, ugutan atau teks kebencian. Sebagai contoh, platform seperti Instagram dan TikTok menggunakan moderasi AI untuk menyembunyikan komen berbahaya secara automatik sebelum ia dilihat oleh pengguna lain. AI juga boleh memberikan peringatan kepada pengguna yang cuba menghantar mesej negatif atau menyinggung, seperti, “Adakah anda pasti ingin menghantar mesej ini? Ia mungkin dianggap sebagai buli siber.” Amaran ini memberi peluang kepada pengguna untuk berfikir sebelum bertindak, sekali gus mengurangkan insiden buli siber dalam masyarakat.
Lebih daripada sekadar mengesan, AI juga berpotensi meramalkan trend buli siber dan menandakan interaksi berbahaya sebelum ia menjadi lebih serius. Dengan menganalisis corak komunikasi pengguna, AI dapat mengenal pasti individu yang menunjukkan tanda-tanda agresif atau sering terlibat dalam buli siber. Pengguna yang berulang kali meninggalkan komen negatif atau menggunakan kata-kata kesat boleh ditandakan sebagai berisiko tinggi.
Tambahan pula, AI boleh meramalkan kejadian buli berdasarkan data sejarah dan situasi tertentu. Sebagai contoh, semasa musim peperiksaan atau selepas keputusan diumumkan, tekanan yang tinggi boleh mencetuskan peningkatan kes buli akademik. Model prediktif boleh menandakan perbualan yang berpotensi mencetuskan buli siber sebelum ia meningkat menjadi konflik yang lebih besar. Jika pola ejekan atau penghinaan mula berulang dalam sesebuah kumpulan, AI boleh menghantar amaran kepada pentadbir untuk mengambil tindakan lebih awal. Dengan keupayaan AI dalam pemantauan, pengesanan dan ramalan, ia dapat menjadi alat yang berkesan dalam usaha membendung buli siber serta memastikan persekitaran digital yang lebih selamat untuk semua pengguna.
Secara keseluruhannya, penggunaan AI dalam menangani buli siber bukan sahaja melibatkan pengesanan tetapi juga pencegahan dan intervensi awal. Dengan bantuan teknologi seperti pembelajaran mesin dan NLP, AI dapat membantu pihak berkuasa serta pentadbir platform digital dalam memantau aktiviti dalam talian, menghentikan buli siber sebelum ia berlarutan serta meramalkan trend buli berdasarkan tingkah laku pengguna. Walaupun cabaran seperti bahasa slanga, sindiran dan campuran bahasa masih wujud, pembangunan AI yang lebih canggih dan khusus untuk konteks tempatan akan meningkatkan keberkesanan dalam melindungi pengguna dan memastikan ruang digital yang lebih selamat.
AI berpotensi mengurangkan buli siber melalui kerjasama pelbagai pihak. Syarikat teknologi perlu membangunkan algoritma canggih, sementara pembuat dasar menggubal undang-undang yang sesuai. Kesedaran dan pendidikan tentang AI serta etika berinternet harus diperluas kepada semua bagi mewujudkan persekitaran digital yang lebih selamat. Kajian buli siber dalam Bahasa Melayu masih terhad kerana kebanyakan model AI dibangunkan berdasarkan data Bahasa Inggeris, menyebabkan kesukaran dalam pengesanan sindiran, slanga dan campuran bahasa tempatan.
Oleh itu, penyelidikan NLP dalam Bahasa Melayu perlu diperluas dan diperkukuh bagi meningkatkan keberkesanan AI dalam menangani buli siber. Malaysia harus mengambil langkah proaktif dengan membangunkan model AI yang memahami bahasa tempatan, memperkukuh sistem pemantauan dan memberi kuasa kepada pengguna untuk melaporkan kandungan berbahaya. Kerjasama antara kerajaan, syarikat teknologi dan masyarakat dapat memastikan AI digunakan secara efektif dan beretika demi persekitaran digital yang lebih selamat.
Oleh Dr. Wan Noor Hamiza Wan Ali, Pensyarah Kanan, Fakulti Kecerdasan Buatan, Universiti Teknologi Malaysia