PENYALAHGUNAAN aplikasi kecerdasan buatan (AI) Grok di aplikasi X yang didakwa menjana kandungan lucah, eksplisit serta imej manipulasi tanpa persetujuan melibatkan wanita dan kanak-kanak disifatkan sebagai satu ancaman serius terhadap keselamatan sosial dan etika digital.
Ketua Komunikasi dan Pengembangan Ilmu, Institut Kualiti dan Pengembangan Ilmu (InQKA), Prof. Madya Dr. Wan Hartini Wan Zainodin berkata, isu melibatkan Grok tidak boleh dipandang ringan kerana ia menunjukkan kegagalan tadbir urus platform AI di peringkat global.
“ AI Grok ini sangat membimbangkan. Pada pandangan saya, ia merupakan satu pelanggaran etika yang serius apabila keselamatan sosial seolah-olah dinormalisasikan dan diabaikan.
“Terutamanya, apabila melibatkan manipulasi wanita dan kanak-kanak, ini memberi petanda bahawa berlakunya kegagalan serius pada tadbir urus platform AI. Lebih malang, imej deepfake kini dijadikan alat untuk menjatuhkan, mengugut dan menghancurkan reputasi seseorang,” katanya ketika dihubungi utusanmelayuplus hari ini.
Mengulas tindakan kerajaan melalui Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) yang mengarahkan sekatan sementara terhadap Grok, Wan Hartini menegaskan langkah itu adalah wajar dan perlu.
“Tentu sekali sangat wajar. Sudah terang lagi bersuluh jika tidak dibendung , ini akan membawa kepada kemudaratan. Teknologi sentiasa datang bersama implikasi, dan dalam konteks ini, implikasinya lebih banyak bersifat negatif,” ujarnya.
Tambah beliau, individu biasa, apatah lagi wanita dan kanak-kanak, tidak mempunyai keupayaan untuk melawan kuasa syarikat teknologi berskala global tanpa campur tangan kerajaan.
“Sebab itu langkah pencegahan oleh kerajaan melalui MCMC amat diperlukan bagi melindungi kepentingan masyarakat. Ini bukan hanya masalah Malaysia, tetapi isu global. Dalam konteks Asia, dialog serantau perlu diadakan supaya standard etika AI dapat ditentukan secara bersama dan tidak bersifat sehala. Jika kita gagal bertindak, kita berisiko ‘dijajah’ semula dalam bentuk digital,” jelasnya.
Pada 11 Januari lalu, MCMC mengarahkan sekatan sementara terhadap akses kepada AI Grok bagi pengguna di Malaysia, berkuat kuasa serta-merta.
Menurut MCMC, langkah itu diambil susulan penyalahgunaan Grok untuk menjana kandungan lucah dan eksplisit secara berulang, selain kewujudan kandungan tidak senonoh serta imej manipulasi tanpa persetujuan yang membabitkan wanita dan kanak-kanak, walaupun notis kawal selia telah dikeluarkan kepada X Corp dan xAI LLC.
Semalam, Menteri Komunikasi Datuk Fahmi Fadzl berkata, sekatan sementara terhadap fungsi AI Grok hanya akan ditarik semula sekiranya isu berkaitan penghasilan kandungan mudarat dapat diselesaikan sepenuhnya oleh pihak X yang membangunkan teknologi itu.
Beliau berkata, pihak X perlu membuktikan secara menyeluruh bahawa kandungan berbentuk video atau imej yang boleh disalahgunakan tidak lagi dihasilkan sebelum sekatan sementara itu ditarik sepenuhnya.
Sementara itu, pakar sosial yang juga Ketua Pegawai Eksekutif Agensi Kelayakan Malaysia (MQA), Prof. Datuk Dr. Mohammad Shatar Sabran berkata, kemunculan AI dalam masyarakat pada peringkat awal disambut dengan keterujaan tanpa kesedaran penuh terhadap risikonya.
“Pada peringkat awal masyarakat sangat teruja. AI diadunkan dalam kehidupan seharian bermula dari sekolah, universiti, sehinggalah ke peringkat kementerian dan jabatan,” katanya.
Menurut beliau, teknologi AI sememangnya membawa banyak manfaat termasuk mempercepatkan kerja dan memudahkan urusan, namun kebelakangan ini ia semakin disalahgunakan.
“Imej-imej negatif yang dijana oleh AI boleh memberi impak besar kepada masa depan seseorang individu, masyarakat, malah negara. Masyarakat yang tidak arif tentang keupayaan AI akan mudah terpedaya.
“Keadaan ini semakin berleluasa dan sudah tiba masanya kita bertindak agar ia tidak menjadi lebih serius. Saya yakin kerajaan juga sedang dan telah memikirkan langkah-langkah bagi mengelakkan perkara ini berlarutan agar nasi tidak menjadi bubur” katanya.
