Majelis Hukama Muslimin (MHM) pada hari pertama Islamic Book Fair (IBF) 2025 menggelar diskusi menarik tentang Artificial Intelligence. Diskusi berlangsung di panggung utama IBF yang dipenuhi para pengunjung yang matoritas kalangan pemuda.

Diskusi ini mengangkat tema “Penguatan Literasi dan Pentingnya Menyiapkan Kedaulatan AI versi Indonesia”. Hadir sebagai narasumber, pendiri dan anggota MHM Prof Dr M Quraish Shihab, MA, Peneliti pada Pusat Riset, Sains, Data, dan Informasi pada Badan Riset dan Inovasi Nasional (BRIN) yang juga Research Professor pada Chaoyang University of Technology-Taiwan, Rezzy Eko Caraka, serta Menteri Koordinator bidang Pembangunan Manusia dan Kebudayaan, Prof Dr Pratikno, M.Soc.Sc, Ph.D. 

Hadir juga perwakilan MHM pusat yang datang dari Uni Emirat Arab, Dr Omar Obaedat. Selaku moderator, Muhammad Arifin, MA dari MHM kantor cabang Indonesia.

Diskusi ini diawali dengan paparan dari Pakar Tafsir Al-Qur’an asal Indonesia, Prof. Dr. M Quraish Shihab yang menekankan tentang pentingnya nilai dalam pemanfaatan ilmu dan teknologi. Menurutnya, Islam sejak awal sudah menetapkan nilai-nilai dalam konteks ilmu pengetahuan dan teklnologi. 

“Sejak dini, Al-Qur’an berkata _iqra’ bismirabbik_. Yang ditekankan oleh Al-Qur’an adalah membaca demi Tuhanmu, demi kemanusiaan, demi nilai-nilainya. Al-Qur’an tidak menekankan pada apa yang dibaca. Apa saja yang dibaca tapi kaitkan dengan nilai-nilai. Sebab, tanpa mengaitkan nilai itu, manusia akan terjerumus,” terang Prof Quraish di Jakarta, Rabu (18/6/2025).

Prof Quraish lalu menjelaskan sejumlah nilai penting yang harus diperhatikan dalam memanfaatkan perkembangan teknologi, tidak terkecuali artificial intelligence atau akal imitasi atau AI. Pertama, nilai kemanusiaan. “Manusia harus dihormati. Karena itu, ketika sekian tahun telah membahas soal teknologi cloning manusia, dan disimpulkan itu bertentangan dengan kemanusiaan,” paparnya.

Nilai kedua, manfaat. Perkembangan teknologi harus didasarkan pada asas kebermanfaatan dan juga ada prioritas. “Ada nilai bahwa mencegah keburukan lebih baik daripada mendatangkan manfaat. Itu nilai,” sebutnya.

Terkait nilai kebermanfaatan ini, lanjut Prof Quraish, penting untuk menggandengkan antara nilai agama dan keistimewaan dari hasil pengembangan teknologi. “Kita perlu menggandengkan antara akal dan hati serta ilmu dan iman. Ilmu dan teknologi mempercepat kita sampai tujuan, tapi iman adalah yang menentukan arah yang dituju,” ucapnya. 

“Ilmu dan teknologi mempercepat kita sampai tujuan sekaligus memberikan kenyamanan, tapi kenyamanan yang sementara. Kenyamanan yang abadi ada pada iman,” sambungnya.

Prof Quraish juga mengulas sejumlah isu yang didiskusikan para ulama di Bahrain beberapa waktu lalu. Salah satu isu yang menjadi bahan diskusi adalah tentang materi atau jawaban atas pertanyaan yang disajikan AI. Menurut Prof Quraish, apa yang disajikan AI boleh jadi merupakan jawaban masa lalu yang sudah tidak sesuai dengan masa kini. Atau, boleh jadi jawaban AI itu adalah informasi yang diberikan kepada orang dulu dan sudah tidak cocok untuk masa kini.

“Boleh jadi jawaban AI sesuai dengan negara lain tapi tidak sesuai dengan negara kita. Persoalan ini menjadi bahan pemikiran dan didiskusikan di Bahrain sehingga berusaha mengetahui apa keistimewaan dan apa bahaya dari informasi yang tersaji dalam AI,” tandasnya.

AI Bukan Pengganti Manusia

Rezzy Eko Caraka mengulas manfaat dan risiko dari AI. Dia menegaskan bahwa AI bukan lah pengganti kita. Manusia lah yang dianugerahi otak untuk berpikir sebagai khilafah di bumi. Sementara, AI berfungsi untuk membantu manusia mengerjakan beberapa hal. 

Menurut Rezzy, ada aturan main _(do and don’ts)_ dalam penggunaan AI. Sebab, ada manfaat dan risiko dalam penggunaannya. 

Sebagai contoh, AI bisa dimanfaatkan dalam Data Saintis. “Kita misalnya, bisa membuat strategi permainan sepakbola agar tim kita bisa bermain lebih terampil. Kita bisa buat simulasi permainan bolanya,” sebut Rezzy.

Menfaat lain dari AI adalah membantu mendeteksi kekeliruan dalam transaksi keuangan. AI juga dapat membantu mentranslate bahasa jari (isyarat) ke bahasa ucap. AI juga bisa dimanfaatkan dalam membuat rencana pembangunan infrastruktur. “Misalnya saat akan membangun rumah sakit kanker, maka AI bisa membantu mengidentifikasi daerah mana yang membutuhkan RS Kanker,” ujarnya.

“AI juga bisa melihat bagaimana sebuah kata dalam Al-Quran, misalnya Zakat. Kita bisa lihat kata Zakat ada di surat mana saja? Kita bisa melihat hubungan antar ayat. Dengan AI, kita bisa melihat informasi dalam Al-Quran dan kajian-kajiannya,” sambungnya.

Meski banyak manfaat, lanjut Rezzy, penggunaan AI juga ada risikonya. Risiko itu antara lain berkenaan dengan keamanan data privasi. “Harus bijak menggunakan AI. Ada sebagian kita yang tidak _aware_ dengan AI lalu menyerahkan data pribadi kita. Maka gunakanlah AI dengan bijak,” sebutnya.

Risiko yang lain adalah penurunan kemampuan berfikir karena ketergantungan pada AI. AI juga tidak selalu ramah lingkungan, banyak penggunaan karbon di sana. 

“Ada instrument server yang butuh pendingin. Itu perlu air. Air itu sesuatu yang akan diolah lagi, bisa habis jika untuk mendinginkan server. Jadi AI tidak hanya berdampak ke kita tapi juga ke lingkungan,” tandasnya.

Kedaulatan AI

Sebagai pembicara ketiga, Menko PMK Prof Pratikno mengaku sangat _concern_ pada persoalan AI. Sebab, kementeriannya mengkoordinasi sejumlah kementerian dan lembaga yang bertanggung jawab pada pembangunan manusia dan kebudayaan. 

“Kami menyadari urusan anak, perempuan, keluarga, agama, pendidikan, kesehatan, kebudayaan sangat dipengaruhi oleh perkembangan teknologi,” ucap Prof Pratikno.

Terkait AI, Prof Pratikno mengawalinya dengan pembahasan tentang digitalisasi. Dia mengungkap data bahwa orang Indonesia membuka layer HP atau komputernya rata-rata 7,5 jam sehari. Bahkan, anak-anak usia di bawah lima tahun juga sangat suka main gudget  dengan beragam informasi yang tersaji hingga membentuk tradisi _scrolling._ Yaitu, melakukan _scrolling_ tanpa berpikir mendalam. 

“Riset menunjukkan seseorang membaca _screen_, lalu memutuskan melihat lebih dalam atau tidak sebuah konten dalam waktu 20 detik. Tradisi _scrolling_ itu tradisi tidak berpikir dan mengambil putusan dalam 20 detik dan itu melahirkan generasi malas berpikir. Ini akibat digitalisasi jika tidak dilakukan secara bijak,” pesannya.

Meski demikian, Prof Pratikno menggarisbawahi bahwa manusia tanpa teknologi tidak mungkin bisa mengalahkan manusia dengan teknologi. Manusia tanpa AI juga sangat berat bisa mengalahkan manusia dengan AI. “Artinya ada manfaat AI, tapi harus digunakan secara bijak,” tuturnya.

“Kalau kita tidak bisa melatih generasi bangsa untuk menggunakan AI secara bijak, maka sangat berbahaya,” lanjutnya.

Indonesia, kata Prof Pratikno, hampir 78% masyarakatnya mempunyai akses ke internet. Indonesia adalah negara dengan pengunjung aplikasi AI terbesar ketiga di dunia. Artinya pengaruh AI sangat besar. 

“Sementara itu, kita kurang talenta, kita ini pengguna tapi bukan produsen, ini tantangan. Makanya perlunya kedaulatan AI,” tegas Prof Pratikno. 

Menurutnya, AI sudah bisa diajak dialog. Namun dmeikian, AI bukan intitutsi netral. AI akan menjawab tergantung pada algoritma dan asupan data. Jika kita tidak memasukkan data, maka AI akan menggunakan data yang ada atau menggunkan data orang atau negara lain.

“Kalau praktik Islam di Indonesia tidak masuk data, bisa jadi AI akan menjawab dengan menggunakan data terkait praktik Islam di negara lain yang belum tentu sesuai,” pesannya

Prof Pratiko kembali menegaskan bahwa AI ada gunanya, termasuk untuk membangung karakter bangsa, mengembangkan pengetahuan dan kedokteran, serta hal manfaat lainnya. Namun, semua itu tergantung pada algoritma dan asupan data yang menjadi dasar bagi AI untuk berpikir

“Jika karakter bangsa di AI kan semua, maka tergantung asupan data yang masuk. Kalau data Indonesia tidak masuk, maka AI akan menjawab dari data negara lain. Ini implikasinya bisa kehilangan karakter dan jatidiri kita, bisa tergerus dengan sangat cepat dan ada pergeseran nilai. Ini risiko yang harus ditangani,” ujarnya.

“Saya mendorong PBNU dan PP Muhammadiyah membuat AI. Kalau tidak, masyarakat Indonesia akan menggunakan data siapa?,” lanjutnya.

Prof Pratikno lalu menjelaskan sejumlah risiko atau tantangan AI dalam konteks keagamaan. Pertama, menurunkan konsep jamaah. “Sebab kita bisa langsung berdialog dengan AI. Tidak perlu ketemu kyai dan ustadz, bisa langsung berdialog sambil tiduran lewat gadget,” sebutnya.

Tentangan kedua adalah gap antar generasi. Orang tua belum banyak yang menggunakan AI, sementara di kalangan pemuda, penggunaan ini terus berkembang. 

Tantang ketiga, validasi konten. “Siapa yang memvalidasi. Kita bisa tanya pada aplikasi AI yang berbeda tentang satu hal, tapi bisa jadi jawabannya beda-beda, sangat tergantung pada asupan data dan algoritma,” sebutnya.

“Inilah pentingnya kita juga harus berdaulat dari sisi AI,” tegasnya.

Tantangan lain adalah komersialisasi besar-besaran, dengan mengesampikan benar atau tidak, yang penting laku. “Kita bisa melihat ini pada fenomena klickbait, judul provokatif, isi tidak penting. Anak muda berperilaku aneh hanya agar dapat follower. AI bisa begitu,” ucapnya.

Ada juga tantangan terkait distorsi interpretasi agama, erosi otoritas ulama karena individualitas, kehilangan aspek spiritual dan komunal. “Mari bijak dan cerdas dalam menggunaakn AI,” tandasnya.