Supernews.co.id – Di tengah gelombang transformasi digital yang kian masif, kehadiran kecerdasan buatan atau Artificial Intelligence (AI) seolah menjadi asisten pribadi yang serba tahu bagi masyarakat modern. Namun, di balik kemudahan akses informasi tersebut, tersimpan celah risiko yang bisa menjerumuskan pengguna jika tidak disikapi dengan kecerdasan kritis.
Kementerian Komunikasi dan Digital (Komdigi) secara resmi mengeluarkan peringatan keras kepada masyarakat agar tidak langsung mempercayai jawaban yang dihasilkan oleh chatbot kecerdasan buatan. Langkah ini diambil menyusul semakin tingginya ketergantungan publik terhadap teknologi AI dalam mencari informasi sehari-hari, mulai dari urusan pendidikan hingga pekerjaan profesional.
Peringatan Tegas Komdigi Terkait Akurasi Chatbot AI
Dalam sebuah diskusi bertajuk "Ngopi Komdigi" yang digelar di Jakarta pada Kamis, 29 Oktober 2026, Direktur Kemitraan Komunikasi Lembaga dan Kehumasan Komdigi, Marroli J. Indarto, memberikan sorotan tajam pada fenomena ini. Ia menegaskan bahwa meskipun AI menawarkan efisiensi yang luar biasa, teknologi ini bukanlah sumber kebenaran mutlak.
Menurut Marroli, masyarakat harus mulai membangun kesadaran bahwa setiap interaksi dengan chatbot AI membawa potensi risiko misinformasi. Pengguna diminta untuk selalu melakukan pemeriksaan ulang atau verifikasi terhadap setiap data, fakta, maupun saran yang diberikan oleh sistem cerdas tersebut melalui sumber-sumber yang jauh lebih tepercaya dan memiliki akuntabilitas.
Peringatan ini muncul bukan tanpa alasan. Seiring dengan semakin populernya platform seperti ChatGPT, Gemini, hingga Claude, banyak pengguna yang mulai meninggalkan mesin pencari konvensional dan beralih sepenuhnya ke chatbot. Padahal, karakteristik kedua teknologi ini sangat berbeda dalam hal penyajian fakta dan data.
Memahami Cara Kerja AI: Berbasis Pola, Bukan Kebenaran
Salah satu poin krusial yang disampaikan oleh Marroli J. Indarto adalah mengenai fundamental cara kerja AI itu sendiri. Chatbot AI tidak "berpikir" seperti manusia yang memahami makna di balik sebuah kata, melainkan bekerja berdasarkan probabilitas dan pola bahasa yang telah dimasukkan ke dalam sistem mereka selama masa pelatihan.
"AI juga menghasilkan jawaban itu juga berdasarkan pola. Pola yang masuk ke dalam sistem AI, chatbot-nya tentunya, dan di dalam sistem bahasanya mereka," jelas Marroli di hadapan para peserta diskusi. Hal ini menjelaskan mengapa terkadang AI bisa memberikan jawaban yang terdengar sangat meyakinkan dan sangat manusiawi, namun secara faktual sepenuhnya salah.
Dalam dunia teknologi, fenomena ini sering disebut sebagai "halusinasi AI". Karena sistem hanya berusaha melengkapi pola kalimat berikutnya yang paling mungkin, ia bisa saja menciptakan fakta-fakta palsu, mengutip sumber yang tidak pernah ada, atau mencampuradukkan data sejarah demi memberikan jawaban yang utuh kepada pengguna.
Pentingnya Intervensi Manusia dan Budaya Check and Recheck
Menghadapi keterbatasan teknologi tersebut, Komdigi menekankan bahwa peran manusia tetap tidak tergantikan. Teknologi boleh berkembang sepesat apa pun, namun penilaian akhir terhadap sebuah informasi harus tetap berada di tangan individu yang menggunakannya.
Marroli menggarisbawahi pentingnya apa yang ia sebut sebagai "intervensi manusia". Pengguna tidak boleh menjadi penerima informasi yang pasif. Sebaliknya, setiap jawaban yang keluar dari layar chatbot harus diposisikan sebagai draf awal atau referensi sementara yang masih memerlukan validasi lebih lanjut.
"Makanya penting untuk kita melakukan namanya intervensi manusia untuk mengecek terutama. Cek dan recheck juga penting adalah kita mencari konfirmasi kebenaran pada sumber-sumber yang verified," ungkapnya. Proses verifikasi silang ini menjadi benteng pertahanan utama agar masyarakat tidak terjebak dalam pusaran hoaks yang dihasilkan secara tidak sengaja oleh mesin.
Media Online Terverifikasi sebagai Rujukan Utama
Di tengah banjir informasi yang dihasilkan oleh mesin, Komdigi mendorong masyarakat untuk kembali melirik media massa dan media online yang telah terverifikasi. Berbeda dengan AI yang bekerja berdasarkan algoritma, media massa bekerja dengan standar jurnalistik yang ketat, memiliki dewan redaksi, dan bertanggung jawab secara hukum atas informasi yang disiarkan.
Konfirmasi kebenaran pada media online yang kredibel menjadi sangat vital karena adanya proses kurasi manusia di dalamnya. Wartawan dan editor melakukan pengecekan fakta di lapangan, mewawancarai narasumber yang kompeten, dan memastikan bahwa informasi yang disampaikan memiliki konteks yang tepat.
Marroli mengingatkan bahwa platform AI sendiri sebenarnya sudah memberikan peringatan atau disclaimer di dalam aplikasinya. Sebagian besar platform besar secara jujur menyatakan bahwa "AI can make mistakes" atau AI bisa membuat kesalahan. Hal ini merupakan pengakuan terbuka dari para pengembang bahwa sistem mereka belum sempurna dan masih memiliki potensi untuk memberikan informasi yang tidak sepenuhnya benar.
Transparansi Platform dan Tanggung Jawab Digital
Selain mengedukasi masyarakat, Komdigi juga menaruh perhatian besar pada tanggung jawab para penyedia platform digital. Perkembangan AI yang sangat cepat harus diimbangi dengan transparansi mengenai bagaimana teknologi tersebut digunakan dan dari mana sumber data pelatihannya berasal.
Pemerintah berharap platform digital tidak hanya mengejar inovasi, tetapi juga menyediakan mekanisme perlindungan bagi pengguna. Hal ini termasuk transparansi dalam penggunaan algoritma serta adanya kanal pengaduan atau mekanisme bagi pengguna yang merasa dirugikan oleh informasi keliru yang dihasilkan oleh AI milik platform tersebut.
Transparansi ini dinilai perlu agar perkembangan teknologi digital di Indonesia tetap berada dalam koridor yang memberikan manfaat bagi kemajuan bangsa, sekaligus melindungi kepentingan dan keamanan masyarakat luas. Tanpa tanggung jawab dari penyedia platform, risiko penyebaran disinformasi berskala besar menjadi ancaman nyata bagi stabilitas sosial.
Menjadikan AI sebagai Alat Bantu, Bukan Pengganti Otak
Sebagai penutup, Marroli J. Indarto memberikan pesan filosofis namun praktis bagi seluruh pengguna teknologi di Indonesia. Ia menyatakan bahwa AI seharusnya diposisikan sebagai alat untuk membantu proses berpikir, bukan sebagai pengganti kemampuan berpikir kritis manusia itu sendiri.
Teknologi ini sangat bermanfaat untuk melakukan brainstorming, merangkum dokumen panjang, atau membantu menyusun struktur tulisan. Namun, ketika sampai pada tahap pengambilan keputusan dan penilaian benar atau salahnya suatu informasi, kendali penuh harus tetap dipegang oleh manusia.
"Intinya adalah AI boleh membantu kita berpikir tapi kemudian keputusan dan penilaian tetap harus berada di tangan para penggunanya," pungkas Marroli. Dengan sikap kritis dan budaya verifikasi yang kuat, masyarakat Indonesia diharapkan dapat memetik manfaat maksimal dari kecerdasan buatan tanpa harus menjadi korban dari keterbatasannya.











