Ketika Kebohongan Bisa Dibuat oleh AI, Siapa yang Menjaga Kebenaran?

JAKARTA, ifakta.co — Bayangkan suatu pagi masyarakat Indonesia menerima sebuah video yang memperlihatkan seorang pejabat sedang mengucapkan pernyataan kontroversial. Wajahnya terlihat jelas. Suaranya terdengar meyakinkan. Gerak bibirnya tampak selaras dengan kalimat yang diucapkan. Dalam hitungan menit, video itu menyebar ke berbagai platform media sosial, memancing kemarahan, perdebatan, bahkan tuntutan agar pejabat tersebut segera bertanggung jawab.

Namun, ada satu persoalan mendasar: bagaimana jika video itu tidak pernah benar-benar terjadi?

Teknologi kecerdasan buatan atau artificial intelligence (AI) memungkinkan seseorang menciptakan gambar, meniru suara, dan memanipulasi video dengan hasil yang semakin meyakinkan. Melalui teknik yang dikenal sebagai deepfake, wajah seseorang dapat ditempelkan pada tubuh orang lain, suara dapat ditiru, dan adegan yang tidak pernah terjadi dapat dibuat seolah-olah merupakan rekaman autentik.

Persoalannya bukan lagi sekadar apakah sebuah video terlihat asli. Persoalan yang lebih besar adalah apakah masyarakat masih memiliki kemampuan, waktu, dan akses informasi yang memadai untuk membedakan kenyataan dari rekayasa.

Di era ketika teknologi mampu menghasilkan kebohongan yang tampak nyata, kebenaran menghadapi tantangan baru. Ancaman itu tidak hanya menyasar individu yang menjadi korban manipulasi, tetapi juga kepercayaan masyarakat terhadap media, lembaga negara, proses demokrasi, dan informasi yang beredar di ruang publik.

Pertanyaan pentingnya bukan apakah AI harus ditakuti. Pertanyaan yang lebih mendesak adalah siapa yang bertanggung jawab ketika teknologi tersebut digunakan untuk menipu masyarakat.

Ketika Mata dan Telinga Tidak Lagi Menjadi Jaminan

Selama bertahun-tahun, foto dan video kerap diperlakukan sebagai bukti kuat atas suatu peristiwa. Rekaman visual memang tidak selalu menjelaskan seluruh konteks, tetapi masyarakat terbiasa menganggap apa yang terlihat sebagai sesuatu yang benar-benar terjadi.

Kemampuan AI generatif mengubah kebiasaan tersebut.

Kini, konten sintetis dapat dibuat tanpa harus merekam peristiwa sesungguhnya. Seseorang dapat memproduksi suara tiruan yang menyerupai anggota keluarga, membuat video palsu yang melibatkan tokoh publik, atau menyusun gambar yang seolah-olah memperlihatkan kejadian tertentu.

Teknologi ini tidak dengan sendirinya membawa dampak buruk. AI juga bermanfaat untuk pendidikan, industri kreatif, penelitian, layanan publik, dan berbagai kegiatan produktif. Teknologi manipulasi visual bahkan dapat digunakan dalam produksi film dan karya seni.

Masalah muncul ketika kemampuan tersebut digunakan untuk menyamar sebagai orang lain, memeras korban, menyebarkan fitnah, memanipulasi opini, atau memengaruhi keputusan masyarakat melalui informasi palsu.

World Economic Forum (WEF), dalam Global Risks Report 2024 yang diterbitkan pada Januari 2024, menempatkan misinformasi dan disinformasi sebagai risiko global paling serius dalam jangka pendek, yakni dalam horizon dua tahun. Laporan itu juga menyoroti peran AI generatif dalam memperluas produksi konten sintetis, termasuk tiruan suara dan situs web palsu.

Penilaian tersebut merupakan pemetaan risiko berdasarkan survei persepsi para ahli, bukan bukti bahwa setiap konten AI pasti menyesatkan. Namun, pesannya jelas: kemampuan memproduksi informasi palsu secara lebih mudah dan meyakinkan dapat memperbesar persoalan yang sudah lama dihadapi masyarakat.

Dulu, membuat rekaman palsu yang tampak meyakinkan membutuhkan keterampilan teknis dan sumber daya tertentu. Kini, sebagian proses tersebut dapat dilakukan dengan perangkat yang relatif mudah diakses.

Akibatnya, hambatan untuk memproduksi manipulasi menurun, sedangkan dampak penyebarannya dapat meluas. Satu konten palsu yang dirancang untuk memancing emosi bisa beredar melintasi kelompok masyarakat sebelum fakta sebenarnya diketahui.

Bahaya Terbesar Bukan Hanya Kebohongan, tetapi Hilangnya Kepercayaan

Masyarakat sering membicarakan bahaya deepfake dari sudut pandang korban langsung. Misalnya, seseorang kehilangan uang akibat penipuan suara tiruan, seorang perempuan menjadi korban manipulasi gambar intim, atau seorang pejabat dirugikan oleh video palsu.

Semua itu merupakan ancaman serius. Namun, ada bahaya lain yang tidak kalah penting: terkikisnya kepercayaan terhadap bukti yang autentik.

Bayangkan jika masyarakat terbiasa melihat video palsu setiap hari. Ketika sebuah rekaman yang benar-benar menunjukkan pelanggaran beredar, pihak yang dirugikan dapat dengan mudah menyangkalnya sebagai hasil rekayasa AI.

Dengan kata lain, teknologi manipulasi tidak hanya bisa membuat kebohongan terlihat seperti kebenaran. Teknologi yang sama juga dapat digunakan untuk membuat kebenaran terlihat seperti kebohongan.

Inilah salah satu persoalan paling berbahaya dalam ekosistem informasi modern. Ketika keaslian suatu rekaman terus dipertanyakan, masyarakat dapat kehilangan pegangan untuk menentukan apa yang sebenarnya terjadi.

Dampaknya semakin besar apabila konten tersebut menyangkut isu sensitif, seperti pemilu, penegakan hukum, konflik sosial, kesehatan masyarakat, atau kebijakan pemerintah.

Informasi palsu dapat memicu kemarahan sebelum klarifikasi tersedia. Sementara itu, koreksi yang datang belakangan belum tentu menjangkau semua orang yang sudah menerima konten awal.

Namun, kita juga tidak boleh jatuh pada kesimpulan bahwa seluruh informasi digital kini tidak dapat dipercaya. Sikap seperti itu justru memberi ruang bagi pelaku manipulasi untuk menghindari pertanggungjawaban.

Yang dibutuhkan bukan ketidakpercayaan terhadap semua informasi, melainkan kebiasaan memeriksa bukti, sumber, konteks, dan proses verifikasi sebelum mengambil kesimpulan.

Platform Digital Tidak Bisa Hanya Menghitung Jumlah Penonton

Media sosial telah menjadi jalur penting distribusi informasi. Platform digital memungkinkan masyarakat mendapatkan kabar dengan cepat, menyampaikan pendapat, dan membangun percakapan lintas wilayah.

Namun, kecepatan tersebut juga membawa tanggung jawab.

Konten yang memancing kemarahan, ketakutan, atau rasa penasaran dapat menarik perhatian besar. Ketika sistem rekomendasi mengutamakan keterlibatan pengguna tanpa pengamanan yang memadai, informasi menyesatkan berpotensi menjangkau lebih banyak orang.

Tidak berarti setiap platform sengaja menyebarkan kebohongan atau setiap algoritma pasti mengutamakan konten palsu. Persoalannya adalah apakah perusahaan teknologi memiliki mekanisme yang cukup kuat untuk mengidentifikasi manipulasi, membatasi penyebarannya, dan memberikan penjelasan kepada pengguna.

Platform digital perlu menyediakan jalur pelaporan yang mudah, mempercepat pemeriksaan konten berisiko tinggi, serta memberi penjelasan yang transparan ketika mengambil tindakan. Konten sintetis yang berpotensi menyesatkan juga perlu memperoleh penandaan yang jelas, terutama ketika menyangkut kepentingan publik.

Di sisi lain, sistem moderasi tidak boleh bekerja secara serampangan. Konten parodi, karya seni, satire, dan penggunaan AI yang sah tidak semestinya diperlakukan sama dengan penipuan yang disengaja.

Penghapusan konten tanpa penjelasan juga dapat menimbulkan persoalan baru. Pengguna harus memiliki mekanisme untuk mengajukan keberatan, sementara keputusan platform perlu mempertimbangkan konteks, tingkat bahaya, dan kepentingan publik.

Karena itu, tanggung jawab platform tidak cukup diukur dari banyaknya konten yang dihapus. Ukurannya juga harus mencakup kecepatan respons, ketepatan penanganan, transparansi kebijakan, perlindungan korban, serta kemampuan pengguna memperoleh informasi yang dapat dipercaya.

Perusahaan teknologi memperoleh manfaat dari besarnya aktivitas pengguna. Maka, sudah semestinya mereka ikut memikul tanggung jawab atas risiko yang timbul dari sistem yang mereka kelola.

Negara Harus Melindungi Warga Tanpa Membungkam Kritik

Pemerintah memiliki peran penting dalam menghadapi penyalahgunaan AI. Negara perlu memastikan hukum mampu melindungi masyarakat dari penipuan, pemerasan, pencemaran nama baik, manipulasi yang merugikan, dan bentuk kejahatan lain yang menggunakan teknologi.

Namun, pendekatan pemerintah harus terukur.

Tidak semua konten yang keliru merupakan disinformasi yang disengaja. Misinformasi merujuk pada informasi salah yang disebarkan tanpa harus disertai niat menipu, sedangkan disinformasi mengandung unsur kesengajaan untuk menyesatkan. Dalam praktiknya, membuktikan niat dan menentukan tanggung jawab membutuhkan pemeriksaan yang cermat.

Satire, kritik terhadap pejabat, dan karya jurnalistik juga tidak boleh otomatis dianggap sebagai ancaman hanya karena menimbulkan ketidaknyamanan bagi pihak tertentu.

Kebijakan yang terlalu luas dapat menimbulkan risiko penyalahgunaan. Atas nama pemberantasan hoaks, kritik yang sah berpotensi dibatasi, sementara kewenangan menghapus informasi dapat berubah menjadi alat untuk membungkam perbedaan pendapat.

Karena itu, penanganan konten palsu harus bertumpu pada dasar hukum yang jelas, prosedur yang transparan, perlindungan hak warga, dan mekanisme keberatan yang efektif.

Pemerintah juga perlu memperkuat kemampuan lembaga terkait dalam memeriksa bukti digital, menangani laporan korban, mengungkap jaringan penipuan, dan berkoordinasi dengan platform lintas negara apabila kejahatan melibatkan pelaku atau infrastruktur di luar wilayah Indonesia.

Selain penegakan hukum, investasi dalam pendidikan publik tidak boleh diabaikan. Masyarakat perlu memahami cara kerja AI, mengenali bentuk manipulasi, serta mengetahui jalur pelaporan ketika menjadi korban.

Pemerintah tidak cukup hadir setelah kebohongan telanjur viral. Negara juga harus membangun sistem yang membantu masyarakat mengenali risiko sebelum kerugian terjadi.

Pers Harus Menjadi Penjaga Verifikasi, Bukan Pengeras Suara Viral

Di tengah banjir konten digital, pers memiliki tanggung jawab yang semakin besar. Namun, tanggung jawab itu tidak berarti media selalu benar atau kebal dari kesalahan.

Pers tetap dapat keliru. Jurnalis dapat tertipu oleh sumber yang tidak jujur. Redaksi dapat tergoda mengejar kecepatan hingga melewatkan proses verifikasi.

Justru karena itu, standar jurnalistik harus semakin kuat.

Ketika sebuah video kontroversial beredar, media tidak seharusnya langsung menjadikannya berita hanya karena menarik perhatian. Redaksi perlu memeriksa asal-usul rekaman, mencari sumber awal, menelusuri konteks, menghubungi pihak yang disebut, serta membandingkannya dengan bukti lain yang tersedia.

Pemeriksaan teknis dapat membantu mengidentifikasi manipulasi, tetapi hasil perangkat pendeteksi AI tidak boleh diperlakukan sebagai bukti mutlak. Teknologi deteksi memiliki keterbatasan dan dapat menghasilkan kesimpulan keliru. Penilaian perlu menggabungkan pemeriksaan teknis, konteks peristiwa, sumber independen, dan metode verifikasi jurnalistik.

Media juga harus berhati-hati ketika mengutip konten palsu. Menyematkan video manipulatif dalam berita, meskipun dengan tujuan membantahnya, tetap berpotensi memperluas jangkauan konten tersebut. Redaksi perlu mempertimbangkan apakah publik benar-benar membutuhkan tayangan itu atau cukup memperoleh penjelasan dan bukti pendukung.

Jika terjadi kesalahan, media harus segera melakukan koreksi secara terbuka. Kepercayaan publik tidak dibangun dengan berpura-pura tidak pernah keliru, tetapi dengan menunjukkan kesediaan untuk memperbaiki kesalahan.

Di sinilah perbedaan mendasar antara jurnalisme dan sekadar distribusi konten. Media sosial dapat menyebarkan informasi dalam hitungan detik. Pers profesional harus memastikan bahwa kecepatan tidak mengalahkan kebenaran.

Bagi media siber, termasuk Ifakta.co, tantangan ini perlu dijawab melalui disiplin verifikasi, transparansi sumber, kehati-hatian dalam menggunakan AI, dan keberanian menahan publikasi ketika fakta belum cukup kuat.

AI dapat membantu transkripsi, merangkum dokumen, atau menganalisis materi awal. Namun, tanggung jawab editorial tidak boleh diserahkan begitu saja kepada mesin. Keputusan untuk menerbitkan informasi tetap membutuhkan penilaian manusia dan standar jurnalistik yang dapat dipertanggungjawabkan.

Literasi Digital Harus Melampaui Kebiasaan Memeriksa Fakta

Selama ini, ajakan untuk melawan hoaks sering berhenti pada imbauan agar masyarakat tidak mudah percaya dan tidak sembarangan membagikan informasi.

Imbauan tersebut penting, tetapi belum cukup menghadapi teknologi yang semakin canggih.

Masyarakat membutuhkan literasi digital yang lebih menyeluruh. Mereka perlu memahami bahwa video, foto, dan rekaman suara dapat dimanipulasi. Mereka juga harus mengetahui bahwa konten yang dihasilkan AI tidak otomatis palsu, sebagaimana konten yang dibuat manusia tidak otomatis benar.

Langkah sederhana dapat dimulai dengan memeriksa sumber asli, mencari pemberitaan dari media tepercaya, membandingkan informasi dengan sumber independen, dan menelusuri kapan serta dalam konteks apa suatu rekaman pertama kali muncul.

Untuk permintaan uang atau informasi sensitif yang disampaikan melalui suara atau video, pengguna sebaiknya melakukan konfirmasi melalui saluran lain yang telah dikenal. Misalnya, menelepon kembali nomor yang sudah tersimpan atau menghubungi pihak bersangkutan melalui jalur resmi.

Masyarakat juga perlu memahami keterbatasan alat pendeteksi konten AI. Tidak ada satu aplikasi yang dapat menjamin seluruh video atau suara palsu akan teridentifikasi. Sebaliknya, hasil pemeriksaan yang menyatakan suatu konten tampak autentik tidak selalu membuktikan bahwa seluruh isi dan konteksnya benar.

Sekolah, perguruan tinggi, keluarga, organisasi masyarakat, dan perusahaan media perlu ikut membangun kebiasaan tersebut. Literasi digital seharusnya tidak hanya mengajarkan cara menggunakan perangkat, tetapi juga cara menilai informasi dan memahami konsekuensi tindakan di ruang digital.

Sikap kritis bukan berarti mencurigai semua orang. Sikap kritis berarti bersedia menunda kesimpulan sampai bukti yang memadai tersedia.

Jangan Sampai Teknologi Bergerak Lebih Cepat daripada Tanggung Jawab

AI bukan musuh yang harus ditolak sepenuhnya. Teknologi ini menawarkan banyak peluang untuk meningkatkan produktivitas, memperluas akses pengetahuan, dan membantu manusia menyelesaikan pekerjaan yang sebelumnya sulit dilakukan.

Namun, kemajuan teknologi tidak otomatis menghasilkan kemajuan sosial. Manfaat AI bergantung pada bagaimana manusia menggunakannya, bagaimana perusahaan mengelolanya, dan bagaimana negara memastikan penggunaannya tidak merugikan masyarakat.

Karena itu, menghadapi deepfake dan disinformasi tidak dapat dibebankan kepada satu pihak saja.

Platform digital harus bertanggung jawab terhadap sistem yang mereka kelola. Pemerintah harus melindungi warga tanpa menyalahgunakan kewenangan. Pers harus menjaga standar verifikasi dan transparansi. Sementara itu, masyarakat perlu membangun kebiasaan memeriksa informasi sebelum mempercayai atau menyebarkannya.

Semua pihak tersebut memiliki tanggung jawab berbeda, tetapi saling berkaitan. Kegagalan satu pihak dapat memperbesar risiko yang harus ditanggung pihak lain.

Pada akhirnya, persoalan AI bukan semata-mata tentang kemampuan mesin menghasilkan gambar atau suara yang menyerupai kenyataan. Persoalan sesungguhnya adalah apakah masyarakat memiliki sistem, pengetahuan, dan keberanian untuk mempertahankan kebenaran di tengah banjir manipulasi.

Kita tidak bisa menghentikan perkembangan teknologi hanya karena khawatir terhadap penyalahgunaannya. Namun, kita juga tidak boleh menerima setiap kemajuan sebagai sesuatu yang otomatis baik tanpa menguji dampaknya.

Sebab, ketika kebohongan dapat diproduksi dalam hitungan menit dan disebarkan ke jutaan orang, kerugian tidak berhenti pada reputasi seseorang atau uang yang hilang dari rekening korban. Yang dipertaruhkan adalah kepercayaan yang menjadi fondasi kehidupan bersama.

Di era AI, menjaga kebenaran bukan lagi tugas satu lembaga atau satu profesi. Ini adalah tanggung jawab bersama yang membutuhkan aturan yang adil, teknologi yang bertanggung jawab, pers yang independen, dan masyarakat yang kritis.

Pertanyaan akhirnya bukan apakah mesin bisa berbohong. Mesin dapat menghasilkan konten yang menyesatkan ketika digunakan atau dirancang sedemikian rupa. Pertanyaan yang lebih penting adalah apakah manusia bersedia bertanggung jawab atas kebohongan yang diciptakannya—dan apakah kita cukup serius melindungi masyarakat dari akibatnya.

Sebab, ketika kebenaran semakin mudah dipalsukan, tanggung jawab untuk membuktikannya tidak boleh ikut menghilang.

(ny/my)