Perkembangan kecerdasan buatan generatif (generative AI) mengubah cara publik menilai kebenaran. Selama ini, prinsip “melihat adalah mempercayai” kerap menjadi pegangan untuk memverifikasi fakta. Namun, kemampuan teknologi menghasilkan video, suara, dan gambar hiper-realistis—dikenal sebagai deepfake—membuat batas antara peristiwa nyata dan rekayasa digital kian kabur. Dampaknya tidak hanya memunculkan hoaks berbasis teks, melainkan bentuk manipulasi yang lebih sistematis dan berpotensi menggerus kepercayaan publik serta integritas proses demokrasi.
Dalam beberapa tahun terakhir, pembuatan konten deepfake menjadi semakin mudah. Jika sebelumnya membutuhkan keahlian teknis dan perangkat tertentu, kini duplikasi suara atau rekayasa video tokoh publik dapat dilakukan hanya dengan materi sumber yang sangat singkat. Situasi ini memperluas risiko disinformasi karena produksi konten sintetis dapat dilakukan lebih cepat, lebih murah, dan dalam skala yang jauh lebih besar.
Salah satu ancaman yang disorot adalah fenomena Liar’s Dividend, yakni kondisi ketika keberadaan deepfake justru memberi ruang bagi pelaku untuk menyangkal bukti yang sebenarnya autentik. Ketika rekaman yang menunjukkan tindakan melanggar hukum atau penyimpangan politik muncul, pihak yang berkepentingan dapat membantahnya dengan alasan bahwa materi tersebut “rekayasa AI”. Pada titik ini, problemnya bukan semata publik tertipu oleh konten palsu, tetapi nilai pembuktian dari materi asli ikut melemah karena masyarakat kehilangan kepastian tentang apa yang dapat dipercaya.
Efek lanjutannya dapat berkembang menjadi apa yang disebut sebagai cognitive warfare atau perang kognitif. Dalam situasi banjir informasi yang sulit diverifikasi, publik berisiko mengalami kelelahan dan apatisme karena kebingungan membedakan fakta dan manipulasi. Ketika skeptisisme berubah menjadi nihilisme—yakni keyakinan bahwa tidak ada kebenaran yang bisa dipegang—diskursus publik yang rasional dan partisipasi politik yang sehat dapat menurun.
Penanganan krisis ini juga menghadapi tantangan lintas batas. Perkembangan algoritma AI berlangsung cepat, sementara pembentukan regulasi, terutama dalam kerangka internasional, membutuhkan waktu panjang. Kesenjangan ini memunculkan regulatory lag, ketika aturan tertinggal dari laju teknologi. Selain itu, manipulasi digital bersifat tanpa batas negara. Kampanye disinformasi yang disusun di satu wilayah dapat menyebar dan memicu dampak sosial-politik di wilayah lain dalam waktu singkat, termasuk mengganggu pemilu atau memicu ketegangan sosial.
Upaya moderasi konten oleh platform teknologi juga dinilai kesulitan mengejar volume konten sintetis yang dapat diproduksi massal setiap hari. Sementara itu, mengandalkan alat pendeteksi deepfake saja tidak dipandang cukup, karena kemampuan deteksi kerap tertinggal dari teknik pembuatan konten palsu yang terus berkembang.
Dalam konteks ini, generative AI dipandang sebagai pencapaian teknologi yang besar, tetapi sekaligus membawa risiko serius jika tidak diimbangi benteng etika dan perlindungan hukum. Sejumlah pendekatan yang disorot meliputi transparansi rantai pasok digital melalui penerapan watermarking dengan standar internasional, penegakan hukum yang tegas terhadap manipulasi informasi yang dilakukan dengan niat buruk, serta penguatan literasi media agar masyarakat lebih siap menghadapi konten yang menyesatkan.
Pada akhirnya, menjaga kebenaran di era AI tidak hanya menjadi persoalan teknis, melainkan tantangan yang menyentuh fondasi kepercayaan publik. Ketika kemampuan merekayasa realitas semakin canggih, pertaruhan utamanya adalah bagaimana masyarakat dan negara menjaga integritas informasi agar ruang demokrasi tetap dapat bekerja.
