Sebuah video yang memperlihatkan jembatan gantung putus di Bali saat banyak orang menyeberang beredar luas di media sosial. Unggahan yang pertama kali muncul pada 29 Juli 2025 itu telah ditonton lebih dari 70 juta kali, meraih lebih dari 320 ribu tanda suka, 14.700 komentar, dan hampir 500 ribu kali dibagikan.
Namun, analisis menggunakan alat pendeteksi video AI Hive Moderation menunjukkan video tersebut kemungkinan besar merupakan hasil rekayasa AI generatif, dengan probabilitas 99,2%.
AI generatif merupakan inovasi kecerdasan buatan yang dapat menciptakan konten baru berdasarkan instruksi atau prompt, mulai dari teks, gambar, hingga video yang menyerupai buatan manusia. Teknologi ini juga dapat memanipulasi konten asli—baik visual maupun suara—hingga tampak meyakinkan. Teknik manipulasi semacam ini dikenal sebagai deepfake.
Untuk mengenali video yang diduga buatan AI, ada beberapa langkah yang dapat dilakukan. Pertama, memeriksa detail video secara saksama. Bagian-bagian kecil seperti jari, telinga, atau aksesori kerap tampak tidak wajar, melebur dengan objek lain, atau berubah secara tidak konsisten. Dalam video jembatan gantung tersebut, misalnya, lengan baju seseorang berbaju biru terlihat tidak konsisten: pada detik ke-5 lengan baju tampak digulung, namun pada detik ke-8 berubah menjadi panjang dan tidak digulung.
Selain detail tubuh, elemen visual seperti tulisan atau logo yang terlihat tidak sinkron juga bisa menjadi petunjuk bahwa sebuah video merupakan hasil rekayasa.
Kedua, memperhatikan gerakan dalam video. Pada cuplikan jembatan gantung putus itu, air terjun di sisi kanan tampak tidak bergerak pada detik-detik awal, lalu mulai terlihat bergerak dan lebih realistis sejak detik ke-8. Gerakan yang tidak wajar atau tidak realistis dapat menjadi indikasi sebuah video bukan rekaman asli.
Ketiga, menelusuri jejak video melalui reverse image search untuk mengetahui sumber awal atau kapan video pertama kali diunggah. Cara ini dapat membantu memastikan apakah sebuah konten pernah diberi penanda sebagai buatan AI atau justru memiliki rekam jejak sebagai video asli.
Perkembangan teknologi AI generatif untuk pembuatan video disebut kian pesat, termasuk model seperti Sora dan Google Veo 3. Di satu sisi, kemampuan menghasilkan video yang tampak realistis terus meningkat. Namun di sisi lain, perkembangan ini juga memunculkan risiko penyalahgunaan.
Pakar keamanan siber dan forensik digital Alfons Tanujaya mengatakan kepada DW bahwa video hasil AI generatif akan semakin sulit dibedakan dari video asli. Menurutnya, pola perkembangan teknologi mengarah pada hasil yang makin sempurna sehingga identifikasi akan semakin menantang.
Hal serupa disampaikan pakar komunikasi digital Universitas Indonesia, Firman Kurniawan. Ia menilai alat pendeteksi AI berpotensi semakin kesulitan ketika video buatan AI menjadi makin realistis. Firman juga mengingatkan bahwa perangkat pendeteksi tidak selalu bisa memutlakkan sebuah konten sebagai AI atau bukan, karena ada kemungkinan konten yang bukan AI justru teridentifikasi sebagai AI jika strukturnya mirip. Ia menyarankan penggunaan kombinasi berbagai alat pendeteksi untuk memeriksa keaslian konten.
Terkait peredaran konten yang meragukan, Alfons mengimbau pengguna media sosial agar tidak sembarang membagikan informasi sebelum yakin kebenarannya. Ia menekankan bahwa membagikan konten yang melanggar hukum dapat berujung pada konsekuensi hukum bagi pihak yang menyebarkannya.
Alfons juga menyoroti pentingnya pengawasan pemerintah untuk meminimalkan penyalahgunaan AI. Meski Indonesia belum memiliki aturan spesifik mengenai AI, ia menyebut pemerintah dapat menggunakan perangkat hukum yang sudah ada, seperti UU ITE dan aturan terkait lainnya, seraya menegaskan bahwa penegakan hukum menjadi faktor kunci.
Sementara itu, Firman mengingatkan agar pengawasan tidak sampai menghambat perkembangan AI yang mendukung inovasi dan aktivitas manusia. Ia menilai masyarakat perlu memahami porsi penggunaan yang tepat: memanfaatkan AI untuk hal positif, sekaligus menyadari potensi risikonya ketika teknologi tersebut digunakan untuk merugikan atau membahayakan orang lain.
