Pasca-penyiraman air keras terhadap aktivis Komisi untuk Orang Hilang dan Korban Tindak Kekerasan (KontraS), Andrie Yunus, beredar sejumlah konten di media sosial yang menampilkan foto terduga pelaku di atas sepeda motor dengan kualitas lebih jernih dibanding rekaman CCTV yang sebelumnya beredar.
Salah satu konten yang ramai dibicarakan muncul di TikTok. Dalam waktu tiga hari, unggahan tersebut disebut telah ditonton lebih dari 30 juta kali, meraih lebih dari 1 juta tanda suka, serta memicu puluhan ribu komentar. Konten itu disertai narasi yang mengesankan seolah-olah gambar tersebut berasal dari rekaman kamera pemantau di lokasi kejadian, antara lain klaim “1 Indonesia sedang mencari 2 orang ini” dan “Muka sejelas ini kok masih belum tertangkap?”.
DW Indonesia menganalisis konten, foto, dan klaim tersebut. Meski pihak kepolisian hingga Kementerian Digital dan Informasi RI telah mengonfirmasi bahwa foto terduga pelaku yang beredar merupakan buatan AI, respons warganet di kolom komentar beragam. Sebagian menerima klaim yang beredar, sementara lainnya menilai gambar tersebut hasil rekayasa.
Dalam penelusuran awal, tim Cek Fakta DW memeriksa foto menggunakan dua alat pendeteksi AI, yakni Hive Moderation dan ZeroGPT. Kedua alat itu menunjukkan kemungkinan foto dibuat oleh AI relatif rendah. Hive Moderation menampilkan probabilitas 12,6 persen, sementara ZeroGPT 2 persen. Namun, penelusuran tidak berhenti pada hasil tersebut.
DW kemudian melakukan verifikasi manual melalui pengamatan lebih rinci serta mewawancarai pakar digital. Dari pemeriksaan itu, ditemukan sejumlah kejanggalan yang dinilai lazim muncul pada konten berbasis AI, seperti anomali anatomi dan diskontinuitas objek. Di antaranya, tangan yang tampak tidak proporsional dan seolah menembus badan pengemudi, serta objek seperti tas ransel dan topi yang menghilang dibanding rekaman kamera pemantau asli di lokasi kejadian.
Pakar menyebut foto tersebut kemungkinan besar merupakan produk teknologi peningkat kualitas gambar atau AI Enhancer. Teknologi ini dapat membuat gambar buram atau beresolusi rendah tampak lebih tajam. Namun, peningkatan kualitas tidak selalu menampilkan detail asli karena sistem dapat menambahkan detail baru berdasarkan prediksi, bukan berdasarkan data yang benar-benar terekam.
Pakar Digital Pusat Inovasi Kecerdasan Artifisial dan Teknologi untuk Demokrasi (PIKAT), Damar Juniarto, menjelaskan AI Enhancer bekerja dengan memprediksi bagian gambar yang tidak jelas atau hilang. Karena itu, detail wajah yang tampak lebih tajam bisa merupakan hasil “tebakan” sistem. Dalam kondisi tertentu, AI bahkan dapat menghasilkan wajah yang tidak pernah ada, yang disebut sebagai “halusinasi AI”.
“AI bisa memprediksi, tapi hasilnya, terutama dari versi gratis, sering kali memiliki akurasi yang rendah, baik untuk proses enhance maupun generatif, bahkan cenderung menghasilkan ‘halusinasi’ dan hasil tiap sumber itu berbeda-beda tergantung data training masing-masing mesin AI,” kata Damar.
Ia juga mengingatkan risiko salah sasaran jika identifikasi pelaku hanya mengandalkan gambar yang telah diproses AI. “Kalau ini disebarluaskan tanpa didahului pengumpulan informasi yang cukup dan hanya berbasiskan pada foto yang di-enhance atau di-auto enhance dengan AI, maka kemungkinan salah sasaran akan sangat tinggi,” ujarnya.
Peringatan serupa disampaikan Tim Advokasi untuk Demokrasi (TAUD) selaku pendamping hukum Andrie Yunus. TAUD menilai foto yang diduga hasil rekayasa AI tidak dapat dijadikan alat bukti dalam proses hukum dan meminta masyarakat tidak menyebarluaskan konten tersebut.
“Foto tersebut tidak bisa dijadikan dasar untuk menuduh seseorang sebagai pelaku, karena tidak bisa dipertanggungjawabkan. Kami mengimbau masyarakat untuk tidak menyebarkan gambar atau video yang tidak berasal dari sumber resmi, dan menunggu informasi yang terverifikasi,” kata perwakilan TAUD, Afif Abdul Qoyim.
Insiden penyiraman air keras terhadap Andrie Yunus terjadi pada Kamis (12/03). Seiring dukungan publik yang mengalir, arus informasi di media sosial juga meningkat, termasuk beredarnya foto yang diduga dibuat melalui proses AI.
TAUD mendorong aparat menelusuri sumber awal pembuatan foto tersebut sebagai bagian dari penyelidikan. “Kami juga mendorong kepolisian, kalau memang dapat kesimpulan seperti itu, dilacak sampai kepada siapa pihak pertama yang merekayasa foto tersebut dan itu dijadikan bukti tambahan untuk mencari pelaku,” kata mereka. TAUD menambahkan, penyebaran gambar semacam ini berpotensi menjadi bagian dari upaya pelaku untuk mengaburkan informasi.
