Pasca penyiraman air keras oleh dua orang tak dikenal terhadap aktivis Komisi untuk Orang Hilang dan Korban Tindak Kekerasan (KontraS), Andrie Yunus, beredar sejumlah konten di media sosial yang menampilkan foto terduga pelaku di atas sepeda motor. Foto-foto itu tampak lebih jernih dibandingkan rekaman CCTV yang sebelumnya beredar.
Salah satu konten di TikTok, dalam tiga hari, dilaporkan telah ditonton lebih dari 30 juta kali, mengumpulkan lebih dari 1 juta tanda suka, serta puluhan ribu komentar. Konten tersebut disertai narasi yang mengisyaratkan seolah-olah gambar itu berasal dari rekaman kamera pemantau asli di lokasi kejadian, dengan klaim seperti “1 Indonesia sedang mencari 2 orang ini” dan “Muka sejelas ini kok masih belum tertangkap?”.
Analisis terhadap konten, foto, dan klaim menyimpulkan bahwa gambar yang beredar merupakan hasil buatan AI, menggunakan teknologi peningkat kualitas gambar (AI enhancer). Kepolisian dan Kementerian Digital dan Informasi RI juga telah mengonfirmasi bahwa foto terduga pelaku yang beredar adalah buatan AI.
Di kolom komentar, respons warganet beragam. Sebagian percaya foto tersebut menampilkan pelaku sebenarnya, sementara yang lain mengkritisi dan menilai gambar itu merupakan hasil rekayasa AI.
Dalam penelusuran, foto yang beredar diperiksa menggunakan dua alat pendeteksi AI, Hive Moderation dan ZeroGPT. Keduanya menunjukkan kemungkinan foto dibuat oleh AI relatif rendah: Hive Moderation menilai probabilitasnya 12,6 persen, sedangkan ZeroGPT 2 persen. Namun, pemeriksaan tidak berhenti pada hasil tersebut.
Verifikasi manual dilakukan melalui pengamatan lebih mendalam dan wawancara dengan pakar digital. Dari pemeriksaan itu ditemukan sejumlah anomali, termasuk kejanggalan anatomi dan diskontinuitas objek. Di antaranya tangan yang terlihat tidak proporsional dan seolah menembus badan pengemudi, serta adanya perbedaan objek seperti tas ransel dan topi yang tampak menghilang jika dibandingkan dengan rekaman kamera pemantau asli di lokasi kejadian. Kejanggalan semacam ini disebut lazim muncul pada konten yang diproses atau dihasilkan oleh AI.
Pakar digital dari Pusat Inovasi Kecerdasan Artifisial dan Teknologi untuk Demokrasi (PIKAT), Damar Juniarto, menjelaskan AI enhancer bekerja dengan memprediksi bagian gambar yang tidak jelas atau hilang. Karena berbasis prediksi, detail yang terlihat tajam tidak selalu berasal dari data asli rekaman, melainkan dapat berupa “tebakan” sistem. Dalam kondisi tertentu, AI bahkan bisa menghasilkan wajah yang tidak pernah ada, fenomena yang kerap disebut “halusinasi AI”.
“AI bisa memprediksi, tapi hasilnya, terutama dari versi gratis, sering kali memiliki akurasi yang rendah, baik untuk proses enhance maupun generatif, bahkan cenderung menghasilkan ‘halusinasi’ dan hasil tiap sumber itu berbeda-beda tergantung data training masing-masing mesin AI,” kata Damar.
Ia mengingatkan, bila identifikasi dilakukan hanya berdasarkan gambar hasil AI, risiko salah sasaran sangat tinggi. “Kalau ini disebarluaskan tanpa didahului pengumpulan informasi yang cukup dan hanya berbasiskan pada foto yang di-enhance atau di-auto enhance dengan AI, maka kemungkinan salah sasaran akan sangat tinggi,” ujarnya.
Sejalan dengan itu, Tim Advokasi untuk Demokrasi (TAUD), selaku pendamping hukum Andrie Yunus, menyatakan foto yang diduga hasil rekayasa AI tidak dapat dijadikan alat bukti dalam proses hukum. TAUD juga meminta masyarakat tidak menyebarluaskan foto atau konten terkait produk AI tersebut.
“Foto tersebut tidak bisa dijadikan dasar untuk menuduh seseorang sebagai pelaku, karena tidak bisa dipertanggungjawabkan. Kami mengimbau masyarakat untuk tidak menyebarkan gambar atau video yang tidak berasal dari sumber resmi, dan menunggu informasi yang terverifikasi,” ujar perwakilan TAUD, Afif Abdul Qoyim.
Peristiwa penyiraman air keras terhadap Andrie Yunus terjadi pada Kamis (12/03). Sejak itu, dukungan publik mengalir deras, bersamaan dengan meningkatnya arus informasi di media sosial, termasuk beredarnya foto yang diduga dibuat dengan AI.
TAUD mendorong aparat menelusuri sumber awal pembuatan foto tersebut sebagai bagian dari penyelidikan. Mereka juga menilai penyebaran gambar semacam ini berpotensi menjadi upaya untuk mengaburkan informasi. “Kami juga mendorong kepolisian, kalau memang dapat kesimpulan seperti itu, dilacak sampai kepada siapa pihak pertama yang merekayasa foto tersebut dan itu dijadikan bukti tambahan untuk mencari pelaku,” kata mereka.
