Disrupsi teknologi digital mendorong dunia memasuki era yang semakin didominasi kecerdasan artifisial (Artificial Intelligence/AI). Di satu sisi, AI generatif mampu memproduksi teks, gambar, audio, dan video sintetis dengan tingkat akurasi tinggi yang memacu produktivitas. Namun di sisi lain, kemampuan ini juga memunculkan risiko sistemik terhadap ekosistem informasi, proses demokrasi, dan hak-hak fundamental warga negara, termasuk melalui penyebaran disinformasi dan deepfake.

Dalam konteks ini, Uni Eropa mengambil langkah besar dengan mengesahkan European Union AI Act (EU AI Act), yang menerapkan pendekatan berbasis risiko. Salah satu bagian pentingnya adalah kewajiban transparansi dalam Pasal 50 ayat (1) dan ayat (2), yang dijadwalkan mulai berlaku efektif pada 2 Agustus 2026.

Perkembangan di Eropa tersebut menjadi rujukan komparatif bagi Indonesia sebagai salah satu pasar digital terbesar di Asia Tenggara. Pertanyaannya, seberapa siap Indonesia jika menerapkan ketentuan transparansi serupa, khususnya terkait kewajiban mengungkap interaksi AI dan menandai konten sintetis?

Kewajiban transparansi dalam Pasal 50 EU AI Act

Untuk membaca implikasi Pasal 50, Komisi Eropa merilis draf panduan interpretatif setelah konsultasi publik yang berakhir pada 3 Juni 2026. Panduan ini ditujukan untuk membantu otoritas nasional dan European AI Office dalam menegakkan kepatuhan, dengan ancaman sanksi administratif hingga €15.000.000 atau 3% dari total perputaran uang tahunan global perusahaan pada tahun finansial sebelumnya.

Pasal 50 ayat (1) mengatur bahwa sistem AI yang berinteraksi langsung dengan manusia—misalnya chatbot, bot jejaring sosial, atau asisten suara—harus dirancang agar pengguna menyadari bahwa mereka sedang berinteraksi dengan sistem artifisial. Draf panduan Komisi Eropa juga menegaskan kewajiban ini mencakup agentic AI, yakni sistem otonom yang dapat beroperasi mandiri. Pengungkapan diperlukan dalam setiap situasi interaksi yang dapat diperkirakan secara wajar (reasonably foreseeable).

EU AI Act memberi pengecualian bila interaksi tersebut sudah “sangat jelas” (obvious interaction) bagi pengguna rata-rata. Namun, Komisi Eropa menafsirkan pengecualian ini secara sempit. Penyedia diminta mempertimbangkan karakteristik pengguna, termasuk demografi, literasi digital, faktor kultural, bahasa, hingga potensi keberadaan kelompok rentan, untuk memastikan tidak terjadi distorsi persepsi.

Sementara itu, Pasal 50 ayat (2) menitikberatkan pada keluaran (output) AI generatif. Penyedia diwajibkan memastikan konten sintetis—baik citra, video, audio, maupun teks—dapat dideteksi dan dilabeli secara teknis melalui mekanisme seperti watermarking atau pelabelan metadata. Kewajiban ini berlaku luas, tidak hanya untuk model berskala besar (General Purpose AI/GPAI), tetapi untuk seluruh sistem AI generatif tanpa memandang arsitektur teknisnya.

Pengecualian Pasal 50 ayat (2) dipaparkan secara ketat, antara lain untuk keluaran yang bersifat murni teknis di lingkungan bisnis ke bisnis (B2B) yang aksesnya terbatas pada profesional dalam organisasi dengan pengamanan ketat agar tidak bocor ke ruang publik, serta untuk perekaman data mentah yang tidak mengubah esensi informasi asli. Komisi Eropa juga menegaskan batasan pengecualian untuk aktivitas personal dan non-profesional. Contoh yang disebutkan: pembuatan deepfake yang menargetkan politisi lokal atau isu kepentingan publik dan disebarkan di media sosial tidak dapat dipandang sebagai aktivitas personal karena berimplikasi luas terhadap wacana publik.

Posisi regulasi AI di Indonesia

Jika dibandingkan dengan Pasal 50 EU AI Act, regulasi AI di Indonesia hingga pertengahan 2026 masih berada dalam fase transisi dari pendekatan etis berbasis kebijakan (soft law) menuju kerangka hukum yang mengikat (hard law).

Instrumen yang secara eksplisit memuat prinsip tata kelola AI adalah Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (SE Menkominfo 9/2023). Surat edaran ini memuat nilai-nilai seperti inklusivitas, kemanusiaan, keamanan, aksesibilitas, pelindungan data pribadi, kredibilitas, akuntabilitas, dan transparansi. Pada prinsip transparansi, surat edaran tersebut menekankan pentingnya transparansi data untuk mencegah penyalahgunaan, termasuk akses bagi pengguna yang berhak untuk mengetahui pemrosesan data.

Namun, SE Menkominfo 9/2023 tidak bersifat imperatif dan tidak memuat sanksi tegas, sehingga lebih berfungsi sebagai pedoman etik bagi pelaku industri.

Di sisi lain, Indonesia memiliki aturan pengikat yang terkait dengan otomatisasi melalui Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP). Pasal 10 UU PDP memberikan hak kepada subjek data untuk mengajukan keberatan terhadap tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan data secara otomatis, termasuk pemprofilan, yang menimbulkan akibat hukum atau berdampak signifikan. Meski demikian, UU PDP berfokus pada tata kelola data pribadi dan tidak secara spesifik mewajibkan pelabelan atau watermark pada konten sintetis sebagaimana diatur Pasal 50 ayat (2) EU AI Act.

Kerangka lain yang relevan adalah Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE), serta Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem Elektronik dan Transaksi Elektronik (PP PSTE). Ketentuan ini mengatur pertanggungjawaban Agen Elektronik. Pasal 21 UU ITE menyatakan pengoperasian Agen Elektronik yang melakukan transaksi elektronik membebankan tanggung jawab hukum pada penyelenggaranya. Dalam definisi UU ITE, Agen Elektronik adalah perangkat dari suatu Sistem Elektronik yang dibuat untuk melakukan tindakan terhadap Informasi Elektronik tertentu secara otomatis dan diselenggarakan oleh orang. Dalam praktiknya, sistem AI yang menjadi antarmuka interaktif seperti chatbot transaksi dapat dipahami berada dalam rezim ini, termasuk tuntutan beroperasi secara andal, aman, dan bertanggung jawab, serta perlunya notifikasi yang jelas kepada pengguna saat berinteraksi dengan sistem otomatis.

Rencana kebijakan pelabelan konten AI

Perkembangan penting terjadi pada awal 2026. Kementerian Komunikasi dan Digital (Kemkomdigi) mengumumkan adanya rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional sebagai fondasi tata kelola teknologi. Pada periode yang sama, Kemkomdigi juga menyiapkan regulasi teknis berupa Peraturan Menteri yang mewajibkan konten ciptaan AI generatif yang diunggah di media sosial maupun platform digital lain mencantumkan label khusus “AI”. Kebijakan ini disebut sebagai respons untuk membendung hoaks, fabrikasi bukti digital, dan disinformasi siber, terutama menjelang dinamika politik dan sosial di ruang digital.

Inisiatif label “AI” tersebut menunjukkan arah kebijakan yang mulai sejalan dengan gagasan penandaan konten sintetis sebagaimana diatur dalam EU AI Act.

Tantangan penerapan transparansi AI di Indonesia

Meski arah kebijakan menguat, penerapan standar transparansi seketat Pasal 50 EU AI Act dinilai tidak sederhana dan memerlukan perhitungan sosio-yuridis agar tidak menghambat inovasi.

Pertama, tantangan literasi digital yang tidak merata. Perbedaan kemampuan masyarakat urban dan rural membuat penentuan standar interaksi yang “jelas” menjadi sensitif. Dalam situasi kerentanan terhadap penipuan berbasis social engineering serta manipulasi suara dan video berbasis AI, kewajiban disklosur interaksi AI dipandang perlu dibuat konkret dan minim ambiguitas.

Kedua, perumusan sanksi dan kepatuhan. EU AI Act mengandalkan denda administratif berbasis persentase pendapatan global. Jika model serupa diterapkan tanpa adaptasi, terdapat risiko terhadap ekosistem startup dan iklim investasi digital. Opsi yang disebutkan adalah penyusunan sanksi berjenjang, mulai dari teguran tertulis, denda administratif yang disesuaikan skala ekonomi pelaku usaha, hingga pemblokiran akses (take down) bagi penyedia luar negeri yang tidak patuh terhadap standar pelabelan nasional.

Ketiga, kebutuhan arsitektur kelembagaan pengawas. Penegakan kewajiban label “AI” memerlukan kapasitas teknis tinggi. Indonesia sedang menggodok pembentukan Lembaga Pelindung Data Pribadi sebagai amanat UU PDP. Salah satu opsi yang dibahas adalah mengintegrasikan pengawasan transparansi AI di bawah koordinasi Kemkomdigi dengan lembaga tersebut, atau membentuk komite ad-hoc lintas kementerian untuk harmonisasi standar kepatuhan lintas sektor.

Keempat, isu kedaulatan teknologi dan penegakan lintas batas. Banyak model dasar AI generatif yang digunakan di Indonesia berasal dari perusahaan multinasional berbasis di Amerika Serikat atau Tiongkok. Kewajiban watermarking yang kompatibel dengan sistem deteksi domestik membutuhkan posisi tawar yang kuat. Karena itu, kebijakan pelabelan dapat dikaitkan dengan mekanisme pendaftaran Penyelenggara Sistem Elektronik (PSE) bagi layanan asing yang diakses di Indonesia, agar standar teknis domestik dapat diterapkan.

Menuju era transparansi digital

Pemberlakuan Pasal 50 EU AI Act mulai 2 Agustus 2026 menandai penguatan norma global bahwa publik berhak mengetahui keaslian interaksi maupun konten yang melibatkan AI. Dalam konteks Indonesia, dorongan menguat agar ketentuan transparansi tidak berhenti sebagai pedoman etis, melainkan meningkat menjadi norma hukum yang mengikat, baik melalui Peraturan Presiden maupun regulasi yang lebih kuat di masa depan.

Di saat yang sama, perumusan aturan dipandang perlu menetapkan standar pelabelan konten sintetis secara ketat, memperjelas batas pengecualian untuk melindungi ruang publik dari disinformasi, serta merancang sanksi yang proporsional agar tujuan keamanan dan kedaulatan digital tetap sejalan dengan keberlanjutan inovasi.