Aturan IT Baru India Targetkan Konten AI dan Deepfake
India telah mengambil langkah tegas untuk memerangi gelombang misinformation dan deepfake yang dihasilkan AI. Pada 10 Februari 2026, Kementerian Elektronika dan Teknologi Informasi (MeitY) memberitahukan amandemen terhadap Aturan Teknologi Informasi (Pedoman Perantara dan Kode Etik Media Digital), 2021. Perubahan ini, berlaku mulai 20 Februari 2026, memperkenalkan kerangka regulasi formal pertama untuk informasi yang dihasilkan secara sintetis (SGI) di negara tersebut. Aturan ini mewajibkan platform media sosial untuk memberi label konten yang dihasilkan AI, menyematkan metadata yang dapat dilacak, dan bertindak cepat atas permintaan penghapusan. Langkah ini bertujuan memberdayakan pengguna untuk membedakan antara konten asli dan buatan mesin, sekaligus meminta pertanggungjawaban platform atas penyebaran media sintetis yang berbahaya.
Amandemen ini mendefinisikan SGI sebagai konten audio, visual, atau audio-visual yang dibuat atau diubah menggunakan sumber daya komputer yang tampak nyata dan bisa disalahartikan sebagai asli. Pengeditan rutin seperti koreksi warna, pengurangan noise, atau terjemahan dikecualikan, selama tidak mendistorsi makna asli. Makalah penelitian, materi pelatihan, dan draf hipotetis juga dikecualikan. Aturan ini secara khusus menargetkan konten menyesatkan seperti video deepfake, voiceover yang dihasilkan AI, dan gambar yang ditukar wajah. Kejelasan ini memastikan pengeditan sehari-hari tidak dibebani secara berlebihan, sambil fokus pada penggunaan jahat yang dapat menyebabkan kerugian.
Kewajiban Utama untuk Platform Media Sosial
Di bawah Aturan 4(1A) yang baru, perantara media sosial signifikan seperti Instagram, YouTube, dan Facebook harus menerapkan beberapa langkah. Sebelum unggahan apa pun, mereka harus meminta pengguna untuk mendeklarasikan apakah konten tersebut dihasilkan AI. Platform kemudian perlu menerapkan alat otomatis untuk memverifikasi deklarasi ini, memeriksa format, sumber, dan sifat. Jika dikonfirmasi sebagai sintetis, konten harus membawa label yang jelas dan menonjol. Selain itu, platform harus menyematkan metadata persisten dan pengidentifikasi unik untuk melacak konten kembali ke asalnya, dan mereka tidak dapat membiarkan label ini dihapus atau disembunyikan. Kegagalan untuk mematuhi dapat mengakibatkan hilangnya perlindungan safe harbour di bawah Pasal 79 UU IT.
Aturan ini juga mewajibkan platform untuk secara aktif memblokir SGI yang melanggar hukum, termasuk materi pelecehan seksual anak, konten cabul, catatan elektronik palsu, dan materi terkait bahan peledak. Deepfake yang salah menggambarkan identitas atau suara orang nyata juga tercakup. Platform harus memperingatkan pengguna setidaknya sekali setiap tiga bulan tentang hukuman penyalahgunaan konten AI, dalam bahasa Inggris atau bahasa Jadwal Kedelapan. Kewajiban ini bertujuan mencegah pembuatan dan berbagi media sintetis yang jahat sambil mempromosikan transparansi.
Proses Verifikasi dan Pelabelan
Proses verifikasi melibatkan pendekatan dua langkah: deklarasi pengguna dan pemeriksaan silang otomatis. Platform harus mengintegrasikan langkah teknis untuk memverifikasi deklarasi, dan jika konten ditandai sebagai sintetis, tag pengungkapan yang terlihat diterapkan sebelum publikasi. Tag ini harus jelas dan tidak ambigu, memastikan pengguna dapat langsung mengenali materi yang dihasilkan AI. Aturan ini juga melarang platform mengaktifkan penghapusan atau perusakan label. Akuntabilitas end-to-end ini dirancang untuk membangun kepercayaan dan mengurangi penyebaran misinformation.
Pengurangan Drastis dalam Tenggat Waktu Penghapusan
Salah satu perubahan paling mencolok adalah pemadatan tenggat waktu penghapusan. Platform kini hanya memiliki tiga jam untuk bertindak atas perintah sah dari pemerintah atau pengadilan untuk pelanggaran tertentu, turun dari 36 jam. Jendela lain telah dipangkas: jendela 15 hari kini menjadi tujuh hari, dan tenggat 24 jam dipotong menjadi 12. Proses penyelesaian keluhan juga dipercepat, dengan keluhan memerlukan pengakuan dalam 24 jam. Diam atau respons otomatis non-respons akan dianggap sebagai kegagalan mekanisme keluhan. Tenggat waktu yang lebih ketat ini mencerminkan urgensi untuk mengekang penyebaran viral konten AI yang berbahaya.
Penyelesaian Keluhan dan Keluhan Pengguna
Pengguna dapat mengharapkan respons lebih cepat terhadap keluhan mereka tentang konten yang dihasilkan AI. Platform harus mengakui keluhan dalam 24 jam dan menyelesaikannya dalam 15 hari, menjelaskan tindakan apa pun yang diambil atau tidak. Jika pelanggaran ditemukan, platform harus mengambil langkah korektif, termasuk penghapusan konten, penangguhan akun, atau membatasi visibilitas. Pelanggar berulang atau mereka yang menyebabkan kerugian serius dapat menghadapi hukuman lebih ketat. Proses yang disederhanakan ini bertujuan memberi pengguna saluran yang andal untuk melaporkan deepfake dan media sintetis berbahaya lainnya.
Apa Arti Aturan Baru bagi Pengguna
Bagi pengguna media sosial rata-rata, perubahan yang paling terlihat adalah label pada postingan, reels, video, dan klip audio yang dihasilkan AI. Tag pengungkapan ini akan muncul sebelum pengguna berinteraksi dengan konten, membantu mereka mengidentifikasi apa yang asli dan apa yang buatan mesin. Ini memberdayakan pengguna untuk membuat keputusan yang tepat tentang menyukai, membagikan, atau meneruskan konten. Selain itu, pengguna akan diminta untuk mendeklarasikan apakah unggahan mereka dihasilkan AI, mempromosikan posting yang bertanggung jawab. Aturan ini juga memperingatkan bahwa penyalahgunaan konten AI dapat menyebabkan penangguhan akun, penghapusan konten, dan bahkan tanggung jawab hukum di bawah hukum seperti Bharatiya Nyaya Sanhita dan UU POCSO.
Pengguna juga dapat mengharapkan melihat peringatan berkala dari platform tentang konsekuensi berbagi konten AI yang berbahaya. Peringatan ini akan muncul setidaknya sekali setiap tiga bulan, dalam berbagai bahasa. Komponen edukatif ini bertujuan menumbuhkan budaya akuntabilitas dan kehati-hatian. Dengan deepfake yang semakin canggih, langkah-langkah seperti itu sangat penting untuk melindungi individu dari kerusakan reputasi dan misinformation.
Implikasi Hukum dan Hukuman
Aturan ini menarik garis langsung antara konten sintetis dan hukum pidana. SGI yang melibatkan materi pelecehan seksual anak, konten cabul, catatan elektronik palsu, materi terkait bahan peledak, atau deepfake yang salah menggambarkan identitas atau suara orang nyata kini jatuh di bawah Bharatiya Nyaya Sanhita, UU POCSO, dan UU Bahan Peledak. Platform harus melaporkan konten tersebut ke penegak hukum dan dapat mengungkapkan identitas pengguna kepada korban dalam beberapa kasus. Ketidakpatuhan oleh platform dapat mengakibatkan hilangnya perlindungan safe harbour, membuat mereka bertanggung jawab langsung atas konten pengguna. Kerangka hukum ini mengirimkan pesan pencegahan yang kuat kepada calon pelanggar.
Safe Harbour dan Tanggung Jawab Platform
Safe harbour di bawah Pasal 79 UU IT melindungi perantara dari tanggung jawab atas konten yang dihasilkan pengguna. Namun, aturan baru menetapkan bahwa jika platform dengan sengaja mengizinkan, mempromosikan, atau gagal bertindak atas konten sintetis yang melanggar, itu akan dianggap telah gagal dalam uji tuntasnya. Ini dapat menyebabkan hilangnya safe harbour, mengekspos platform pada tuntutan hukum dan penuntutan. Pemerintah telah menjamin bahwa bertindak terhadap konten sintetis tidak akan menghilangkan perlindungan mereka, tetapi kegagalan untuk mematuhi akan. Keseimbangan ini bertujuan mendorong moderasi proaktif sambil meminta pertanggungjawaban platform atas kelalaian.
Respons Industri dan Publik
Aturan baru ini telah menimbulkan reaksi beragam. Advokat privasi dan kelompok hak digital telah menyuarakan kekhawatiran tentang potensi overreach dan dampak pada kebebasan berekspresi. Mereka berpendapat bahwa alat verifikasi otomatis dapat menyebabkan positif palsu dan sensor. Di sisi lain, banyak yang menyambut langkah ini sebagai langkah yang diperlukan untuk memerangi deepfake dan misinformation yang telah melanda media sosial India. Platform masih menilai tantangan operasional dalam menerapkan aturan ini dalam tenggat waktu yang ketat. Pemerintah telah menjamin bahwa mereka akan bekerja dengan pemangku kepentingan untuk memastikan kepatuhan yang lancar. Saat tenggat 20 Februari mendekat, semua mata tertuju pada seberapa efektif aturan ini ditegakkan.
Keberhasilan regulasi ini akan bergantung pada implementasi yang kuat dan adaptasi berkelanjutan. Dengan teknologi AI yang berkembang pesat, aturan ini mungkin memerlukan pembaruan berkala agar tetap relevan. Sikap proaktif pemerintah menetapkan preseden bagi negara lain yang bergulat dengan tantangan serupa. Pada akhirnya, tujuannya adalah menciptakan ekosistem digital yang lebih aman dan transparan di mana pengguna dapat mempercayai konten yang mereka konsumsi dan bagikan.
