인도, 소셜 미디어 AI 생성 콘텐츠 단속

인도의 새로운 IT 규칙, AI 콘텐츠와 딥페이크 겨냥

인도가 AI 생성 허위 정보와 딥페이크의 증가에 대응하기 위해 결정적인 조치를 취했습니다. 2026년 2월 10일, 전자정보기술부(MeitY)는 2021년 정보기술(중개자 가이드라인 및 디지털 미디어 윤리 규정) 규칙의 개정안을 통보했습니다. 2026년 2월 20일부터 시행되는 이 변경 사항은 인도 최초의 합성 생성 정보(SGI)에 대한 공식 규제 프레임워크를 도입합니다. 이 규칙은 소셜 미디어 플랫폼이 AI 생성 콘텐츠에 라벨을 부착하고, 추적 가능한 메타데이터를 삽입하며, 삭제 요청에 신속히 대응하도록 의무화합니다. 이 조치는 사용자가 실제 콘텐츠와 기계 생성 콘텐츠를 구별할 수 있도록 권한을 부여하는 동시에 유해한 합성 미디어의 확산에 대해 플랫폼의 책임을 묻는 것을 목표로 합니다.

개정안은 SGI를 컴퓨터 자원을 사용하여 생성되거나 변경된 오디오, 시각 또는 시청각 콘텐츠로 정의하며, 이는 실제처럼 보이고 진짜로 오인될 수 있는 것을 말합니다. 색상 보정, 노이즈 감소, 번역과 같은 일상적인 편집은 원래 의미를 왜곡하지 않는 한 면제됩니다. 연구 논문, 교육 자료, 가상 초안도 제외됩니다. 이 규칙은 특히 딥페이크 비디오, AI 생성 음성 해설, 얼굴 교체 이미지와 같은 기만적인 콘텐츠를 대상으로 합니다. 이러한 명확성은 일상적인 편집에 과도한 부담을 주지 않으면서 해를 끼칠 수 있는 악의적인 사용에 초점을 맞춥니다.

소셜 미디어 플랫폼의 주요 의무

새로운 규칙 4(1A)에 따라 인스타그램, 유튜브, 페이스북과 같은 주요 소셜 미디어 중개자는 여러 조치를 시행해야 합니다. 업로드 전에 사용자에게 콘텐츠가 AI 생성인지 선언하도록 요청해야 합니다. 그런 다음 플랫폼은 자동화된 도구를 배포하여 이러한 선언을 검증하고 형식, 출처, 성격을 확인해야 합니다. 합성으로 확인되면 콘텐츠에 명확하고 눈에 띄는 라벨을 부착해야 합니다. 또한 플랫폼은 지속적인 메타데이터와 고유 식별자를 삽입하여 콘텐츠를 원산지로 추적할 수 있어야 하며, 이러한 라벨이 제거되거나 억제되는 것을 허용할 수 없습니다. 준수하지 않을 경우 IT법 제79조에 따른 안전항구 보호를 상실할 수 있습니다.

이 규칙은 또한 플랫폼이 아동 성적 학대 자료, 음란 콘텐츠, 허위 전자 기록, 폭발물 관련 자료를 포함하여 법을 위반하는 SGI를 적극적으로 차단하도록 요구합니다. 실제 사람의 신원이나 목소리를 허위로 표현하는 딥페이크도 포함됩니다. 플랫폼은 최소 3개월에 한 번씩 AI 콘텐츠 오용에 대한 처벌을 영어 또는 제8부속서 언어로 사용자에게 경고해야 합니다. 이러한 의무는 합성 미디어의 악의적인 생성 및 공유를 억제하고 투명성을 촉진하는 것을 목표로 합니다.

검증 및 라벨링 프로세스

검증 프로세스는 사용자 선언과 자동 교차 확인의 두 단계 접근 방식을 포함합니다. 플랫폼은 선언을 검증하기 위한 기술적 조치를 통합해야 하며, 콘텐츠가 합성으로 플래그되면 게시 전에 가시적인 공개 태그가 적용됩니다. 이 태그는 명확하고 모호하지 않아야 하며, 사용자가 AI 생성 자료를 즉시 인식할 수 있도록 해야 합니다. 이 규칙은 또한 플랫폼이 라벨의 제거 또는 변조를 가능하게 하는 것을 금지합니다. 이러한 종단 간 책임은 신뢰를 구축하고 허위 정보의 확산을 줄이기 위해 설계되었습니다.

삭제 기한의 대폭 단축

가장 눈에 띄는 변경 사항 중 하나는 삭제 기한의 압축입니다. 플랫폼은 이제 특정 위반에 대해 정부 또는 법원 당국의 합법적 명령에 대해 단 3시간 내에 조치해야 하며, 이는 36시간에서 단축된 것입니다. 다른 기한도 대폭 줄었습니다: 15일 기한은 7일로, 24시간 기한은 12시간으로 반으로 줄었습니다. 고충 처리 절차도 빨라져 불만 사항은 24시간 내에 접수 확인이 필요합니다. 침묵이나 자동화된 무응답은 고충 메커니즘의 실패로 간주됩니다. 이러한 엄격한 기한은 유해한 AI 콘텐츠의 바이럴 확산을 억제하려는 긴급성을 반영합니다.

고충 처리 및 사용자 불만

사용자는 AI 생성 콘텐츠에 대한 불만에 대해 더 빠른 응답을 기대할 수 있습니다. 플랫폼은 24시간 내에 불만을 접수하고 15일 내에 해결해야 하며, 취한 조치 또는 조치 부재를 설명해야 합니다. 위반이 발견되면 플랫폼은 콘텐츠 삭제, 계정 정지 또는 가시성 제한을 포함한 시정 조치를 취해야 합니다. 반복 위반자나 심각한 피해를 초래한 경우 더 엄격한 처벌을 받을 수 있습니다. 이 간소화된 프로세스는 사용자에게 딥페이크 및 기타 유해한 합성 미디어를 신고할 수 있는 신뢰할 수 있는 채널을 제공하는 것을 목표로 합니다.

새 규칙이 사용자에게 의미하는 것

일반 소셜 미디어 사용자에게 가장 눈에 띄는 변화는 AI 생성 게시물, 릴스, 비디오, 오디오 클립에 라벨이 붙는 것입니다. 이러한 공개 태그는 사용자가 콘텐츠에 참여하기 전에 나타나 실제와 기계 생성 콘텐츠를 식별하는 데 도움을 줍니다. 이는 사용자가 콘텐츠를 좋아요, 공유 또는 전달하는 것에 대해 정보에 입각한 결정을 내릴 수 있도록 권한을 부여합니다. 또한 사용자는 업로드가 AI 생성인지 선언하도록 요청받아 책임 있는 게시를 장려합니다. 이 규칙은 또한 AI 콘텐츠의 오용이 계정 정지, 콘텐츠 삭제, 그리고 Bharatiya Nyaya Sanhita 및 POCSO법과 같은 법률에 따른 법적 책임으로 이어질 수 있음을 경고합니다.

사용자는 또한 플랫폼으로부터 유해한 AI 콘텐츠 공유의 결과에 대한 주기적인 경고를 볼 수 있습니다. 이러한 경고는 최소 3개월에 한 번씩 여러 언어로 표시됩니다. 이 교육적 요소는 책임과 주의의 문화를 조성하는 것을 목표로 합니다. 딥페이크가 점점 더 정교해짐에 따라 이러한 조치는 개인을 명예 훼손과 허위 정보로부터 보호하는 데 중요합니다.

법적 영향 및 처벌

이 규칙은 합성 콘텐츠와 형법 사이에 직접적인 연결선을 그립니다. 아동 성적 학대 자료, 음란 콘텐츠, 허위 전자 기록, 폭발물 관련 자료 또는 실제 사람의 신원이나 목소리를 허위로 표현하는 딥페이크를 포함하는 SGI는 이제 Bharatiya Nyaya Sanhita, POCSO법 및 폭발물법에 해당합니다. 플랫폼은 그러한 콘텐츠를 법 집행 기관에 보고해야 하며, 일부 경우 피해자에게 사용자 신원을 공개할 수 있습니다. 플랫폼의 비준수는 안전항구 보호를 상실하게 하여 사용자 콘텐츠에 대해 직접 책임을 지게 할 수 있습니다. 이 법적 프레임워크는 잠재적 위반자에게 강력한 억제 메시지를 보냅니다.

안전항구 및 플랫폼 책임

IT법 제79조에 따른 안전항구는 중개자를 사용자 생성 콘텐츠에 대한 책임으로부터 보호합니다. 그러나 새 규칙은 플랫폼이 위반하는 합성 콘텐츠를 알면서 허용, 홍보 또는 조치하지 않을 경우 실사를 실패한 것으로 간주한다고 규정합니다. 이는 안전항구 상실로 이어져 플랫폼을 소송 및 기소에 노출시킬 수 있습니다. 정부는 합성 콘텐츠에 대해 조치를 취하는 것이 보호를 박탈하지 않지만, 준수하지 않으면 박탈될 것이라고 보장했습니다. 이 균형은 적극적인 조정을 장려하면서 과실에 대해 플랫폼의 책임을 묻는 것을 목표로 합니다.

업계 및 대중의 반응

새 규칙은 엇갈린 반응을 불러일으켰습니다. 프라이버시 옹호자와 디지털 권리 단체는 잠재적 과잉 및 표현의 자유에 대한 영향에 대한 우려를 제기했습니다. 그들은 자동화된 검증 도구가 오탐과 검열로 이어질 수 있다고 주장합니다. 반면, 많은 사람들은 인도 소셜 미디어를 괴롭혀온 딥페이크와 허위 정보에 맞서기 위한 필요한 조치로 환영합니다. 플랫폼은 여전히 촉박한 기한 내에 이러한 규칙을 시행하는 운영상의 과제를 평가하고 있습니다. 정부는 원활한 준수를 보장하기 위해 이해 관계자와 협력할 것이라고 보장했습니다. 2월 20일 기한이 다가옴에 따라 모든 이의 관심은 이러한 규칙이 얼마나 효과적으로 시행되는지에 쏠려 있습니다.

이러한 규정의 성공은 강력한 시행과 지속적인 적응에 달려 있습니다. AI 기술이 빠르게 진화함에 따라 규칙은 관련성을 유지하기 위해 주기적인 업데이트가 필요할 수 있습니다. 정부의 적극적인 입장은 유사한 도전에 직면한 다른 국가들에게 선례를 남깁니다. 궁극적으로 목표는 사용자가 소비하고 공유하는 콘텐츠를 신뢰할 수 있는 더 안전하고 투명한 디지털 생태계를 만드는 것입니다.