인도, 소셜 미디어 플랫폼에 대한 AI 규제 강화

인도의 새로운 AI 규정: 소셜 미디어 플랫폼이 지금 해야 할 일

인도는 2021년 정보 기술 규칙에 대한 포괄적인 개정안을 도입하여 소셜 미디어 플랫폼의 AI 생성 콘텐츠를 대상으로 삼았습니다. 2026년 2월 20일부터 시행되는 이 규칙은 합성 콘텐츠의 명확한 라벨링을 의무화하고, 불법 게시물의 삭제 기한을 3시간으로 단축하며, Instagram, YouTube, Facebook과 같은 플랫폼에 엄격한 책임을 부과합니다. 이러한 조치는 혁신과 사용자 보호의 균형을 유지하면서 딥페이크, 허위 정보 및 기타 유해한 AI 생성 자료를 억제하는 것을 목표로 합니다.

의무적 AI 라벨링: 영구 표시 및 추적 가능성

사용자가 AI 생성 콘텐츠를 만들거나 공유할 수 있는 플랫폼은 이제 이를 눈에 띄게 표시해야 합니다. 라벨은 가시적이고 모호하지 않으며 놓칠 수 없어야 합니다(숨겨진 태그나 작은 글씨 금지). 시각적 콘텐츠의 경우 라벨이 전체 표면적의 최소 10%를 차지해야 하며, 오디오의 경우 지속 시간의 처음 10% 이내에 나타나야 합니다. 또한 플랫폼은 콘텐츠의 출처(예: 생성 또는 배포한 시스템)를 추적할 수 있도록 영구적인 고유 메타데이터 또는 식별자를 삽입해야 합니다. 라벨이 적용되면 제거가 금지됩니다. 이를 통해 AI 생성 오디오, 비디오 또는 이미지가 진짜 콘텐츠와 명확히 구별되어 사용자가 딥페이크 및 합성 미디어를 식별할 수 있습니다.

3시간 삭제: 불법 콘텐츠에 대한 신속한 조치

아마도 가장 큰 변화는 삭제 기한의 대폭 단축일 것입니다. 이전에는 플랫폼이 인도 법률에 따라 불법으로 간주되는 콘텐츠를 제거하는 데 36시간이 주어졌습니다. 새로운 규칙은 이 기간을 정부 통보를 받은 후 단 3시간으로 단축합니다. 당국은 국가 안보, 공공 질서, 아동 성적 학대, 동의 없는 친밀한 이미지, 사칭, 위조 문서 또는 폭발물 관련 자료와 관련된 콘텐츠의 제거를 명령할 수 있습니다. 이는 플랫폼이 문제가 있는 게시물을 신속하게 감지하고 조치해야 하는 엄청난 압박을 가하며, 준수하지 않을 경우 안전한 피난처 보호를 상실할 수 있습니다.

사용자 신고 및 자동 검증

업로드가 게시되기 전에 플랫폼은 사용자에게 콘텐츠가 합성 생성되었는지 신고하도록 요구해야 합니다. 또한 이러한 신고를 확인하기 위해 자동화된 도구를 배포해야 합니다. 신고 또는 기술적 확인에서 AI 생성이 확인되면 플랫폼은 눈에 띄는 라벨을 표시해야 합니다. 사용자 기반이 큰 대규모 플랫폼의 경우 이 의무는 더욱 엄격해집니다. 또한 최소 3개월에 한 번씩 규칙 및 위반 시 제재에 대한 정기적인 알림을 보내야 합니다. 이 프레임워크는 책임을 사용자와 중개자 모두에게 전가하여 라벨이 없는 합성 콘텐츠가 누락되지 않도록 합니다.

법적 책임 및 안전한 피난처 영향

업데이트된 규칙에 따라 플랫폼이 라벨이 없는 합성 콘텐츠를 의도적으로 허용하거나 홍보하는 경우 주의 의무를 위반한 것으로 간주됩니다. 이로 인해 플랫폼은 제3자 콘텐츠 책임에 대한 법적 면책(안전한 피난처)을 상실할 수 있습니다. 규칙은 또한 다른 사람이 이러한 라벨을 변조하는 데 도움이 되는 도구나 서비스를 제공하는 것을 금지합니다. AI 콘텐츠의 생성 또는 유포를 용이하게 하는 플랫폼은 이제 아동 성적 학대 자료, 외설적 콘텐츠 및 딥페이크를 포함한 불법 합성 미디어를 방지하기 위한 안전 장치를 구현해야 합니다. 준수하지 않을 경우 계정 정지, 콘텐츠 삭제, 피해자에 대한 사용자 신원 공개, 법 집행 기관에 대한 신고 의무가 발생할 수 있습니다.

합성 콘텐츠의 정의 및 제외 사항

규칙은 "합성 생성 정보"를 진짜 또는 사실로 보이도록 인공적 또는 알고리즘적으로 생성, 수정 또는 변경된 콘텐츠로 공식 정의합니다. 이는 딥페이크 및 AI 생성 사칭을 대상으로 합니다. 그러나 일상적인 편집, 접근성 기능, 학술 및 교육 자료, 콘텐츠를 실질적으로 변경하지 않는 선의의 기술적 변경은 제외됩니다. 이 좁은 정의는 유해한 AI 남용을 규제하면서 합법적인 창의적 또는 교육적 사용을 방해하지 않는 균형을 유지하는 것을 목표로 합니다. 현실을 모방하는 콘텐츠에 초점을 맞춤으로써 정부는 AI 속임수 및 허위 정보에 대한 가장 시급한 우려를 해결합니다.

글로벌 영향 및 플랫폼 준비 상태

인도의 새로운 규칙은 가장 엄격한 규정 중 하나로, AI 규제로 고심하는 다른 국가에 선례를 설정합니다. 6억 명이 넘는 인터넷 사용자를 보유한 인도는 Meta, Google, X와 같은 플랫폼의 거대 시장입니다. 이들 회사는 이미 일부 AI 라벨링 관행을 가지고 있지만 이제 인도의 특정 요구 사항을 준수해야 합니다. 과제는 규모에 맞게 변조 방지 라벨링과 3시간 삭제를 구현하는 데 있습니다. 의도는 딥페이크 및 유해 콘텐츠로부터 사용자를 보호하는 것이 분명하지만, 전문가들은 신뢰할 수 있는 라벨링 기술이 아직 발전 중이라고 경고합니다. 플랫폼은 제재를 피하기 위해 자동 감지 및 메타데이터 시스템에 투자해야 합니다. 규칙이 시행됨에 따라 세계는 인도가 디지털 생태계에서 AI 거버넌스의 미래를 어떻게 형성하는지 지켜볼 것입니다.